“先测试。“
接下来的半个小时。
众人对推理服务进行了各种测试。
发送不同类型的请求。
模拟高并发场景。
检查日志和监控数据。
一切正常。
没有任何问题。
“完美。“
潘思看着测试结果,满意地点了点头:
“可以通知廖部长了。“
陈林拿起手机。
给廖轶昕发了一条消息。
【廖部长,YanHai-30B推理服务已正式上线,运行正常,随时可以开始推广】
消息发出去。
不到一分钟。
回复就来了。
【太好了!我这就安排!】
紧接着又来了一条:
【辛苦陈教授和演海的团队了!】
陈林笑着回复:
【应该的】
又过了半个小时。
廖轶昕打来了电话。
陈林接通。
“陈教授,我刚才和超算中心那边确认过了。“
廖轶昕的声音从电话那头传来。
语气很兴奋:
“他们说服务运行得非常稳定。“
“各项自动化测试也通过了,手工测试现在在做,但是应该问题不大了。“
陈林笑了笑。
“那就好。“
“关于推广的事情......“
廖轶昕继续说道:
“我这边有个初步方案。“
“想和你沟通一下。“
陈林“嗯“了一声。
“你说。“
“目前津门超算中心的云计算平台承担着超过1万个机构的计算服务。“
廖轶昕介绍道:
“包括科研院所、高校、企业......“
“甚至还有一些政府部门的计算任务。“
他顿了顿:
“我们打算先在这些机构里进行推广。“
“让他们试用YanHai-30B。“
“收集反馈意见。“
“然后再逐步扩大范围。“
陈林听完,想了想。
“我觉得没问题。“
他说:
“先小范围试用,收集反馈,然后迭代优化。“
“这是比较稳妥的做法。“
“太好了。“
廖轶昕的声音里透着欣慰:
“那我们就按这个方案来。“
“我这边会尽快推进。“
“有任何进展,第一时间通知你。“
3月17日。
周二。
上午九点刚过。
帝都。
燕北大学。
理科五号楼七层。
自然语言处理实验室。
阳光透过窗户洒进来。
在地板上投下一道道光斑。
实验室里已经坐了七八个学生。
每个人面前都摆着一台或两台显示器。
屏幕上跳动着各种代码和命令行窗口。
空气中弥漫着咖啡的香味。
还有一股子隐隐约约的头发焦糊味。
——那是程序员特有的味道。
甄逸飞坐在靠窗的位置。
他今年博三了。
再过一年就要毕业。
论文压力大得像一座山。
每天压在他头顶上。
喘不过气来。
他的研究方向是大模型的知识推理能力。
简单来说。
就是研究怎么让大模型更好地进行逻辑推理、数学计算这些“硬核“任务。
这个方向很热门。
热门到什么程度呢?
全世界的研究者都在往这个方向挤。
就像春运时候的火车站。
人山人海。
摩肩接踵。
想要发出好的论文,难度越来越大。
甄逸飞的课题研究已经连续三个月没有新的进展了。
他的导师张明远教授虽然嘴上没说什么。
但每次组会的时候那意味深长的眼神。
已经说明了一切。
“师兄。“
旁边的李羽桐凑了过来。
她是硕士二年级。
去年刚进实验室。
现在在给甄逸飞打下手。
圆圆的脸蛋。
戴着一副黑框眼镜。
看起来很文静。
“你看到学院发的邮件了吗?“
她的声音压得很低,像是在说什么秘密。
甄逸飞头也没抬。
眼睛还盯着屏幕上的代码。
“什么邮件?“
“就是关于那个新模型的。“
李羽桐说:
“超算中心那边推了一个新的大模型。“
“叫什么......YH-30B。“
“说是让我们试用一下。“
甄逸飞这才抬起头。
“YH-30B?“
他皱了皱眉。
这个名字有点陌生。
他对国内的大模型还是比较了解的。
毕竟这是他的研究领域。
ALBB的Qwen系列。
深度求索的DS。
智谱的GLM。
还有白度的文心......
这些都是业内耳熟能详的名字。
但YH-30B?
没听说过啊。
甄逸飞打开邮箱。
翻了翻。
果然找到了那封邮件。
邮件是昨天下午发的。
来自学院科研办。
标题是:【关于试用YH-30B大模型的通知】
甄逸飞点开看了看。
内容很简洁。
说是津门超算中心新上线了一个叫YH-30B的国产自研大模型。
现在免费向合作机构开放试用。
希望大家积极体验,提出反馈意见。
后面附了API接入地址和文档链接。