小原文学网
首页 > 都市言情 > 都大学了小学系统才来无防盗 >

第一百九十三章 互补

章节目录

  “没错。“陈林点头,“而且,我希望这个模型,能够在各方面都超越目前市面上的主流大模型。“

  潘思闻言,笑了笑,语气里带着几分调侃:

  “陈总,您这个目标,可不小啊。“

  “要知道,现在全世界做AI大模型的公司,没有一千也有八百。“

  “想要做到'全面超越',难度可不是一般的大。“

  陈林也笑了:“我知道难度大,但我相信,只要方向对了,资金和人才到位了,就一定能做出来。“

  潘思微微点头,没有反驳。

  他沉吟了片刻,缓缓开口道:

  “陈总,我能问一下,您对于模型的技术路线,有什么具体的想法吗?“

  陈林坦然地摇了摇头:“说实话,我对AI这块还不够专业。所以,我希望能听听你的意见。“

  潘思听到这话,眼睛微微一亮。

  “那我就直说了。“

  他推了推眼镜,语气变得认真起来。

  “我在狗狗工作的这几年,参与过好几个大模型的训练项目。“

  “根据我的经验,我认为,目前业界主流的模型架构,比如Transformer、MoE这些,其实已经够用了。“

  “它们在理论上,都已经被证明是有效的。“

  “真正决定一个模型效果好坏的,不是架构本身,而是两个东西——“

  潘思伸出两根手指。

  “第一,数据质量。“

  “第二,对齐。“

  陈林听到这话,微微挑了挑眉。

  “能详细说说吗?“

  “当然。“潘思点了点头,接着解释道:

  “数据质量,指的是你用来训练模型的数据,到底有多干净、多高质量。“

  “很多人以为,做AI大模型,就是把海量的数据塞进去,让模型自己学就行了。“

  “但实际上,如果你的数据里有大量的噪声、错误、偏见,那么训练出来的模型,效果一定不会好。“

  “所以,数据清洗,是一个非常非常重要的环节。“

  “甚至可以说,“潘思的语气变得无比郑重,“一个模型能不能成功,50%以上,都取决于数据质量。“

  陈林听到这里,若有所思地点了点头。

  潘思接着说道:

  “至于对齐,指的是让模型的输出,符合人类的价值观和期望。“

  “比如说,你问模型一个问题,它给你的答案,应该是有用的、准确的、无害的。“

  “而不是胡说八道,或者输出一些有害信息。“

  “这就需要通过RLHF(基于人类反馈的强化学习)这种技术,对模型进行对齐训练。“

  潘思说到这里,忽然话锋一转。

  “不过,陈总,您在数学大会上推导出的那个算法,其实已经从数学层面,解决了模型幻觉的问题。“

  “这相当于,直接从源头上,提升了模型的可靠性。“

  “所以,如果您这边能把那个算法融入到模型训练里去的话......“

  潘思的眼睛里,闪过一丝兴奋的光芒。

  “我相信,我们训练出来的模型,在内容生成质量和可靠性上,一定能超越目前市面上所有的竞品!“

  陈林听完潘思的这番话,心中微微一动。

  他忽然发现,白迁和潘思,虽然对于模型架构的看法不太一样,但两个人的观点,其实是可以互补的。

  白迁更关注模型架构的创新,而潘思更关注数据和对齐。

  如果能把这两个人都招进来,让他们各自发挥所长......

章节目录
书友推荐: 年代:汉城往事1995 斗罗:武魂蓝银草,我能起死回生 大明:马皇后亲弟,开局救朱雄英 大国院士 骑士:从铁匠学徒开始无限兼职 综网:从速刷打灰开始的战斗天选 锦衣无双 中药逆袭:从每日情报开始 遮天:我为东皇太一 芙莉莲:不懂爱的小小师祖 带着空间养兽夫,恶雌成团宠了 大明国医:从九族危机到洪武独相 无限神职 别胡说,我这是人皇幡 从八门遁甲开始横推元祖无限 港综:我能刷忠诚度,最大方大佬 诸天:开局拐走雄霸之女幽若 游戏王:我被精灵绑架到决斗都市 开局中世纪,正在十字军东征 战锤:帝皇,请相信我是忠诚的!