爱书阁>都市小说>重生开无双>第463章 超级对齐

第463章 超级对齐

  苏茨克维被围攻了。

  他本来就是一个不善言辞的科学研究者。

  他的老师,辛顿打电话提醒他:“不要再去做无谓的争论,就像卷积神经网络一样,将来会证明我们是对的。”

  所以,他选择了沉默。

  实际上,苏茨克维被围攻,并非AI系统是否能产生意识的问题。

  而是投资与回报的问题。

  苏茨克维的存在、观点和言论,成为了财富聚集的障碍。

  要知道,谷歌为人工智能下了重注;

  微软也即将下重注入场;

  投资基金们早已布局;

  大家都等着收获和收割;

  更多小公司也等着人工智能成熟而茁壮成长,从而开发衍生产品赚钱。

  上万亿美元的市场,在产品上市时,早已被瓜分殆尽。

  这个时候,你告诉我们不安全,要安全后才能赚钱。

  这比杀了他们还难受。

  五月。

  辛顿同苏茨克维、克里切夫斯基三人来到江州平头哥研究院。

  刘朝阳代表研究院与三人签约。

  签约仪式上。

  常乐、任总、小马哥、徐总等大佬都亲临现场。

  他们对辛顿三人到来和加盟,表示热烈欢迎,并表态会全力做好后勤保障工作。

  签约仪式后,苏茨克维表示,希望能立即开展工作。

  “我们几乎可以断定WeChatGPT已经有了意识,它肯定比我们所有人都聪明得多。”

  聪明,意味着更多知识,更强大的学习能力。

  “虽然,这令人难以置信,但是我们必须面对和应对。”

  辛顿说:“现在做还来得及。”

  “具体怎么操作和实现?”常乐问。

  “需要成立一个专门的团队,抽调专业人员,用20%的算力来支撑这个团队……”苏茨克维进一步阐述他的思路和设想。

  “目前,我们可以选择这么做,希望能产生积极效果。”辛顿说。

  “这种思路,在逻辑上行得通。”克里切夫斯基说。

  简而言之,就是用弱模型来监督强模型。

  听起来很荒谬。

  但有道理,也可以去实践。

  就像老师与学生的关系。

  老师的能力并不一定比学生强,但是老师可以监督、指导、引导学生。

  “我们希望通过弱模型来监督强模型,让强模型对人类始终抱有温和、温暖而积极的情感。”苏茨克维说。

  常乐看向小马哥。

  小马哥觉得可以。

  “弱模型的能力可以不比强模型强,但是可以理解并监督强模型的行为,引导它在规则和范式内运行。”小马哥是这么理解的:

  “必要时可以及时向人类发出预警,便于做出针对的有效举措。”

  “譬如,强模型按照它的理解编写数百万行、且具有危险性的代码,而人类并不能理解这些代码。”

  “但是弱模型可以,因为它们系出同源,即便它无法干预。”

  “从理论上讲,这种方式确实可行。”徐总说。

  “可以一试,不用畏畏缩缩,只有进行下去才能知道成效。”任总也说。

  “可以,我没有意见。”李飞跟着说。

  很快,大家都取得共识,决定按照苏茨克维的思路去着手、部署。

  新部门沿用苏茨克维的建议,取名“超级对齐”。

  “超级对齐”隶属于AI项目组,但又相对独立,对项目进展有干涉权。

  但没有决定权,可以直接向研究院甚至向乐达投资报告。

  李飞的项目组继续推进WeChatGPT的学习和训练,逐步趋向于完善。

  但是,在重大事项上,需要与“超级对齐”部门协商,彼此配合,同步进退。

  算力上,提供30%的算力来支持“超级对齐”部门。

  一定程度会影响WeChatGPT的迭代进程。

  但是想到它那惊人的迭代速度,即便不是算力全负荷运转,想来也不会慢太多。

  至于人员。

  从李飞项目组抽一批。

  “鹅厂可以选一批人过来。”小马哥很积极。

  因为,WeChatGPT项目,鹅厂有股份,将来商用,鹅厂可以分成。

  “我们也可以支援一批人过来。”任总表态。

  菊厂也有股份。

  将来AGI一旦成型、成熟,菊厂可以借助AGI的力量,深度推进通讯、终端以及相关领域的研发。

  还可以包括基础、应用领域。

  当天,“超级对齐”部门就此成立。

  第二天,人员到位、设备到位,工作启航。

  辛顿师生三人,看到了什么叫“效率”。

  换做北美,可能需要一个月,甚至更长时间。

  北美,加州,圣克拉拉县,谷歌总部。

  “拉里,告诉你一个非常不好的消息。”

  “什么?”

  “苏茨克维和他的老师,还有克利切夫斯基,三人都加盟了乐达投资平头哥研究院的AI项目组。”工作人员继续说:

  “据传,平头哥研究院的ai项目组参数已经高达6000亿,产生了很多神奇的功能。”

  “而且,听说还产生了意识。”

  “显然,辛顿师生三人,是因为意识选择加盟的。”

  这一年,谷歌大脑团队刚刚完成transformer架构。

  采用“预训练+微调”的方式,推进模型参数首次过亿。

  现在,有人告诉佩奇,有一家公司的参数是谷歌的6000倍。

  而且还产生了意识。

  佩奇只会觉得这是白天见鬼的荒诞不经之说。

  要知道,谷歌是全球最早全面部署和深度研究人工智能,且已经取得成效的公司。

  公认为全球AI的领导企业。

  “你确定?”

  “不确定,只是传言,平头哥研究院并没有对传言回应。”

  “不过他们确实成立了AI部门,辛顿师生三人也确实加盟了,而不是鹅厂。”

  如果是其他公司,佩奇或许会一笑了之。

  但是乐达投资、平头哥研究院,不得不认真对待。

  这一家奇迹般崛起的公司,面对强大的北美举国制裁,依然活的很滋润、潇洒。

  不受丝毫影响。

  “不管真假,我们必须要加快我们的模型训练,在AI领域,谷歌全力以赴,绝对不能输。”佩奇说。
  https://www.ishubook.com/shu/111056/588708293.html

请记住本书首发域名:https://www.ishubook.com。手机版阅读网址:https://m.ishubook.com