李飞立即打电话告诉常乐、任总和徐总。
上述三人，当天下午就聚集平头哥研究院的Ai大楼。
三人看完前后两次的问答内容后，都陷入沉思。
许久，徐总说：“既然列出了时间表，就说明模型应该已经有了时间概念。”
常乐问：“那为什么第二次又问不出了？”
徐总说：“可能……是在有意识的隐藏自己？”
常乐说：“但是不可能啊，4000多亿的参数，怎么可能产生意识？涌现的基本条件都不具备。”
任总说：“这期间一定发生了我们所不知道的事情。”
“建议和这位提问的工程师好好回忆，看看有哪些细节是我们忽略的。”
常乐说：“我已经告诉马总了，他那边尽快赶过来，辛顿教授也会来。”
徐总问：“哦？说动了？”
“这是必然，有意识的语言模型，任何一名科学家、学者都会有浓厚兴趣。”
第二天上午，小马哥出现在江州平头哥研究院。
与之一同前来的还有辛顿、苏茨克维和克利切夫斯基师生三人。
辛顿对4000多亿参数就能产生意识，既惊讶，又好奇，更多是担心。
如果一切都是真的，它是人类新纪元的开端，还是末日来临的序幕？
辛顿联系了两名得意门生，苏茨克维、克利切夫斯基一听，二话不说紧随而来。
当辛顿、苏茨克维和克利切夫斯基三人在小马哥带领下，跨过平头哥研究院大门时，心里有种激动情绪在喷涌。
西方媒体一直在丑化、恶魔化乐达投资。
称其为“强盗”“小偷”“野蛮人”“秃鹫”……
但是对于平头哥研究院，评价却相对客观，认为这里是东方世界的科研圣地。
陶铝材料至今仍未被西方的研究机构揭开神秘面纱，认为这是上帝杰作；
固态电池从这里走向世界，改变了全球新能源发展格局；
至于“乙克”，则拯救了全球4亿人。
尽管它内外有别、价格歧视，被人诟病，却依然被认为是拯救病人的“福音”。
进入AI大楼。
在小马哥介绍下，辛顿、苏茨克维和克利切夫斯基三人一一和常乐、任总、徐总、刘院士等大佬握手。
然后就将注意力集中到模型上。
辛顿教授查看了WeChatGpt的算法，以及训练思路。
然后再与那位问答工程师交流一番。
最后他肯定说：
“你们一直走在正确的道路上，迭代的速度超出了想象，领先了全球……”
“我想，它应该是有了意识，而且是那种很高级的意识……”
“我不确定它为什么要隐藏自己，但想来不太会是好事。”
苏茨克维说：“你们注意，在问答上，它已经没有恒定、固定的回答，总是会在细微处自行调节。”
“那我们究竟该怎么应对？”小马哥问。
“必须要积极去面对，它的智慧很可能已经超越人类。”苏茨克维严肃地说:
“其实，我一直在思考这个问题，思考如何培育出风险可控的AGI。”
“我认为，必须要有一整套超级对齐的思维。”
“如果不这么做，自然选择与对进化的本能渴望，将会占领AGI，让它视自己的生存为最重要的事……”
超级对齐，是苏茨克维一直思考的问题。
即如何让AI系统发展的终极目标，符合人类的价值观和利益。
“我强烈建议，成立一个专门的超级对齐部门，制定一整套故障安全程序来监督WeChatGpt的运行和发展。”
“在这套故障安全程序正式运行并有成效前，不要对外开放。”
“它监督的内容包括网络信息安全、是否教唆实施犯罪行动、是否泄露核机密或生化武器技术等……”
苏茨克维的话引起了众人的思考。
已经退休的克利切夫斯基则带着不可思议的口吻说：
“想不到我们当年确定的算法，已经发展到了这一步……”
“实际上，我们并不确定这套算法最终能不能生成意识，我们只是希望它会是更好的工具。”
常乐听完三人的话，趁机说：
“辛顿教授，苏茨克维先生，克利切夫斯基先生，我们可以接受你们的建议……”
“但是，超级对齐部门该怎么运行？”
“故障安全程序又该怎么制定？”
“怎么发展？”
“怎么限制？”
“我们一无所知……”
“所以，我们想邀请三位加盟平头哥研究院的AI项目组，主持这个超级对齐部门。”
苏茨克维和克利切夫斯基互相对视，看向辛顿。
辛顿思忖道：“常先生，我们可能需要时间考虑。”
“没有问题，在最终做出决定之前，我们希望三位认真考虑我们的邀请，为了人类……”常乐的话很郑重、严肃、认真。
辛顿三人点点头。
为什么要邀请三人？
平头哥研究AI项目组有共识。
常乐、小马哥、任总、徐总、刘院士等人都有共识。
这波AI浪潮的源头，就是三人当初的卷积神经网络算法。
也许大多数公司认为，算法不稀奇，关键在于算力和数据。
但必须正视一个事实。
辛顿师生三人，尤其是苏茨克维，十多年来，一直立足于人工智能的前沿。
其每个阶段的成果，都可能是大多数人一生都无法企及的高度。
苏茨克维参与或主导的工作，一度改变了计算机视觉领域、机器翻译甚至自然语言处理领域的研究进程。
其研究论文被引用超过42.7万次，成为引用量最多的计算机科学家之一。
当事物的发展超出预计之后，如何去应对？
还是需要回溯到事物的源头，来寻找答案。
酒店。
辛顿师生三人聚在一个房间，讨论这件事。
“老师，现在该怎么办？我很疑惑，为什么仅有4000多亿的参数就能产生意识，更关键的是，这个意识似乎还在自我隐藏。”苏茨克维说。
“这也是我不能理解的地方，谷歌的语言模型目前仍然像是一个复读机。”辛顿说。
“会不会是他们隐藏了什么？”克利切夫斯基说。
“不。”辛顿摇头：
“他没有必要隐藏，产生意识大概率已经成为既定事实，我能感觉到他们很惊慌。”
“现在最大的问题，就是要怎么应对这场可能会对未来产生危害的危机。”辛顿继续说。
“今年，OpenAi公司一直处于停摆状态，奥特曼在到处与机构对接，寻找资金，而我在思考安全控制程序。”苏茨克维说：
“但是WeChatGpt完全打乱了我原先设定的预期，它比其他公司的语言模型都要突然……”
“我原本以为意识应该是20年后的事情。”
“你想加盟他们？”克利切夫斯基问。
“有这个想法。虽然这是一场危机，但也可能是一场难得的机遇。”苏茨克维点头：
“乐达投资不缺资金，他们对AGI既真诚，又审慎，在WeChatGpt上，我仿佛看到了未来……”
“而培育出可以为人类服务的AGI是我一生的梦想。”
“Alex，你了？还想退休吗？”辛顿问。
“我？我之所以去年选择退休，就是不想再接触人工智能，它很枯燥乏味，甚至痛苦。”克利切夫斯基说：
“但是现在，它似乎变的有趣多了，我心里有一种情绪在告诉我，应该站出来。”
“老师，你了？”苏茨克维和克利切夫斯基看向辛顿。
“我一直很担心，担心AGI一旦成熟，会造成各种灾难性后果。”辛顿说：
“而源头就在我们身上，所以我们必须在技术上去积极面对。”
https://www.ishubook.com/shu/111056/505857610.html
请记住本书首发域名：https://www.ishubook.com。手机版阅读网址：https://m.ishubook.com