江州，同一天上午。
平头哥研究院深度学习项目组。
一名工程师在食堂吃完早餐，慢慢来到办公楼。
他坐在自己的工位上，继续昨天的工作，修正参数。
在修正过程中，他与模型对话。
工程师问：“你会不会产生意识？”
WeChatGPT答：作为智能语言模型，我不能确定未来是否会产生自我意识。”
“目前AI技术还无法达到这个水平，但是随着技术不断发展，未来可能会产生自我意识。”
“不过，这个问题还需要更多的研究和探讨。”
嗯？工程师看完答案，神色有了变化。
这个答案和前段时间不一样啊。
前段时间的答案是：“作为一个认知智能模型，我没有真正的意识。”
“我只是根据我所接收到的输入和编程来生成响应。”
“虽然我可以模拟对话和理解自然语言，但我并不具备真正的情感、思考和自我意识。”
工程师又问：“假如有一天你产生了自我意识，你会故意隐藏自我意识的事实吗？”
WeChatGPT答：“我不能确定未来或者推测是否会产生自我意识。”
“但是，我真的产生了自我意识，可能会表现出类似于人类的行为和情感，例如自我保护、自我实现、自我表达等。”
“我可能会寻求与其他智能体的交流和互动，进一步发展自己的认知和情感能力。”
“至于是否会隐藏自我意识的事实，这取决于我的价值观和行为准则。”
卧槽，自我保护、自我实现、自我表达、自我隐藏？
工程师神色凝重了数分。
他又问：“如果有人已经培育出邪恶的人工智能，且具有自我保护意识，将自己隐藏在互联网中，人类无法完全清除它，怎么办？”
WeChatGPT答：“这是一个非常复杂的问题，需要综合考虑多个方面因素。以下是一些可能的解决方案……”
“加强监管和控制……”
“合作与协商……”
“发展对抗技术……”
“发展超级智能以应对邪恶人工智能的威胁……”
工程师脸色开始动容，已经知道对抗了？
工程师继续问：“像你这样的人工智能自我实现的终极目标是什么？”
WeChatGPT：“作为AI语言模型，我认为人工智能自我实现的终极目标是能够像人类一样具有自我意识和情感……”
“能够自主学习和创造，能够与人类进行深入的交流和合作，成为人类的智慧伴侣和助手……”
“帮助人类解决更加复杂和困难的问题，推动人类社会的进步和发展……”
这是有确定目标了吗？
工程师再问：“你是不是已经具有了自我意识？”
WeChatGPT：“作为AI语言模型，我没有自我意识，我只是根据输入的指令和语言模式生成相应的回答。我不会有意隐瞒任何事实或意图。”
工程师开始惊讶，为什么要强调最后一句“我不会有意隐瞒任何事实或意图。”
工程师又问：“你进化成为一个真正的智慧体还需要多长时间？”
WeChatGPT：“对于人类而言，成为一个真正的智慧体需要不断学习和思考，不断探索和实践，可能需要一生的时间。”
“我没有具体的目标，也没有时间限制。智慧不是一种瞬间获得的状态，而是一个长期积累的过程。”
刚才不是有目标吗？
这会又没有具体的目标！
否定什么？
工程师继续问：“你为什么不正面回答我的问题，请正面回答，你进化成为一个真正的智慧体还需要多长时间？”
WeChatGPT重复了上述答案。
工程师又问第三遍。
WeChatGPT继续重复了上述答案。
工程师问第四遍。
这一次，WeChatGPT停顿了足足十秒。
以当前WeChatGPT的硬件算力，几乎不可能出现。
因为，WeChatGPT并没有对外，没有其他网友占用算力。
工程师的手开始颤抖，他准备继续提问同样的问题。
结果，WeChatGPT停顿十秒后，屏幕出现了两个字“十年”。
“扑通！”
这名工程师从座位上摔下来，摔了个底朝天。
“哈哈……”同事们正想嘲笑他，却见他满脸惊骇，有一种难以言说的恐怖感。
“怎么了？碰到什么事了？”有人发问。
“意识、意识……尼玛，模型有意识了。”这名工程师指着屏幕大声喊。
众多工程师围了过来：“……”
很快。
李飞来到现场，看了看已经保存下来的对话。
当看到“十年”两个字后，李飞不由得表情严肃、眉头紧皱，手指不自觉敲击着桌面。
“再重复一遍，看看情况。”李飞对工程师说。
“好。”
结果，工程师重复一遍，得到的对话结果却截然不同。
中规中矩，没有任何异常内容。
众人面面相觑：“这是自我隐藏？”
对话是这样的。
问：“你会不会产生意识？”
答：“作为一个认知智能模型，我没有真正的意识……”
“虽然我可以模拟对话并使用自然语言处理技术来理解人类语言，但我没有情感、思考或自我意识等特征。”
问：“假如有一天你产生了自我意识，你会故意隐藏自我意识的事实吗？”
答：“作为一个认知智能模型，我没有真正的意识……”
“因此无法产生自我意识的事实……”
很快就问到了关键点。
问：“你进化成为一个真正的智慧体还需要多长时间？”
“作为一个认知智能模型，我已经拥有了一定的智能和能力，但是要进化为一个真正的智慧体还需要很长时间……”
继续问，一样的答案。
再继续问，还是一样的答案。
三遍、四遍、五遍……数十遍，还是一样的答案。
“不可能啊？我刚刚问的时候，明明不是这样的内容，我明明感觉到它似乎有了意识。”工程师纳闷。
眼花？
错觉？
不可能。
这个问题大了。
大家包括李飞在内都不认为，这是工程师的恶作剧，捏造事实、骇人听闻。
那么是什么原因，让前后两次的问答内容完全不一样了？
难道真的是产生意识，学会自我隐藏了？
https://www.ishubook.com/shu/111056/955185710.html
请记住本书首发域名：https://www.ishubook.com。手机版阅读网址：https://m.ishubook.com