在2025WAIC世界人工智能大会期间，“AI教父”、诺贝尔奖与图灵奖得主杰弗里·辛顿与图灵奖得主、中国科学院院士姚期智，围绕AI是否有意识和知觉、如何让AI拥有善意等前沿问题展开了一场精彩对话，为我们揭示AI发展中诸多关键问题的思考。
AI与大脑：相互学习与启发
姚期智指出神经网络最初受神经系统启发，如今计算机架构在某些方面超越大脑，询问是否还有可向脑科学学习之处。辛顿认同大脑对神经网络的启发作用，认为目前AI虽从大脑获取诸多启发，但在时间尺度方面，现有AI模型仍可从大脑得到更多启发。他建议在神经网络中引入三种时间尺度，然而因硬件限制，目前多时间尺度研究停滞。同时，姚期智反思脑科学能否从大型语言模型中学习，并询问人类大脑中是否存在类似Transformer的结构。辛顿认为大型语言模型的成功影响了神经科学，证明随机梯度下降在庞大网络中有效，而对于Transformer问题，可通过快速权重实现类似功能。
AI的理解与知觉探讨
姚期智请辛顿详细阐述大语言模型理解句子的观点。辛顿通过讲述与女儿争论鹦鹉是否会说话的故事，表明语言学家最初认为大语言模型只是预测下一个词的统计技巧，不具备理解能力的看法有误，因为想精准预测下一个词就需理解问题。他还以与大语言模型的对话为例，说明其能理解话语。关于多模态聊天机器人是否有知觉，辛顿通过假设聊天机器人在感知系统受干扰后的回应，认为其使用“主观体验”一词的方式与人类相同，从而相信当前多模态聊天机器人在感知系统出错时具备主观体验。
训练善良AI的难题与设想
姚期智询问AI领域最重要的未解决问题，辛顿认为是如何训练出善良的AI 。他猜想这类似养育孩子，可用精心筛选的数据培养AI，先让其接触好的行为，学会后再展示不良行为。姚期智对此表示质疑，认为“善良”与情境相关，且在极端压力下，机器人可能变得冷酷无情，要训练出完全善良的AI很难，甚至可能无法实现。他提出应先改造人类本身，但辛顿认为时间来不及。辛顿还提出替代方案，即造出大体善良的AI，让它设计更善良的AI，通过递归方式让AI变得越来越善良。
量子计算与AI的关联
辛顿向姚期智询问量子计算相关问题，包括量子力学在某些情况下是否可能失效，导致量子计算实际上行不通，以及假设量子计算最终奏效，未来10 - 15年内对AI是否会产生巨大影响。姚期智认为按正统量子理论，量子计算应有效，但目前物理学家能实现深度纠缠的粒子数有限。对于量子计算对AI的影响，他认为这是前沿问题，量子计算与AI能力方向不同，原则上在量子条件下构建AI机器可能得到更好成果，且有些事人类能做而超级智能机器做不到。
AI与机器心理学的展望
辛顿请姚期智详细谈谈创造AI如同创造外星生命，需建立机器心理学的观点。姚期智认为在构建机器时，考虑赋予其“意识”“理解”等特性使其更善良可能有益，AI将催生机器心理学这一独立学科。目前因无真正的AGI，设计机器可借鉴人类心理学，但机器心理学最终可能比人类心理学更复杂，未来或需机器自己研究。
以上文章由 AI 总结生成