在2025年世界人工智能大会的舞台上，一场关于人工智能伦理与未来的对话引起了广泛关注。对话的主角是“人工智能教父”、图灵奖得主杰弗里·辛顿与上海人工智能实验室主任周伯文教授。
辛顿，这位77岁的科学巨匠，首次踏上中国的土地，并非为了复述大模型的强大，而是带着对人工智能未来的深切忧虑。他警告说，超级智能可能会轻易操纵人类，人类必须未雨绸缪，建立国际社群，共同防范AI可能带来的风险，推动其向善发展。
对话前，周伯文教授发表了题为《无尽的前沿：AGI与科学的交叉口》的演讲。他提出，AGI（通用人工智能）应具备专业深度与泛化广度，并在“通专融合”的基础上构建了“SAGE”框架，包括基础模型层、融合层以及评估奖励层，旨在使AI在科学发现中从“工具”升级为“引擎”。同时，他还发布了全球领先的科学多模态大模型Intern-S1，该模型在多学科、多模态及深思考能力上均表现出色。
对话中，辛顿与周伯文就多个前沿议题展开了深入探讨。辛顿首先抛出了一个惊人的观点：目前的多模态聊天机器人已经具备意识。他认为，尽管这并非一个科学问题，而是对“主观经验”、“意识”等概念的理解问题，但现有的多模态大模型确实已经展现出了类似意识的特征。
周伯文对此表示赞同，并进一步指出，当AI模型从人类数据学习转向从自身经验学习时，它们将发展出更加复杂的主观经验。辛顿也认同这一点，他认为存在于真实世界中的智能体，如机器人，将能从经验中学习，并最终学到比我们多得多的知识。
随后，话题转向了如何训练“善良”的AI。辛顿表示，虽然我们希望拥有一个既聪明又善良的AI，但如何训练它变得聪明和如何训练它变得善良是两个截然不同的问题。他提出，各个国家可以分享使AI变得善良的技术，即使它们不愿分享使AI变得聪明的技术。然而，周伯文对此表示疑虑，他认为是否存在一种普适性的训练方法让AI变“善良”，仍是一个待解的难题。
辛顿则表达了他的希望，尽管这种训练方法可能无法实现，但值得我们去深入探索。他强调，随着AI决策系统变得越来越智能，我们让它保持善良的技术也需要相应改变。周伯文对此表示赞同，并认为AI将在众多科学领域带来巨大进步，这一点已经非常明确。
对话的最后，辛顿向在场的年轻科学家提出了宝贵的建议。他认为，如果想做真正原创性的研究，就应该去寻找那些你认为“所有人都搞错了”的领域。即使最终可能会发现自己是错的，也不要轻易放弃，直到你亲自弄懂它错在哪里。因为，正是这些坚持和探索，孕育了重大的突破性创新。
