近日，知名人工智能专家Ilya Sutskever在一次长达一个半小时的深度访谈中，分享了他对当前人工智能发展路径的独到见解。此次访谈内容丰富，涵盖了从预训练的局限性到未来超级智能的预测等多个话题，为人工智能领域的研究者和爱好者提供了宝贵的思考方向。
Ilya指出，当前主流的人工智能方法，尽管在不断改进，但仍然无法实现真正的通用人工智能（AGI）。他比喻说，现有的系统就像是一个经过大量编程竞赛训练的学生，虽然能解决特定领域的问题，但在泛化能力和创造力上远不及人类。他强调，模型在评估测试中表现优异，但在实际应用中却常常出现令人困惑的错误，这反映出模型在泛化能力上的不足。
对于预训练，Ilya认为，尽管预训练在数据量和自然性方面具有巨大优势，但它仍然无法完全模拟人类的学习过程。他提到，人类在15岁之前接触的数据量远不及预训练模型，但人类的理解深度和泛化能力却远超模型。他进一步指出，预训练可能无法完全捕捉到人类情绪和价值函数等复杂特征，这些特征在人类决策和行动中起着至关重要的作用。
在讨论未来人工智能的发展路径时，Ilya预测，未来5到20年内，我们将见证拥有“大陆级算力”的超级智能的诞生。他认为，这种超级智能将深刻改变经济和社会结构，带来前所未有的增长和变革。然而，他也强调，这种变革将伴随着巨大的挑战和风险，如何确保超级智能的安全和可控性将是未来研究的重要方向。
Ilya还分享了他对AI对齐问题的看法。他认为，一个可能的解决方案是构建一个关心感知生命的AI系统。他提出，这种系统可能更容易实现，因为AI本身将是有感知的，能够理解和模拟人类的情感和价值观。他还强调了增量部署和提前部署的重要性，认为通过逐步引入AI系统，可以帮助人们更好地适应和接受这种变革。
在谈到自己的研究方法时，Ilya强调了研究品味的重要性。他认为，一个好的研究想法应该兼具美感、简洁性和优雅性，同时受到大脑工作原理的启发。他提到，自己的许多重大突破都源于对人类学习过程的深刻理解和模拟，这种自顶向下的信念支撑着他在面对实验挫折时保持信心和坚持。
访谈最后，Ilya还分享了他对未来AI公司战略趋同的预测。他认为，随着AI能力的不断提升，各家公司将在对齐策略上逐渐趋同，共同致力于构建一个安全、可控且有益的超级智能系统。他相信，通过全球范围内的合作和努力，我们有望迎来一个更加繁荣和美好的未来。
