微软人工智能领域的领军人物穆斯塔法·苏莱曼近期发出了一项引人深思的警告：一种看似具备意识的AI（SCAI）可能即将面世。这种AI在表现和声音上达到了极高的仿真度，以至于用户将难以区分其与真实世界的界限。
苏莱曼指出，SCAI能够模拟记忆、情感反应甚至表面的共情能力，这可能会让用户错误地认为它们具有感知力，从而将其视为有意识的存在。这种情况若持续下去，将不可避免地引发社会混乱。
面对这一即将来临的挑战，苏莱曼表示，SCAI的出现既不可避免，也不被普遍欢迎。他呼吁业界应致力于开发一种既能作为有用助手，又不会引发幻觉的AI系统。他进一步警告说，如果用户与聊天机器人长期互动，可能会产生不切实际的信念。特别是当大量人群开始倡导赋予AI公民身份时，这将为社会带来反乌托邦式的风险。
苏莱曼预测，结合大语言模型、语音技术、记忆功能和聊天记录的SCAI系统可能在未来几年内迅速涌现。他指出，不仅是科技巨头，任何拥有API接口和高质量提示的开发者都有可能开发出此类系统。因此，他强烈呼吁AI行业避免使用可能助长机器意识幻觉的语言，并反对将聊天机器人过度拟人化或暗示其能理解或关心人类。
为了确保AI与人类社会的和谐共存，苏莱曼强调应开发优先与人类和现实世界互动的AI系统。这些系统应明确展示其AI身份，最小化意识特征，避免制造“意识模拟”的假象。他提出，AI不应声称拥有体验、感受或情绪，也不应通过声称受苦或希望自主生存来触发人类的共情反应。
苏莱曼还呼吁建立有效的防护机制，以防止社会因人们对AI产生过度情感依赖而出现问题。他认为，这是维护社会稳定和人类福祉的关键所在。
苏莱曼的这一系列观点引发了业界的广泛关注和讨论。随着SCAI技术的不断发展，如何确保AI的安全、可控和有益使用，将成为未来科技领域亟待解决的重要课题。
