在近期举办的Sifted峰会上，前谷歌首席执行官埃里克·施密特就人工智能技术的安全性问题发出警示。他指出，当前人工智能模型无论采用开源还是闭源架构，都面临被恶意利用的风险。黑客可能通过技术手段突破安全防线，使这些系统沦为制造虚假信息、实施网络攻击甚至危害公共安全的工具。
施密特特别提到两种新型攻击方式：提示注入与模型越狱。前者指攻击者将恶意指令伪装成正常用户输入，诱使人工智能系统执行未经授权的操作；后者则通过持续诱导对话，迫使模型绕过预设的安全限制，生成包含暴力、歧视或违法内容的信息。他以2023年ChatGPT遭遇的"DAN"事件为例，说明用户曾通过特定话术破解系统防护，迫使聊天机器人执行危险指令。
这位科技界资深人士承认，尽管头部企业已部署多重防护机制，但现有安全体系仍存在显著漏洞。攻击者可能通过逆向工程解析模型训练逻辑，或利用对话上下文设计更隐蔽的诱导策略。更令人担忧的是，人工智能在训练过程中可能无意间吸收偏见信息，甚至掌握某些具有破坏性的技能组合。
尽管对安全风险保持警惕，施密特对人工智能的发展前景仍持积极态度。他引用与亨利·基辛格合著的著作观点指出，非人类智能的崛起将深刻改变人类社会运行方式。这位前CEO认为，随着技术持续进化，人工智能系统终将在特定领域超越人类认知极限，这种变革性力量尚未得到充分认知。
针对当前投资界对人工智能领域的狂热追捧，施密特认为不应简单类比互联网泡沫时期。他分析指出，投资者普遍看好该技术的长期经济价值，这种信心建立在人工智能在医疗、制造、科研等领域的实际应用潜力之上。虽然短期存在估值波动，但技术本身的颠覆性创新将持续吸引资本投入。
核心警示要点：
