五一假期期间，湖南经视在《经视新闻》节目中启用了两位AI主播“声声”和“双双”，引发了广泛关注和讨论。尽管电视台明确表示，这两位虚拟主播仅在假期期间播报常态化新闻，且画面中标注了“AI生成”字样，但仍有许多网友对此表示不满，相关话题迅速登上微博热搜榜首。
这一现象并非孤立。近年来，随着人工智能技术的快速发展，越来越多的电视台开始尝试引入AI主播。港剧《新闻女王2》中曾描绘过类似情节：已故主播被“蒸馏”成数字人继续播报新闻。如今，这样的剧情正在现实中上演。
然而，相比AI主播，更值得警惕的是AI在新闻搜索和撰写领域的应用。当前，使用AI工具搜索和阅读新闻已成为普遍现象，搜索引擎也将AI生成的内容置于显著位置。但这种便利背后隐藏着严重问题——AI生成的新闻内容存在大量错误。
以谷歌为例，该公司去年开始在搜索结果顶部展示AI生成的摘要回答，称为AI Overviews。这项功能本意是提供更直接的答案，但实际效果却令人担忧。测试数据显示，即便在升级后的版本中，仍有约9%的回答存在错误。考虑到谷歌每年处理超过5万亿次搜索，这意味着每小时可能产生超过5700万条错误信息。
这种机制还存在被操纵的风险。有实验显示，只需发布一篇虚构的博客文章，就能影响AI Overviews的输出结果。这引发了人们对关键信息准确性的担忧，尤其是在医疗、法律等重要领域。
谷歌方面承认存在这些问题，但强调AI Overviews比单独运行的AI模型更准确。然而，这种“相对准确”与“足够可靠”之间仍存在巨大差距。尽管谷歌在每个AI生成的回答下方都添加了“AI可能会犯错”的提示，但将不确定的回答以确定的方式呈现，仍引发了争议。
传统搜索引擎像是一个信息目录，用户需要自行判断和验证。而现在的AI驱动搜索则试图成为答案机器，直接提供看似确定的回答。这种设计转变可能改变人们获取和信任信息的方式，值得社会各界深入思考和关注。
