近期，科技领域传来一则引人深思的报道，指出以Perplexity为代表的先进AI搜索工具在初期展现出了超越传统搜索引擎如谷歌的潜力，其搜索结果的精确度一度备受赞誉。然而，随着时间的推移，这些AI搜索工具的表现却出现了令人担忧的下滑趋势。
这一问题并非仅限于Perplexity，主流AI搜索工具普遍存在类似问题，搜索结果中夹杂着“可疑”信息。这引发了业界对AI搜索质量下降的广泛关注。据报道，AI搜索质量下滑的根源在于“模型崩溃”现象，即AI系统在依赖自身输出进行训练的过程中，逐渐丧失了准确性、多样性和可靠性。
导致模型崩溃的主要因素包括错误累积、稀有数据丢失以及反馈循环。错误累积使得每一代AI模型都会继承并放大前代的缺陷；稀有数据的丢失则导致罕见事件和概念在模型中逐渐模糊；而反馈循环则强化了狭窄的模式，使得AI的输出内容趋于重复或带有偏见。
为了提升AI的表现，业界广泛采用了检索增强生成（RAG）技术，通过让大型语言模型（LLMs）从外部数据库提取信息，以减少“幻觉”现象的发生。然而，即便是采用了RAG技术的AI模型，在处理有害提示时仍可能输出错误结果。据彭博社研究，包括GPT-4o、Claude-3.5-Sonnet等在内的11个领先模型在处理5000多个有害提示时，均出现了错误输出。
更令人担忧的是，RAG技术的引入还增加了泄露客户隐私数据、生成误导性市场分析及偏见投资建议的风险。这一发现无疑给AI搜索工具的发展蒙上了一层阴影。
随着AI模型崩溃现象的加速显现，用户和企业越来越倾向于依赖AI生成内容，而非投入人力创作高质量内容。从学生作业到科研论文，甚至虚构小说的创作，AI的“垃圾输入、垃圾输出”（GIGO）现象无处不在，这无疑对信息的真实性和可靠性构成了严峻挑战。
