在人工智能领域的一次引人注目的事件中，OpenAI的金牌模型在国际数学奥林匹克（IMO）竞赛中的表现，以一种不同寻常的方式赢得了赞誉。尽管该模型在IMO第6题上未能得分，但它展现出的“高智商的诚实”却成为了众人瞩目的焦点。
OpenAI的研究员Noam Brown在最近的一次访谈中分享了这一新发现：当模型在面对缺乏确凿证据的情况时，会明确表示“我不确定”，这一行为显著降低了隐藏错误的可能性。这一转变标志着AI模型正从过去可能产生误导性幻觉式答案的阶段，迈向一个更加可靠且具备“自我意识”的新阶段。
在AI首次赢得IMO金牌后，OpenAI金牌团队的成员Alex Wei、Sheryl Hsu和Noam Brown参与了红杉资本组织的一场对话，深入探讨了模型攻克精英数学难题的底层突破。他们分享了一个有趣的现象：与以往那些看似完美实则错误的幻觉式答案不同，新一代的大模型开始学会承认自己的无知。
数学家和计算机科学家虽然认可IMO金牌模型的价值，但也经常抱怨，当模型遇到知识盲区时，往往会给出一个令人信服但错误的答案，这让他们不得不花费大量时间逐行验算以甄别错误。然而，在IMO第6题上，大模型的全军覆没却意外地展现了其诚实的一面。尽管投入了大量算力却仅得到一句“我无法回答”，但这却让研究人员看到了模型避免产生幻觉的积极面。
Noam Brown对模型的这一转变表示赞赏：“如果它不知道，它就会承认它不知道。”这种“自我意识”使得模型在面对难题时，能够诚实地承认自己的无能为力，而不是编造一个看似合理实则错误的答案。Alex Wei也表达了类似的观点，他认为能看到模型避免产生幻觉是很好的现象。
Alex Wei在2024年刚加入OpenAI一周时，Noam Brown就曾询问他团队何时能获得IMO金牌。当时Alex Wei认为2025年实现这一目标不太可能，但令人惊讶的是，这个三人团队仅用了两个月的时间，就成功摘得了IMO金牌。Noam Brown还透露，OpenAI的一个优势在于研究人员有很大的自主权去做他们认为有影响力的研究。
OpenAI IMO核心团队由三名研究人员组成：Alex Wei、Sheryl Hsu和Noam Brown。Alex Wei拥有哈佛大学本硕学位和加州大学伯克利分校计算机科学博士学位，曾在谷歌、微软和meta实习，后加入OpenAI担任研究科学家。Sheryl Hsu毕业于斯坦福大学计算机科学专业，是斯坦福AI实验室IRIS实验室的研究员。Noam Brown则本科就读于罗格斯新泽西州立大学新布朗斯维克分校，后在卡内基·梅隆大学获得硕士和博士学位，曾任职于DeepMind和meta。
这个三人团队不仅在数学奥林匹克竞赛中取得了突破性的成绩，更重要的是，他们推动了AI模型向更加诚实和可靠的方向发展。这一转变不仅在数学领域具有重要意义，也为AI在其他领域的应用提供了新的启示和思考。
