一张在网上广为流传的漫画引发了人们对人工智能理解能力的思考:画面左侧是一双精致的高跟鞋,旁边写着“YES”;右侧则是一双缠满创可贴的脚,旁边写着“BUT”。这个简单的对比让人瞬间明白背后的因果关系——为了追求美丽而忍受痛苦。然而,当将这张图输入给当前最先进的视觉语言模型(VLM)时,结果却令人尴尬:模型只能机械地描述画面内容,却无法捕捉到“美丽与痛苦”这一核心矛盾。
视觉语言模型(VLM)是一类能够同时处理图像和文本信息的人工智能系统,GPT-4o等知名模型都属于这一范畴。尽管这些模型在许多任务中表现出色,但在理解幽默内容时却频频失利。多项研究表明,主流VLM在识别讽刺、反讽和表情包等幽默形式时表现欠佳。研究人员决定直面这一挑战:能否教会人工智能理解幽默背后的因果逻辑?
理解幽默的难度在于它涉及复杂的关系网络。一个笑话或搞笑图片往往包含人物、物体、概念和事件之间的多层次互动,笑点往往隐藏在“意料之外,情理之中”的反差中。人类凭借社会认知能力可以轻松理解这种反差,但对机器而言,这需要完成多层抽象推理的艰巨任务。现有研究显示,VLM在需要精细情感判断的场景中常将讽刺误判为惊讶,无法识别视觉笑点中的反常搭配,也难以理解比喻和反讽的深层含义。
更令人意外的是,连“让模型展示思考过程”这类常用技巧在幽默理解任务中也效果有限。思维链(Chain-of-Thought,CoT)技术通过要求模型在给出答案前先写出推理步骤,在数学和逻辑任务中表现优异,但在处理幽默内容时却容易陷入“推理坍缩”——模型不是真正分析眼前的内容,而是套用记忆中的通用模板,给出空洞的回答。
针对这一难题,研究人员提出了名为CARGO-T(因果推理思维图)的新方法。该方法的核心思想是让模型先构建一个代码形式的因果推理图,明确列出图像和文本中的实体、属性及它们之间的因果关系,再基于这个结构化框架生成最终答案。以高跟鞋漫画为例,CARGO-T生成的因果图会先定义实体(高跟鞋、脚、时尚追求、身体不适),再梳理关系(时尚追求导致穿高跟鞋,穿高跟鞋导致身体不适),从而清晰呈现隐藏的逻辑链条。
这种方法类似于医学中的X光检查:医生仅凭肉眼无法看到骨骼内部的损伤,但X光片能清晰显示骨折位置。因果推理图的作用就是将图像中看不见的因果关系“显影”出来,帮助模型建立基于事实的推理框架,而非依赖模糊的自然语言描述。研究人员定义了一种简化版的因果图,仅保留核心的“原因-结果”关系,并用轻量元数据记录实体属性,使模型更容易生成和理解。
CARGO-T在实际应用中有两种模式。零样本模式下,模型直接根据任务描述生成因果推理图和答案,主要在GPT-4o等代码能力强的商业模型上测试。上下文学习模式下,模型通过观察几个“输入-输出”示范样例来学习任务模式。研究人员对示范样例进行了严格规范:先用GPT-4o生成草稿,再由人工修正格式,确保每个示范都遵循“实体-属性-因果关系”的标准结构。实验表明,未经人工修正的示范会导致模型学习效果下降,说明示范质量对模型表现至关重要。
为验证方法有效性,研究人员在四个不同数据集上进行了测试,涵盖讽刺漫画、表情包配文和多模态阴阳怪气检测等任务。评估指标包括自动化文本比较指标(ROUGE-L、BLEU、BERTScore)和分类任务指标(准确率、F1分数)。实验结果显示,在零样本设置下,基于GPT-4o的CARGO-T在讽刺图片理解任务中的综合得分达到0.3726,超越其他基线方法;在表情包配文任务中也表现最佳。使用较小规模的开源模型MiniCPM时,CARGO-T同样取得最高分,证明该方法不依赖模型规模。
进一步分析显示,CARGO-T生成的推理内容包含更丰富的信息。通过KL散度等指标衡量,其推理文字在用词多样性和语义新颖性上均优于基线方法。更重要的是,这些推理内容能真正支撑最终答案:让另一个大语言模型判断推理过程能否合理推导出答案时,CARGO-T的得分显著高于其他方法,证明其逻辑链条的可靠性。
代码化因果图之所以优于自然语言推理,在于其结构化约束。自然语言推理允许模型自由发挥,容易陷入套用模板的“碎碎念”;而因果图要求模型按固定步骤梳理实体、属性和关系,相当于为思考过程搭建了脚手架。这种格式约束迫使模型关注具体内容,而非空洞的总结,就像写论文需要遵循结构规范,而非随意发朋友圈。
研究人员还通过消融实验验证了设计细节的必要性。例如,在提示词中加入详细因果图定义反而会降低效果,可能因分散模型对核心内容的注意力。另一组实验确认了人工修正示范样例的重要性——未经修正的示范会导致模型学习效果下降。
这项研究也引发了更深层的思考:人类能瞬间理解高跟鞋漫画的笑点,是因为长期社会经验已内化为直觉性的因果网络;而人工智能缺乏这种隐性知识,必须依赖外部显式结构才能完成推理。研究显示纯图像的因果推理难度远高于图文结合的场景——文字能提供明确的语义锚点,而图像中的关系需要模型自行“脑补”。这提示了一个未解问题:在没有语言辅助的情况下,模型能否仅凭静态图像构建可靠的因果图?或许这将成为下一阶段的研究方向。









