欧姆龙株式会社与欧姆龙SINIC X公司联合研发的AGE（Adaptive-masking for Graph Embedding）技术，为大型语言模型理解复杂知识图谱提供了全新解决方案。这项以预印本形式发表于arXiv平台的研究，通过创新性的自适应掩码机制，显著提升了AI在关系推理任务中的表现，尤其在处理医疗、金融、科研等领域结构化数据时展现出独特优势。
传统语言模型在解析知识图谱时面临双重挑战：一方面需要将图结构转换为文字描述，这个过程会丢失大量关系信息；另一方面，固定参数的语言模型与图嵌入模型存在"坐标系错位"问题，就像用不同度量标准绘制的地图难以叠加。研究团队通过模拟人类理解关系的方式，开发出这套包含图编码器、节点采样器、概念编码解码器和目标编码器的完整流水线系统。
核心技术突破在于智能节点采样机制。系统通过多头注意力机制分析节点间关系，将约30%的连接核心节点标记为"关键节点"，其余70%作为"辅助节点"。这种动态选择策略不同于静态方法，能根据具体图结构灵活调整。例如在处理"传教"主题图谱时，系统准确识别出"拯救灵魂"作为关键节点，而将"传教士""基督徒"等作为辅助节点，这种选择使模型能通过核心概念推断周边信息。
训练过程采用强化学习与JEPA架构的双重优化。节点采样器通过预测误差反馈不断调整选择策略，就像训练宠物通过奖惩机制学习技能。概念编码解码器则借鉴人类概括理解的方式，用抽象关系概念重建节点信息，避免陷入表面细节。这种设计使系统在ExplaGraphs常识推理数据集上，将准确率从55.95%提升至82.67%，提升幅度达27个百分点。
实验数据显示，AGE技术在不同规模数据集上均表现优异。在包含18.21个节点的WebQSP知识库问答数据集中，使用Llama3.2-3B模型的准确率从71.3%提升至73.5%；结合LoRA微调技术后，在ComplexWebQuestions数据集上甚至超越使用GPT-4的商业系统。特别值得注意的是，系统在仅用2层图编码器的情况下就达到传统4层架构的性能，推理速度高达148.5词元/秒。
可视化分析揭示了关键节点群的特殊价值。研究显示，相互连接的关键节点比孤立关键节点能提供更丰富的上下文信息，使辅助节点预测误差降低40%以上。但在处理"西雅图邮政编码"等孤立事实类问题时，固定采样率策略仍存在局限，这为未来动态调整采样率的研究指明了方向。
该技术的实用性已得到充分验证。系统可在两张RTX 2080Ti显卡上完成训练，且具备跨数据集迁移能力——在WebQSP训练的模型直接应用于ExplaGraphs时，性能仍显著优于传统方法。这种低成本高效率的特性，使其在医疗药物相互作用分析、企业知识管理、学术文献检索等需要处理复杂关系网络的场景中具有广阔应用前景。
研究团队通过消融实验证实了各组件的协同效应。从基础架构开始，依次加入JEPA框架、可学习节点采样器等组件，系统性能呈现阶梯式提升，最终完整模型相比初始版本准确率提升26.7个百分点。这种模块化设计不仅保证了系统性能，也为后续针对特定场景的优化提供了灵活空间。
