高通近日宣布了一项重要合作成果，即成功将OpenAI最新推出的开源模型gpt-oss-20b集成至骁龙平台，实现了AI推理的终端侧运行。这一突破标志着AI技术向前迈出了关键一步。
据悉，gpt-oss-20b是OpenAI于8月6日正式发布的小型开源模型，其在基准测试中的表现与OpenAI的o3-mini模型不相上下。而高通通过提前获取该模型，并结合其AI引擎和Qualcomm AI Stack进行了深入的集成测试。测试结果显示，这款拥有200亿参数的模型在骁龙旗舰处理器上能够完全实现终端侧推理，无需依赖云端。
高通强调，这一合作不仅展现了AI生态系统的成熟性，还为合作伙伴和开发者提供了更多可能性。他们可以利用骁龙处理器，实时采用OpenAI等领军企业的开源创新成果，从而开发出更加丰富和复杂的AI应用。对于终端设备而言，gpt-oss-20b的引入将带来隐私保护和时延方面的显著优势。
高通还透露，开发者将可以通过Hugging Face和Ollama等主流平台获取gpt-oss-20b模型，并在搭载骁龙平台的终端上充分发挥其性能。这意味着，未来将有更多的终端设备能够支持复杂的AI推理功能，为用户带来更加智能和便捷的体验。
Ollama的轻量级开源LLM服务框架与骁龙平台的集成，使得开发者和企业不仅可以直接在终端上运行gpt-oss-20b模型，还能够享受网页搜索等多个默认特性，无需进行额外的配置。用户还可以在Ollama上尝试Turbo模式，以进一步探索该模型的强大功能。
