曾经，“百模大战”是AI创业领域的核心关键词，从通用大模型到行业模型，参数规模不断突破极限，融资金额也持续攀升，市场一度形成“不做大模型就会被淘汰”的普遍认知。然而，近期风向悄然转变，无论是在硅谷还是国内创投圈，单纯以“再造一个大模型”为卖点的创业项目热度迅速下降，轻量化小模型、AI Agent以及设备端（On-Device）AI等方向逐渐成为新的关注焦点。
这一转变并非技术热情的消退，而是成本、商业化以及资本逻辑共同推动下的理性回归。在2026年的国际消费类电子产品展览会（CES）上，这一趋势尤为显著。第一财经独家采访了设备端AI创业公司Aizip的联合创始人陈羽北。陈羽北是典型的在美华人工程师代表，拥有清华大学学士学位和加州大学伯克利分校博士学位，目前还在加州大学戴维斯分校任教并开展创业项目。
陈羽北指出，设备端AI正成为创业公司的新赛道。通过“用大模型生成小模型”的方式，结合收集数据、购买数据和大模型蒸馏三种途径获取所需数据，让AI能够直接在终端设备上运行，无需依赖云端或网络。这种模式不仅降低了成本，还保障了数据隐私，并能快速推动智能应用的落地。目前，该设备端AI模型已在多个终端品牌中应用，并与软银、ARM、Microchip等全球知名硬件厂商展开合作。
大模型领域的竞争愈发激烈，但进入该赛道的竞争者却在减少，行业逐渐形成共识，认为这将成为资本雄厚的巨头之间的争夺。多位参与CES的风投人士和AI企业创业者表示，大模型已成为高度资本密集型的竞赛。千亿参数模型的单次训练成本高达数千万美元，推理阶段的算力消耗同样惊人。随着GPU价格居高不下、云算力账单持续攀升，大模型的“边际成本”并未如预期般快速下降。
对于创业公司而言，这带来了两大现实压力：资金消耗速度远超传统软件创业；即便模型性能提升，商业化路径仍充满不确定性。多位投资人私下坦言，大模型项目正成为“技术上可行，但财务模型难以自洽”的典型案例。因此，更多资本和AI创业者开始将目光转向轻量化模型和AI Agent，Aizip便是其中之一。
尽管大模型缩放定律（即训练数据和模型参数越大，模型智能越强）仍然有效，但AI从业者也意识到，不应过度依赖算力。陈羽北回忆，博士毕业后，他意识到自己在工程能力上存在短板，于是加入Yann LeCun的团队，在Facebook AI Research以及纽约大学从事博士后研究。这段经历帮助他补齐了模型工程化与规模化模型训练的能力。
“当时，我们每次训练配备512张V100显卡，写一篇论文消耗的计算资源可能就要花上百万美元。”陈羽北说，“scaling确实有效，更多的数据、更大的模型以及更直接的优化通常能带来性能提升，但并非总是成正比。”例如，数据规模扩大300倍，模型性能可能只提升个位数的百分点。这让他开始反思数据质量、模型结构、工程严谨性等因素的实际影响。
近年来，许多AI创业公司盲目追求模型规模，资源已用到极限，却很难再从scaling中获得突破。陈羽北认为，要尊重scaling定律，但不能迷信它。“特别是在创业时，我们的思路是反向的——不是做更大，而是做‘全球最小、最高效’的AI系统。这和主流强调通用人工智能（AGI）、取代人的方向并不一致。”
在这一背景下，设备端AI成为全球AI界热门的新兴方向之一。设备端AI直接在手机、笔记本、相机等设备上运行，不依赖云端或互联网。其特点是轻量化模型适合本地处理少量数据，响应速度快、延迟低，且数据不出设备，安全性更高。例如，手机拍照自动美颜或夜景增强、iPhone上的Siri或照片识别、智能门锁或家用机器人的语音/图像处理等应用。
陈羽北表示，Aizip本质上是一家纯软件公司，专注于AI模型的研发，在大模型的基础上训练、生成适合各种垂直场景的小模型。同时，创业团队对硬件有深刻理解，联合创始人过去创立的公司曾服务于Apple等客户。“设备端AI模型的训练主要通过收集数据、购买数据和大模型蒸馏三种途径，同时要评估数据合规性，使用高质量产品级数据。”他说，“尽管目前专注本地化智能赛道，但也会对标Gemini等最优模型，在细分应用上追求达到或超越其性能，可利用视觉语言模型（VLM）。”
据第一财经观察，当前卡拉OK声音解决方案、智能摄像头、智能唤醒助手等三类应用场景的商业化前景已较为突出。以卡拉OK声音解决方案为例，传统方式下，用户只能使用原版伴奏或在线处理，而端侧解决方案能够直接在用户设备上完成声音分离，识别并消除歌曲中的人声部分，只保留背景音乐，无需上传歌曲到云端或依赖在线计算。
再以智能摄像头为例，端侧识别与安全报警功能具备商用潜力。AI解决方案使摄像头能够在设备端完成复杂的图像识别任务，例如区分来访人员身份（是快递员还是潜在偷取快递的陌生人），并实时提醒无法全程监控环境的用户。如果识别到异常行为，摄像头能够自动发出报警信号，提示用户采取措施。这种模式对家庭、社区和物流企业来说，具备实时性、安全性和隐私保护的三重优势，用户无需担心摄像头数据被传到云端或被第三方访问。
陈羽北坦言，目前真正的设备端AI革命尚未到来，但市场热度比之前更高，从产品化、落地和客户需求来看，进入真实产品场景的数量增多。未来发展的关键在于更多刚需应用的出现，如智能手表语音能力、婴儿监控摄像头等，能够培养用户习惯，并注重隐私保护，将AI能力放到本地。
他还提到，当前行业对AI模型训练人才和算力的需求依然极高，华人工程师在AI浪潮中扮演了关键角色。这源于他们的优势——数理基础好、工作努力、学习新技术速度快、解决工程类问题能力强，在既定赛道发展较快。相比之下，美国顶尖工程师的思想更不羁，更敢于打破常规进行想象，在创造新路线方面更具创新思考能力。
