ITBear旗下自媒体矩阵:

OpenAI创始成员Karpathy:人类不该成为AI的瓶颈

   时间:2026-08-10 15:47:21 来源:纪源资本编辑:快讯 IP:北京 发表评论无障碍通道
 

在他看来,当前AI的发展已经进入了一个全新的阶段,其核心特征不再是模型规模的简单扩张,而是人类与AI协作方式的根本性变革——这种变革既带来了前所未有的可能性,也制造了全新的焦虑与挑战。

01

AI深度嵌入,

从工作到生活的全面渗透

更进一步,他认为眼下那些用于控制智能家居设备的App可能本就不需要存在。设备厂商应该提供的只是API接口,从而让Claw之类的AI智能体直接调用这些接口来完成复杂的自动化任务。大语言模型完全可以充当“智能粘合剂”的角色,通过对不同工具的调用,将各个子系统连接成一个有机的整体。

“客户”不再一定是人类,也可以是代表人类行事的AI智能体。这种重构可能会非常彻底,也意味着大量今天看似必要的定制化应用,未来可能根本没有存在的必要。在一两年或三年内,上述这些操作体验应该会变得易于实现,任何AI甚至开源模型都能做到。一个不太懂技术的人,也能将自己的意图轻松地转化为自动化结果。

02

“技能问题”出在人身上,

人成为效率的瓶颈

你能掌控多少Token吞吐量?你有没有充分利用每一个可用的Token?你用完了Codex的额度,是否切换到了Claude或其他模型?当AI极大地降低了执行成本后,人们会发现自己被更多可能性所包围。在这种思维模式下,效率提升的限制因素不再是算力资源,而是用户本身。

他以一个名为NanoChat的项目作为实验平台训练GPT-2模型,然而,他真正感兴趣的并非模型本身,而是让模型实现递归式自我改进的可能性。他本人已经在这一领域深耕了二十年,对训练模型、超参数调优等流程非常熟悉,可以说拥有凭丰厚经验挣来的自信,一种对什么操作有效、什么操作无效的直觉。

在经过多次手动调整后,当他认为NanoChat已经被调得很不错之后,又让自动化研究系统运行了一整夜。第二天早上,系统带回了一些他完全没有发现的调优结果——比如Value embeddings的权重衰减被遗漏了,Adam优化器的beta参数也没有得到充分调优。更关键的是,这些参数之间存在相互作用——一旦调整一项,其他参数也需要随之改变。而手动调参时,人往往很难同时考虑到所有这些复杂的交互关系。

他将这一理念进一步扩展到了研发流程的整体重构上,核心目标是:把人类从所有流程中移除,尽可能地自动化一切,获得极高的每秒Token吞吐量。一切概念都需要被重新思考,一切系统都需要被重构。

03

智能的参差:

AI应当像生物进化一样多元

这种体验在人类世界的交往中很少出现,因为人与人之间的各种能力是相对耦合的——一位数学家即便在厨艺知识方面是小白,ta也可以尽量避免自己说出与做菜有关的蠢话。然而这种“参差不齐”的脱节感,在人与AI的互动中则体现得尤为明显。在某些可验证、有明确奖励信号的领域,AI表现得如同光速般敏捷。而一旦离开了那些让AI感到舒适的轨道,进入了模糊、开放、难以评估的领域,AI就开始漫无目的地游荡。

他用一个生动的例子来说明这一点:如果你今天去让最新版本的ChatGPT讲个笑话,会发现它的笑话库中似乎只有那么几个存货。比如,“为什么科学家不相信原子?因为它们构成了(make up,也有‘编造’之意)一切。”这个笑话三四年前就存在,今天依然在被使用。即使模型在其他方面已经取得了惊人的进步——它们可以运行数小时,为你移山倒海般地完成复杂的编程任务,但在讲笑话这件事上,它们几乎没有进步。这就是当前AI与人类之间存在的脱节——讲笑话这项技能没有被优化,它不在强化学习的奖励信号覆盖范围内,也不在实验室重点优化的指标体系中。

AI在能力提升上是有方向性的,也是有盲点的。有些方面被持续优化,有些则被完全忽略了。而当与人类所具备的诸多能力都分布在不透明的神经网络模型中,我们就只能在它被训练的轨道上感受到那种光速般的进步。一旦偏离轨道,一切都可能变得笨拙不堪。

借用生物学中的“物种形成”概念,大自然中动物的大脑是极其多样化的,不同的生态位催生了不同的进化成果。某些动物的视觉皮层极其发达,某些则有其他突出的感知能力。AI也应该走向这种更加细分的进化。我们不需要一个庞大的通用模型来做所有事,而完全可以将需求细分到多个更小、更垂直、更高效的模型上。每个模型仍然具有认知核心,但在特定领域上,又能各自实现高度专业化,针对用户真正关心的特定任务,进行更高级别的优化。

而我们所能驾驭的,不在于机器,更大程度在于我们自身——我们无法亲身左右AI技术的演进,但可以驱使自己去不断学习和进化。无论AI在未来走向何方,是继续追逐通用模型的单一形态,还是走向更加多元的细分式智能,是让AI更大程度接管自动化研究,还是始终保持人类在工作流中的关键位置,有一点可以确定:AI绝非简单的生产工具,而是正在重新定义人类与世界之间关系的智能体。而如何在这种新关系中找准自己的位置,将成为每一个人都必须面对的“技能问题”。

 
 
更多>同类资讯
全站最新
热门内容
网站首页  |  关于我们  |  联系方式  |  版权声明  |  争议稿件处理  |  English Version