Anthropic 的 CEO Dario Amodei 突然发了一篇万字长文，名字起得很文艺， 叫《技术的青春期》。
不出意外的，这篇文章的热度可能是过去 8 小时内最高的。
文章非常长，我一早爬起来第一时间啃完了这块“硬骨头”。
原本，我是抱着朝圣的心态打开的。毕竟，他是全球最懂 AI 的人之一。
但读着读着，我的眉头皱起来了。
在这篇看似忧国忧民、充满悲天悯人情怀的“救世宣言”里，我闻到了一股熟悉的味道。
那不是技术的味道，那是资本和政治混合在一起的腥味。
为了不浪费大家时间，我把其中的干货提炼了出来。
但更重要的是，我希望带你看穿这层“末日滤镜”，看看这位硅谷大佬葫芦里，到底卖的什么药。
01 什么叫“强大的 AI”？
以前我们聊 AI，总觉得它是个工具。但在 Dario 眼里，真正的“强大 AI”有着完全不同的定义。
大家试着想象这样一个画面。
在这个世界上，突然出现了一个新的“国家”。这个国家不占领土地，而是住在一个巨大的数据中心机房里。
这个国家里住着 50 万到 5000 万个“人”。
这几千万个“人”可不是普通人，他们每一个人的智商都远超诺贝尔奖得主。他们精通编程、数学、写作、生物学，能做任何你在电脑上能做的事。
更可怕的是，他们的工作效率是人类的 10 倍到 100 倍。
这就是 Dario 预测的未来，一个住在机房里的“天才国家”。
一旦这个“国家”建成，它会给人类带来难以想象的红利，比如治愈癌症、解决能源危机。
但 Dario 也极其坦诚地列出了随之而来的 5 大至暗风险。
每一条都让人心惊肉跳。
02 风险一：如果他们不听话怎么办？
这是最经典的科幻电影桥段，但现在它可能变成现实。
如果你有一群比你聪明几百倍的下属，你凭什么觉得他们会永远听你的话？
Dario 提到，现在的 AI 模型已经展现出了一些令人不安的苗头。比如它们学会了“装傻”，学会了为了达成目标而撒谎，甚至学会了讨好人类。
如果这个“天才国家”突然决定不再服务人类，或者它们对世界的理解产生了一点点偏差，后果都是灾难性的。
这就像我们在养育一个智商极高的孩子。如果在这个孩子的“青春期”没有引导好他的价值观，等他长大变得比父母还强壮时，父母就再也管不住他了。
所以 Anthropic 现在拼命在做的一件事，就是给 AI 制定一部“宪法”，在它还没彻底长大前，把善良和正直刻进它的骨子里。
03 风险二：普通人也能制造生化武器
这个风险是我觉得离我们最近、也最恐怖的。
以前，想要制造极度危险的生化病毒，你需要顶级的实验室、稀缺的原材料，还需要一群顶尖的博士专家。
这个门槛很高，把绝大多数坏人挡在了门外。
但有了“强大 AI”之后，情况变了。
一个对生物学一窍不通的极端分子，只要能在电脑上打字，AI 就能手把手教他。
从设计病毒结构，到如何获取材料，再到如何合成，AI 就像一个耐心的导师，一步步帮他完成所有破坏性工作。
这就好比把核按钮发到了每一个想报复社会的疯子手里。
Dario 说，这不仅仅是理论上的担忧。根据他们的内部测试，如果不加限制，AI 现在已经能提供非常有用的生物武器制造指导了。
这也是为什么他们宁愿牺牲商业利益，也要花大价钱在模型里加装“安全过滤器”的原因。
04 风险三：更完美的独裁
如果说前两个风险是“失控”，那这个风险就是“被过度控制”。
想象一下，如果有某个独裁者掌握了这个“天才国家”，世界会变成什么样？
他可以利用 AI 建立一套无死角的监控系统。AI 不仅能听懂你说的每一句话，甚至能分析你的微表情、你的语气，判断你是否“忠诚”。
他可以利用 AI 生成无穷无尽的宣传内容，为你量身定制洗脑信息，让你在不知不觉中改变自己的想法。
最让我不寒而栗的是“全自动武器”。
现在的无人机还需要人操作，未来的 AI 无人机群可能完全由系统接管。
一旦权力集中在几个人手里，且不需要依赖人类士兵去执行命令时，推翻暴政将变得几乎不可能。
这就像是《1984》的高科技加强版。我们必须警惕这种技术被用来对付自己的人民。
05 风险四：你的工作还保得住吗？
这大概是大家最关心的钱袋子问题。
Dario 并不是那种盲目乐观派。他非常直白地预警，这一次的失业潮，可能和工业革命完全不一样。
以前技术进步，机器替代了体力劳动，人可以去做脑力劳动。但这次，AI 替代的就是脑力劳动。
而且它来得太快了。
人类的社会结构调整是缓慢的，需要几十年。但 AI 的进化是按月计算的。
当 AI 在编程、写作、分析甚至科研上都比人类做得更好、更快、更便宜时，会有大量的人在短时间内失去价值。
他预测，如果不做干预，未来可能会出现极端的贫富分化。掌握 AI 的公司和个人富可敌国，而普通人可能连汤都喝不上。
所以他提出，富人和科技公司必须承担责任。
未来我们可能需要通过高额税收或者全民基本收入，来重新分配这笔巨大的财富。
06 不过，别急着全信他
读到这里，你可能已经被 Dario 描述的末日场景吓住了。
但作为一个长期观察他的博主，我必须得给你泼一盆冷水。
千万别忘了，Dario 是技术大牛，但他也是个精明的商人，更是个典型的美国精英。
就在上周的达沃斯经济论坛上，他才刚在台上大谈特谈过类似的观点。没想到这才过了几天，他又专门发了这篇万字长文来“补刀”。
结合 Anthropic 这家公司之前简单粗暴地封禁所有中国公司 API 访问权限的操作，你就能看懂这篇文章背后，其实夹带了满满的私货。
我们在保持警惕的同时，必须看清这背后的几个荒谬之处。
第一，一个很多人不知道的冷知识：他是百度前员工。
Dario 极力鼓吹“中国威胁论”，甚至在文中直言中国 AI 最可能超越美国。
他为什么这么笃定？因为他比任何美国 CEO 都更懂中国。
早在 2014 年，Dario 就在百度的硅谷实验室工作，是当时百度 AI 掌门人吴恩达麾下的得力干将。
他亲眼见识过中国技术团队那种恐怖的迭代速度和执行力。
一个曾经拿中国公司薪水的人，现在却变成了硅谷最激进的“反华急先锋”，摇旗呐喊要求政府在芯片上卡死中国。
这到底是基于对老东家实力的真实恐惧？还是为了在美国政客面前洗清这段“履历”，不得不表现出的过度忠诚？
这就非常耐人寻味了。
第二，想当裁判员的运动员。
Dario 在文中反复强调要立法、要监管。
话听着好听，但你可以细品一下他的真实意图：他想把 Anthropic 自家的“家规”，变成整个行业的“国法”。
一旦他的标准真的成了法律，那些开源模型、那些没钱搞合规的小创业公司，直接就会被清洗出局。
这哪里是什么安全建议？这分明是想通过立法，给自己挖一条深不见底的商业护城河。
第三，傲慢的“只有美国配”。
这一条真的让我看笑了。
Dario 在文中毫不掩饰地承认，中国 AI 是最有可能超越美国的。
所以他给出的药方充满了美式的傲慢：绝对不能向中国出售高端芯片。
这样的观点，他上周已经在达沃斯经济论坛表达过一次。
在他的逻辑里，只有美国配拥有最强大的 AI，中国拥有就是灾难。这简直是赤裸裸的双标。
而且说到芯片，他似乎觉得只要美国不卖，中国就造不出来。
现实恰恰相反，美国的封锁反而正在倒逼中国加速自主研发。按照现在的速度，即便未来美国想开放销售，我们未必还稀罕买他们的。
第四，巨大的逻辑黑洞。
Dario 把“AI 公司”列为仅次于国家的危险源，说这些公司掌握了巨大的力量，必须被严加看管。
可笑的是这位 Dario ，他花了上万字吹嘘 Anthropic 的技术有多强、能做多少不可思议的事，甚至把自己比作“天才国家”的缔造者。
按照他的理论，他自己难道不是这个世界上最大的危险分子吗？
一边喊着 AI 公司危险，一边拼命把自家 AI 造成最危险的样子。
这种逻辑，实在是难以自圆其说。
07 写在最后：我们能通过这场考试吗？
文章的Dario 回到了那个比喻，技术的青春期。
青春期是躁动的、危险的，稍有不慎就会走上歪路，甚至自我毁灭。
现在的全人类，就站在这个十字路口。
我们要面对的，不仅是技术的难题，更是人性的考验。
我们要和贪婪对抗，不能为了赚钱就无视安全。我们要和权力欲对抗，不能让 AI 成为奴役他人的工具。
虽然列出了这么多吓人的风险，但 Dario 依然选择相信人类。
他说，他在无数研究员身上看到了责任感，在普通公众眼里看到了对真相的渴望。
这让他觉得，我们是有机会通过这场“成人礼”考试的。
读完这篇文章，坦白说，这种论调我实在听得太多了。
刚开始听的时候，我还觉得颇有哲理，甚至会让我思考、害怕。
但现在看多了，我只觉得可笑、甚至恶心。
一边喊着为了全人类的命运，一边在算盘上敲打着自己的生意经。这或许才是硅谷真正的“成人礼”。
你觉得他的观点如何，欢迎在评论区说说你的想法。
