ITBear旗下自媒体矩阵:

AI智能体热潮下,我们是否该按下暂停键思考?

   时间:2025-05-06 14:03:28 来源:ITBEAR编辑:快讯团队 发表评论无障碍通道

在AI领域,一款名为Manus的产品近期引发了广泛关注。其独特之处在于,并未选择自主研发大模型,而是巧妙地将第三方大模型进行工程化包装,打造出了一个功能强大的通用AI智能体。这种“套壳”策略虽然一度饱受争议,但创始团队坚信,极致的套壳本身就是一种胜利。

大模型应用套壳的话题一直颇为微妙。此前,无论是DeepSeek还是OpenAI,亦或是众多知名科技企业和AI创企,都以自研基础大模型为荣。相比之下,只做上层应用的AI套壳企业则显得缺乏底层核心技术,市场对其风险承受能力持怀疑态度。金沙江创投主管合伙人朱啸虎甚至直言不讳地表示,所有AI应用都是套壳应用,所谓壁垒只是忽悠人的。

然而,值得注意的是,就在短短一个多月的时间内,部分大模型大厂已迅速涉足Manus所在的AI智能体赛道。与此同时,Manus背后的公司“蝴蝶效应”也获得了由美国风投Benchmark领投的7500万美元融资,估值飙升至近5亿美元。这一迹象表明,市场正急需通过DeepSeek-R1大模型的普及和Manus应用的火爆,来填补企业智能化转型过程中的业务需求和技术空白。

在AI智能体领域,大厂们正加快布局。据报道,Manus走红前后,字节就组建了至少5个团队开发不同的AI智能体产品。百度也推出了由95后团队在30天内研发的“心响”APP,对标Manus,涵盖超200个任务类型。阿里则与Manus达成战略合作,基于通义千问系列开源模型,在国产模型和算力平台上实现Manus的全部功能,其旗下的AI智能体“心流”也已开启高级研究模式公测。

为了构建AI智能体生态,这些大厂也不约而同地拥抱了MCP机制。阿里云、腾讯云、蚂蚁集团旗下的OceanBase等纷纷实现MCP协议的对接,百度也引入了基于百度搜索的MCP Server发现平台和MCP Server服务。民生证券指出,基于类MCP协议+Agentic-based决策路径将成为未来AI智能体的主流范式,大厂有望通过MCP协议引入大量生态伙伴,推动国内AI智能体产业发展。

然而,在AI智能体技术飞速发展的同时,是否真正迎合了当下用户的真正需求?这是一个值得深思的问题。从安全风险性层面来看,AI智能体的设计初衷是自主执行决策、任务或目标,且理想情况下是在无人监督的情况下进行,因此风险更高。Gartner研究高级总监赵宇指出,目前AI智能体在“攻”和“防”方面都处于发展初期,客户对其安全风险的认识相对不足。至少有七成或更多的客户并不了解AI智能体是什么,更不用说与之相关的安全风险了。

随着多智能体协作运行模式的流行,这种模式确实提高了任务效率,但也带来了访问控制漏洞、资源竞争和冲突等问题。多个智能体在交互过程中可能需要访问相同资源或执行任务时,可能会产生冲突,导致系统资源被过度滥用或任务执行效率降低,从而影响整体业务和系统稳定性。AI智能体自主决策的风险、物理环境层面的风险以及AI本身的幻觉、提示注入攻击、数据泄露等风险问题也不容忽视。

在厂商侧,由于AI智能体自身的发展还处于初期阶段,市面上对其安全风险和控制措施的研究同样处于早期阶段。部分AI厂商、大模型厂商或AI智能体厂商都没有配备相应专职的安全团队。厂商目前交付的产品是否可以通过安全测试,或者是否存在可被攻击者利用的漏洞,这些都是未知数。现在大部分企业无论是厂商还是甲方企业,都比较关注短期的商业利益,对于长期安全风险的重视程度不够。

那么,何为AI智能体?这个概念虽然已经出现了一段时间,但围绕其延伸出的Agentic AI、Agentic Workflow、MCP、A2A等新名词却成为了最近一段时间的热门话题。Manus演示视频展示了一个独立的智能体,可在短短几秒钟内对简历进行分类、对候选人进行排名以及在电子表格中格式化数据。未来,每个人可能会使用多个智能体,这些智能体都有自己的角色和职责,需要通过通信和协作来达成目标。

业内对AI智能体的实践目标是使其真正适应复杂的应用场景。构建一个能够自主决策、与环境交互的智能体需要解决感知、理解、规划、执行等多个环节的技术难题,且各环节之间需要高度协同。在自动驾驶领域,车企正在对传统系统中的感知、融合、预测、规划、控制、定位等技术模块进行AI融合,以打造端到端自动驾驶系统。AI智能体或多个AI智能体在主动适应复杂工作流程的过程中,需要基于动态环境和业务流程的变化,以最佳方式实现预期结果。

因此,在应用和实践AI智能体之前,需要对其原理、成本及风险性等诸多关键因素进行解构。对于有多年智能化探索经验的客户而言,他们希望“慢一点”的本质在于提升在AI智能体领域的治理能力和认知。重要的不是追逐花式技术名词,而是在大量的实践和基础夯实中找到成功的故事共鸣。

举报 0 收藏 0 打赏 0评论 0
 
 
更多>同类资讯
全站最新
热门内容
网站首页  |  关于我们  |  联系方式  |  版权声明  |  RSS订阅  |  开放转载  |  滚动资讯  |  争议稿件处理  |  English Version