在近期举办的世界AI工程师大会上,OpenAI的联合创始人兼总裁Greg Brockman分享了他对当前AI技术发展趋势的独到见解。作为AI领域的资深人士,Brockman自2015年起便涉足这一领域,他的观点总是能引起业界的广泛关注。
在谈及GPT-6的发展挑战时,Brockman指出,随着算力和数据规模的迅速增长,基础研究正在经历一次复兴。在这一背景下,算法的重要性再次跃居前台,成为制约AI技术未来发展的关键因素。他认为,过去那种围绕特定论文和模型(如Transformer)进行微调的做法,虽然在指标上有所提升,但在智力层面却显得单调乏味。如今,强化学习等新的算法研究方向正逐步展现出其巨大的潜力。
在Brockman看来,工程师与研究人员是推动AI发展的两大核心动力。他强调,工程师的贡献丝毫不逊于研究人员,甚至在某些方面更为重要。OpenAI自成立之初便秉持这一理念,将工程与研究置于同等重要的位置。然而,这两者的思维方式却大相径庭。对于新加入OpenAI的工程师,Brockman总是告诫他们要保持技术上的谦逊,因为那些在传统互联网大厂行之有效的做法,在OpenAI未必能够适用。
在访谈中,Brockman还提到了OpenAI在资源与产品协调方面所面临的挑战。为了支撑产品上线的巨大算力需求,OpenAI不得不暂时挪用部分本应用于科研的算力资源。这一做法虽然看似冒险,但在Brockman看来却是值得的。他认为,只有确保产品能够按时交付并满足用户需求,才能让更多人体验到AI技术的魅力。
Brockman还分享了自己从童年时期对数学的兴趣到最终加入金融科技创企Stripe的历程。这段经历不仅塑造了他的技术视野,也让他对AI的未来充满了期待。
在访谈的尾声部分,Brockman回答了英伟达创始人兼CEO黄仁勋提出的两个问题,分别涉及未来AI基础设施的形态与开发流程的演变。他提到,随着AI技术的不断进步,未来的AI基础设施将需要同时满足大规模计算和实时响应的需求。这将对硬件和软件的设计提出新的挑战。
关于算法研究的新方向,Brockman认为强化学习正逐步成为主流。尽管目前仍存在许多明显的能力缺口,但随着研究的深入和技术的积累,这些问题终将得到解决。他相信,未来的AI系统将会更加多样化,形成一个由不同模型组成的“模型库”。这些模型将各自擅长不同的任务,并通过相互调用和协作来实现更复杂的功能。
在谈到AI编程时,Brockman表示,氛围编程作为一种新兴的现象,已经展现出了巨大的潜力。然而,真正的变革并不在于制作一些酷炫的应用或恶搞网站,而在于AI能够深入现有系统并进行改造的能力。这将使企业能够更快地发展,并推动软件工程向更加高效和智能的方向发展。
最后,Brockman还提到了训练系统的复杂性增加所带来的挑战。随着模型能力的提升和任务运行时间的延长,如何保存状态、避免训练中断等问题变得愈发重要。他认为,这需要端到端地规划整个系统的检查点机制,以确保训练的顺利进行。