近期，IDC公布的一项研究报告揭示了2024年下半年中国大模型商业应用的显著增长态势。数据显示，这一时期的日均Tokens消耗量相较于之前激增了近10倍，标志着大模型技术在商业领域的广泛应用进入了一个新阶段。据统计，整个2024年，中国公有云大模型的Tokens调用总量达到了惊人的114.2万亿，这一数字还不包括通过海外MaaS平台进行的调用。
随着大模型商业应用的加速推进，数据中心内部对于Tokens的需求急剧上升，这不仅导致了东西向流量的显著增长，还使得通信能耗大幅增加。这一系列变化使得网络成为了制约AI基础设施性能的关键因素，进一步限制了AI技术的深入发展和广泛应用。面对这一挑战，高端网络硬件市场迎来了前所未有的发展机遇。
数据显示，2024年中国高端以太网（≥200G）端口的出货量成功突破了600万个大关。IDC预测，未来这一市场将保持45.6%的复合年增长率，预计到2029年，中国高端以太网端口的出货量将超过4300万个。与此同时，与生成式AI相关的网络硬件支出也呈现出快速增长的趋势。从2023年的65亿元到2028年的330亿元，复合年增长率高达38.5%，显示出市场对高端网络硬件的强烈需求。
国家数据局早前的数据也印证了这一趋势。2024年初，中国日均Tokens消耗量仅为1千亿，而到了同年6月底，这一数字已经飙升至30万亿，短短一年半的时间内增长了300多倍。这一惊人的增长速度不仅反映了大模型技术在商业领域的广泛应用，也预示着未来对于高端网络硬件的需求将持续增加。
随着AI技术的不断发展和应用领域的不断拓展，高端网络硬件市场将迎来更加广阔的发展空间。面对日益增长的Tokens需求和网络瓶颈挑战，如何有效提升网络性能和降低通信能耗将成为行业关注的焦点。未来，随着技术的不断进步和市场的持续扩大，高端网络硬件将成为推动AI技术进一步发展的重要力量。
