随着人工智能技术的不断进步，生成式AI商业应用的开发格局正迎来重大变革。据Gartner的最新展望，至2028年，预计有80%的此类应用将直接在现有的数据管理平台上孕育而生，这一趋势预示着开发复杂性的显著降低，以及项目交付周期的大幅缩短，有望达到50%的缩减幅度。
当前，生成式AI商业应用的构建主要围绕大型语言模型（LLMs）与企业内部数据的深度融合展开，同时借助向量搜索、元数据管理、提示设计及嵌入技术等前沿科技。然而，若缺乏统一的管理框架，企业可能会陷入技术碎片化的困境，导致开发周期延长及成本攀升。
在近期于印度孟买举办的数据与分析峰会上，Gartner着重强调了检索增强生成（RAG）框架在推动生成式AI应用发展中的核心作用。RAG被视为提升AI模型精确度和可靠性的关键，正逐步成为部署此类应用的基石。Gartner指出，RAG以其灵活的实施策略、增强的可解释性及与LLMs的高效集成能力，展现出巨大潜力。
Gartner的高级分析师Prasad Pore进一步阐述，RAG在销售、人力资源、信息技术及数据管理等多个业务领域，均能有效促进流程优化与任务自动化。面对数据工程师及数据专家在复杂数据管道和应用开发、测试、部署及维护方面的重重挑战，Pore指出，传统数据管理流程的繁琐与高度人工依赖性，而通过RAG的应用，能够显著提升生产效率，简化数据治理流程。
Pore还提到，LLMs作为生成模型，其静态特性限制了其仅能根据训练数据进行工作，缺乏实时信息的融入。而RAG的引入，使得企业能够将最新的商业或组织特定数据整合进模型中，从而增强生成式AI应用在回答问题、日志分析及决策制定方面的效能。
在探讨生成式AI商业应用的分类时，Pore将其划分为三大核心领域：流程优化与自动化（涵盖企业知识管理及文档处理自动化）、用户体验提升（如客户支持自动化及个性化购物体验）以及洞察与预测（包括对话式商业智能及数据发现）。
针对生成式AI应用的构建与部署，Gartner向企业提出了以下建议：首要任务是评估现有数据管理平台向RAG即服务平台转型的可行性；其次，应将RAG作为优先事项，整合来自现有数据管理系统的向量搜索、图形处理及分块技术等；最后，充分利用元数据和操作数据，以强化知识产权保护、解决隐私关切，并防范恶意使用风险。
重点概览：
