*本文整理自亿格云 AI资深专家 刘忠雨在 AI赋能企业办公安全研讨会 中的演讲内容。本文主要探讨技术发展趋势分析、AI能力分层认知、分步建设路径、分层构建框架、运营优化方法论五个方面。
亿格云 AI资深专家 刘忠雨：
我分享的主题聚焦于企业 AI 落地方案的思考，在今天这个大模型时代，企业A落地应该遵循什么样的科学方法路径、有哪些底层思考和框架逻辑，希望通过这次分享，能给大家带来一些有益的思考跟帮助。
一、技术发展趋势分析
我们先来看一下大模型技术发展趋势，在这个时代背景下，我觉得最应该关注的是大模型的规模定律，即模型的能力（或“智商”）取决于其参数规模、数据规模以及训练时间。从 GPT-3.5 到 GPT-4 的迭代可见，模型规模越庞大，越能深入掌握长尾场景和低频领域的知识，这也是大模型相较小模型的核心优势所在。与此同时，海量互联网公开数据的支撑，以及持续、有效的训练过程，都在推动大模型的性能不断跃升，也让整个行业对大模型的发展前景充满期待。
近年来，AI大模型的性能提升一度被认为因“数据见顶”而陷入瓶颈，但OpenAI O1与国产模型DeepSeek R1的技术突破，为规模定律开辟了两大新方向——后训练优化与推理机制创新，推动大模型能力持续跃升。
传统观点认为，AI模型的性能主要依赖数据量和参数量。但随着互联网数据逐渐耗尽，行业转向更高效的学习方式。
DeepSeek R1创新性地采用自动化标注强化学习，让模型自主探索解题过程，无需人工标注，从而涌现出自我反思、对比分析等高级思维能力。此外，延长模型的推理时间使其能模拟人类试错决策，显著提升复杂问题的解决能力。
DeepSeek全球首开强化学习训练框架开源先河，推动技术共享，标志着AI从“数据依赖”迈向“智能涌现”的新阶段。预测未来到27年，可能大模型到达一些领域的专家水平。
最新研究揭示，大模型密度定律——约每100天性能翻倍，而实现同等能力所需的参数量和计算成本却减半！2023年底，仅8B参数的小模型已超越GPT-3.5，震惊业界；预计到2025年，8B~32B参数的模型将比肩GPT-4。
这一趋势预示两大变革：性能天花板持续突破（至少两代重大升级），成本大幅下降（企业能以更低成本部署高性能AI）。随着技术快速迭代，GPT-4级能力正加速赋能千行百业，AI商业化落地迎来黄金期。
二、AI能力分层认知
我们需要接受并理解AI的能力边界，明确AI能够实现的目标以及其局限性，是真正掌握和有效应用它的前提。基于此，我们可以将AI能力划分为五级分类：
这五类场景实际上是来判断AI应用的问题以及系统复杂度的。
首先用5级分类法评估需求复杂度，从简单的单一问答到复杂的未知推理；其次通过ROI矩阵权衡实施难度和业务价值，以横轴“实施难度”（数据质量、算力需求、专家资源）与纵轴“业务价值”（效率提升、风险降低等）交叉分析，优先选择高价值、低难度的场景；最后通过可行性三要素严格把关：数据可获得性（结构/规模/质量）、知识明确性（规则/标签清晰度）以及容错阈值（99%/92%/80%），这三个关键指标直接影响系统优化的成本和实施路径。
三、分步建设路径
与传统机器学习系统不同，新一代 AI 具备任务驱动和目标导向的能力，能够自主规划行动路径，真正实现了“人格化”转变。这意味着 AI 在企业中的角色不再仅仅是一个辅助工具，而是可以像员工一样，承担任务、优化流程，并不断学习成长。
基于这一突破性变革，AI 在企业的落地建设过程，与企业人才发展全流程高度契合。AI 的建设并不是“一步到位”的，而是一个持续优化的过程，类似于培养新员工，需要循序渐进地嵌入业务，逐步提升其能力。这一过程可以拆解为五个关键阶段：
四、分层构建框架
在这一演进过程中，企业逐渐发现 AI 在不同业务场景中的共性需求，推动了分层建设框架的形成。最初从解决具体问题（如服务工单、工作流编排）入手，在多个场景实践中发现重复性需求（如多源数据接入、知识管理），进而将公共能力系统化分层，形成数据接入、知识建设、能力框架、智能决策和服务分发五层架构。这一过程遵循“自下而上”的逻辑，通过技术沉淀和业务抽象，最终构建出可扩展的企业级智能服务支撑体系。
五、运营优化方法论
当系统上线后，大模型能力的持续优化和系统方案的迭代升级就成为了关键。这就引出了运营优化的核心命题：如何通过系统化的方法不断提升整体效果？
具体来说，首先需要建立标准化的评测数据集，持续收集用户真实反馈；其次要构建自动化监控体系，对业务表现和客户体验进行实时追踪。在这个过程中，任何复杂的业务问题都需要拆解为可量化的小问题单元，聚焦在这些具体问题点上，通过智能评估（如RAG自动评测）、多维度问题洞察（结合业务标签分类和模式识别），最终实现基于ROI量化的精准施策，形成“数据筑基-智能评估-问题洞察-精准施策”的闭环优化体系，推动AI能力持续进化。
整体落地方案：
第一步：持续构建业务评测数据集
业务专家可以先整理 50-100 道具有代表性的测试题，这一过程成本不高，但能为 AI 评估提供明确的量化指标，确保在向领导汇报时有清晰的参考依据。同时，这也能直观展现 AI 在特定业务场景下的能力，为后续优化提供数据支撑。
第二步：持续进行差距评估的探针-RAG自动评测框架
在 AI 系统上线后，需要通过用户反馈不断优化，特别是针对 AI 无法回答或错误回答的“点踩”问题。通过 RAG 自动评测框架，可以记录 AI 召回失败的案例，并识别哪些问题未能进入 RAG 处理流程。
长期积累这些数据，企业可以构建标准化的差距评估体系，既能作为 AI 版本优化的评估标准，也能帮助企业识别知识库的薄弱点，提升 AI 对业务问题的适配度。
第三步：结合业务标签的问题分类统计
不同的业务场景对 AI 的需求不同，因此需要对 AI 遇到的问题进行分类统计。通过将 AI 处理的问题进行归类，分析其分布特点，帮助企业了解 AI 在不同业务环节的表现，还能为优化提供数据支撑。
第四步: 综合业务收益与投入来确定迭代优化手段的优先级
在 AI 业务落地过程中，优化应聚焦在高收益、高影响力的问题上。对于 AI 低准确率的问题，需要进一步拆解，分析是由于知识库缺失、意图理解错误还是召回机制不足导致。根据业务收益和技术投入的平衡点，确定优化优先级，从数据优化、知识补充到交互调整，确保 AI 逐步提升精准度和实用性，实现可持续优化。
六、总结
总的来说，企业 AI 建设的核心在于任务目标精晰化和资源与工具的合理调用：
1、AI 不仅要会执行任务，更需要具备自我验证的能力，通过数据反馈不断优化自身策略。因此，企业需要构建可自我验证的数据环境，让 AI 通过试验调整优化方案，并建立标准化的业务指标体系，确保 AI 产出的价值可衡量、可追踪。
2、AI 作为业务中的“生产者”，必须具备调度资源和调用工具的能力。企业需要明确 AI 任务所需的数据、计算资源和行业知识，并建立标准化、模块化的工具接口，确保 AI 能够精准调用，实现高效执行与闭环优化。
只有在这两大原则的支撑下，AI 才能真正融入业务，持续提升企业智能化水平。
3096
扫一扫
被折叠的 条评论
为什么被折叠?
到【灌水乐园】发言
