[人工智能]ML、DL、RL、AI、LLM、RAG与Agent:概念与架构概览

本文从工程实践角度,对机器学习(ML)、深度学习(DL)、强化学习(RL)、人工智能(AI)、大语言模型(LLM)、检索增强生成(RAG)以及智能体(Agent)进行整体性概述。重点关注常见架构模式、典型工作流和评估指标,并通过示意图和表格进行说明,适合作为多页技术参考材料。

1ML/DL/RL等模型类别在整体应用中的示意性占比。

2:训练与推理在CPU/GPU/内存资源使用上的示意性对比。

3:检索增强生成管线中各阶段复杂度的示意。

领域

关注点

典型方法

示例应用

机器学习(ML

从数据中学习模式与关系。

线性模型、决策树、集成方法等。

预测、分类、聚类等任务。

深度学习(DL

利用神经网络自动学习特征表示。

卷积网络、循环网络、Transformer等。

图像、语音、自然语言、推荐系统等。

强化学习(RL

通过奖励信号学习策略和行为。

Q学习、策略梯度、Actor-Critic等。

机器人控制、博弈、资源调度等。

人工智能(AI

更宽泛的智能系统与应用。

搜索、规划、知识图谱、ML/DL等。

智能助手、决策支持、自动化系统等。

大语言模型(LLM

针对文本和代码的大规模生成模型。

基于Transformer的生成式模型。

聊天机器人、摘要、代码生成等。

检索增强生成(RAG

将检索与LLM生成结合的框架。

向量检索、重排序、上下文构造等。

知识问答、文档助手、企业搜索增强等。

智能体(Agent

能够调用工具、模型和服务完成多步任务的系统。

规划-执行循环、多智能体协同等。

工作流自动化、复杂任务分解与执行等。

表1:ML、DL、RL、AI、LLM、RAG与Agent的整体技术版图示意。

层次

角色

示例

说明

数据层

存储文本、文档与结构化知识。

对象存储、数据库、数据湖等。

数据质量、治理与时效性非常关键。

索引/检索层

为RAG提供高效的相关内容检索能力。

BM25、向量检索、混合检索等。

检索效果直接影响回答的准确性与可信度。

LLM

在检索到的上下文基础上进行生成和推理。

通用LLM与领域定制LLM。

需权衡延迟、成本与安全约束。

编排/智能体层

协调工具、模型和数据源,完成多步任务。

Agent框架、工作流引擎等。

实现策略、记忆、多轮交互和复杂任务分解。

表2:LLM与RAG应用的典型技术栈层次示意。

指标

含义

典型用途

说明

准确率/F1

有监督任务在标签数据上的表现。

度量分类和排序质量。

需结合类别不平衡和业务目标选择合适指标。

损失/奖励

训练过程中优化的目标函数。

指导ML、DL和RL的学习过程。

若目标与实际部署行为不一致,指标意义有限。

时延

推理端到端响应时间。

影响用户体验和并发容量规划。

包括模型、检索和编排等各环节开销。

成本/能耗

每次请求或每次训练的资源消耗。

用于容量规划、成本控制和绿色计算。

常以每Token或每Epoch成本进行统计。

表3:训练与评估ML/AI系统时常用的关键指标示意。

1. 机器学习与深度学习基础

传统机器学习侧重于利用相对小型的模型,在人工设计的特征基础上从数据中学习映射关系。常见任务包括分类、回归、排序和聚类等,典型方法有线性模型、决策树、随机森林和梯度提升等。

深度学习则通过多层可微变换堆叠的神经网络,对原始数据进行端到端特征学习。卷积网络擅长处理图像,序列网络和Transformer架构广泛用于时间序列和自然语言,并逐渐成为大规模模型的主流骨干。

2. 强化学习与决策问题

强化学习关注在环境中通过试错交互和奖励信号学习策略。与有监督学习不同,数据由智能体与环境互动产生,反馈可能稀疏或延迟。核心概念包括状态、动作、奖励及环境转移过程,算法从表格型Q学习扩展到深度Actor-Critic等多种形式。

在实际工程中,强化学习常与深度学习结合,以处理高维观测,例如游戏画面或机器人传感器。用于资源调度、推荐优化和控制场景时,需要重点关注安全性、离线评估以及策略约束。

3. 人工智能系统

从工程角度看,人工智能指能够体现目标导向行为、推理和适应性的系统。早期AI包括搜索与规划算法、基于规则的专家系统以及知识表示(如图谱与本体)。当前许多AI系统将符号方法与统计ML/DL能力结合。

在生产环境中,AI解决方案通常集成数据管线、训练工作流、推理服务、监控与治理机制。除准确率之外,还需要考虑可靠性、公平性、鲁棒性和可解释性等非功能要求,并将其纳入整体设计。

4. 大语言模型(LLM)

大语言模型通常基于Transformer架构,在大规模文本和代码语料上进行训练,主要通过下一Token预测实现生成能力,但在摘要、翻译、指令理解和代码生成等方面表现出涌现能力。通过微调与对齐技术,可以使模型更安全、更符合用户期望。

LLM工程实践涉及提示词设计、模型选择、上下文窗口管理以及评估工具。延迟和成本约束可通过批量处理、缓存、模型蒸馏和专用硬件部署进行优化,同时需配套内容过滤、策略引导和持续红队测试来保障安全。

5. 检索增强生成(RAG)

RAG架构通过引入外部数据源,缓解纯参数化LLM在知识时效性和事实可靠性方面的限制。典型流程包括查询理解、索引检索、上下文构造和基于检索内容的条件生成,其中向量检索与传统排序方法往往结合使用。

设计稳健的RAG系统需要关注分块策略、元数据设计、索引刷新频率和检索质量指标。评估通常结合信息检索指标(如精确率、召回率、nDCG)以及人工或任务相关的事实性和相关性评估,并通过日志与可观测性定位检索失败或模型幻觉等问题模式。

6. 智能体(Agent)与工具编排架构

智能体在LLM和ML能力之上,通过调用工具、API和服务完成多步任务。智能体可以维护内部状态,规划动作序列,并在执行过程中根据反馈调整策略,多智能体架构则可用于角色分工和协同。

从架构视角看,智能体系统需要清晰定义能力边界、权限和防护策略。工具接口描述、结果校验以及会话记忆是关键组成部分。与现有基础设施(如CI/CD、工单系统、监控平台)的集成,是将智能体从实验转化为可运行组件的关键步骤。

7. 数据、评估与生命周期管理

高质量数据是ML、DL、RL和LLM系统的基础,包括原始日志、标注数据集以及精心构建的评估集。数据治理实践需要确保来源可追溯、访问控制合理并符合监管要求。对于RAG应用,文档生命周期管理和索引刷新策略尤为重要。

评估需要结合离线指标、在线实验(如A/B测试)以及定性审查。对于智能体,其行为空间庞大,因此基于场景的测试和仿真尤为有用。生命周期管理涉及持续训练、漂移监测、回滚策略以及模型与管线的责任归属。

8. 部署与工程实践考虑

在生产环境部署ML和AI系统时,需要兼顾可扩展性、可靠性和集成性。常见部署模式包括REST推理服务、流式处理和批量评分,基础设施可能覆盖CPU、GPU和专用加速器,并利用自动扩缩和负载均衡应对流量波动。

治理和合规流程应明确模型变更的审批与回滚机制,以及出现问题时的响应路径。对于RAG和智能体系统,需要严谨地限定工具和数据访问范围,以避免意外行为。同时,完善的文档和运维手册是保障长期维护的重要条件。

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值