AI 下半场的四重引擎:算力重构、推理革命、Agent 织网与科学跃迁

国内AI搜索优势分析及对比 天工AI搜索利用了大模型技术,通过人性化、智能化的方式全面提升用户的搜索体验,为用户提供快速、可靠的交互式搜索服务。综合来看,开搜AI搜索凭借其高效的搜索能力、简洁直观的界面设计、无广告的纯净体验以及强大的智能功能,为用户提供了一个卓越的搜索体验。搜索的搜索速度、答案质量、功能优势、性能稳定性等对开搜AI搜索,秘塔、天工、等国内几款热门AI搜索引擎进行全面评测,分析它们的优劣,帮助大家选择最适合自己的AI搜索工具。总体来说,秘塔AI搜索为用户提供了高效便捷的搜索体验,受到用户的欢迎。 阅读详情

【摘要】2025年AI从狂飙突进转向深耕细作,算力基建化、推理高效化、Agent网络化与科学融合化共同重塑产业技术栈与商业逻辑。

引言

人工智能的发展历程中,2023年和2024年是属于“大模型”的狂欢。参数规模的指数级增长、通用能力的涌现,让整个行业陷入了一种对“更大、更强”的迷信。然而,站在2025年的门槛上,风向变了。

行业不再单纯通过堆砌显卡来换取几个百分点的Benchmark提升。企业的关注点从“模型能做什么”迅速转移到“模型如何落地”、“成本如何控制”以及“系统如何闭环”。我们正在进入AI的“下半场”。

这个阶段的特征不再是单一维度的参数竞赛,而是系统工程的全面较量。算力正在从企业级IT资源演变为国家级基础设施;模型架构为了打破Transformer的效率瓶颈正在发生质变;Agent(智能体)正在重构互联网的连接方式;而AI for Science(AI4S)则让比特世界的智能开始反哺原子世界的科学发现。

这四重引擎——算力、推理、Agent、科学,构成了未来五到十年AI产业的全新底座。本文将从架构师的视角,剥离市场喧嚣,深度拆解这四大维度的技术演进与产业逻辑。

🏗️ 一、 算力基建化:从“IT设备”到“国家电网”

在AI上半场,算力是企业争夺的稀缺物资。在下半场,算力正在经历一场类似“电力革命”的基建化重构。它不再仅仅是服务器的堆叠,而是涉及能源、网络、调度和芯片架构的复杂系统工程。

1.1 算电共生:能源定义算力边界

过去我们谈论数据中心,核心指标是PUE(电源使用效率)。现在,核心制约因素变成了“电力容量”和“能源结构”。千亿级参数模型的训练和推理,本质上是将巨大的电能转化为智能。

“算力工厂”概念的兴起,标志着超大规模数据中心(Hyperscale Data Center)的建设逻辑发生了根本转变。

  • 选址逻辑重构:不再单纯跟随网络节点,而是跟随能源节点。“东数西算”工程的本质,就是将算力部署在可再生能源丰富的西部,通过特高压输电和光纤网络,实现“瓦特”与“比特”的跨区域置换。

  • 能源协同:数据中心不再是电网的被动负载,而是具备调节能力的“虚拟电厂”。通过AI预测负载波动,数据中心可以与电网进行源网荷储互动,实现“以电促算、以算强电”。

表 1:传统数据中心 vs 智算中心(AIDC)的特征对比

特征维度

传统数据中心 (IDC)

智能计算中心 (AIDC)

核心负载

CPU通用计算、存储、网络转发

GPU/NPU并行计算、张量运算

机柜功率

4kW - 8kW

20kW - 50kW+ (高密部署)

制冷方式

风冷为主

液冷(冷板/浸没)成为标配

网络架构

树状/叶脊架构,重吞吐

无损网络 (RoCE/IB),重低延迟、零丢包

能源逻辑

追求低PUE,被动用电

算电协同,源网荷储一体化

1.2 芯片AI化:架构的“去通用化”革命

通用GPU(GPGPU)统治了AI的上半场。但在下半场,随着推理需求的爆发和模型架构的固化,通用性带来的效率损耗变得不可接受。芯片产业正在经历从“通用算力”向“AI原生算力”的范式转移。

1.2.1 异构计算的崛起

GPU的主导地位正在受到挑战。NPU(神经网络处理器)、ASIC(专用集成电路)和FPGA正在瓜分特定场景的市场份额。

  • 训练端:GPU依然是王者,但为了追求极致的互联带宽和显存容量,晶圆级封装(Wafer-Scale)和HBM(高带宽内存)堆叠成为技术制高点。

  • 推理端:ASIC因其极致的能效比(TOPS/W)正在边缘侧和端侧迅速普及。对于确定的模型结构(如Transformer),专用电路比通用指令集效率高出数个数量级。

1.2.2 全栈国产化的“深水区”

中国AI芯片的发展已经过了“做出来”的阶段,现在进入了“用起来”的深水区。单纯的硬件参数对标(如FP16算力)已无意义,真正的护城河在于软件栈。

“芯片 + SDK + 框架”的垂直整合是国产算力破局的唯一路径。

graph TD
    A[应用层: 大模型/Agent/行业应用] --> B[框架层: PyTorch/TensorFlow/PaddlePaddle/MindSpore]
    B --> C[算子库/SDK: CUDA/CANN/ROCm/自研SDK]
    C --> D[编译器: 图优化/算子融合/自动并行]
    D --> E[硬件层: GPU/NPU/ASIC]
    
    style C fill:#f9f,stroke:#333,stroke-width:2px
    style D fill:#f9f,stroke:#333,stroke-width:2px

上图展示了算力栈的关键环节。国产化的难点主要集中在C(算子库)和D(编译器)。目前,国产方案已在千亿级模型训练中完成了实战验证,通过算子级的深度优化和异构集群的调度适配,逐步实现了从“可用”到“好用”的跨越。

1.3 算力网络的调度难题

当算力成为基础设施,如何像调度水电一样调度算力,是“全国一体化算力网络”面临的最大技术挑战。

这不仅仅是网络带宽的问题,更是异构算力统一抽象的问题。不同厂商的芯片(NVIDIA, 华为, 寒武纪, 海光等)指令集不同、显存管理机制不同。构建一个能够屏蔽底层硬件差异、实现跨广域网任务切分与调度的“算力操作系统”,是2025年基础设施领域的攻坚重点。

🚀 二、 模型与架构进化:效率革命与“推理时间”

如果说上半场是“参数竞赛”,下半场就是“效率为王”。模型架构的演进不再盲目追求参数量,而是聚焦于如何在有限的算力预算下,实现更强的推理能力和更长的上下文窗口。

2.1 架构突围:打破Transformer的枷锁

Transformer架构统治了NLP领域多年,但其自注意力机制(Self-Attention)的 O(n2)O(n2) 计算复杂度,在处理超长文本时成为了巨大的资源黑洞。

2.1.1 线性注意力(Linear Attention)

为了解决长程依赖问题,线性注意力机制成为研究热点。通过核函数技巧或RNN式的状态传递,将复杂度降低到 O(n)O(n)。

  • 技术价值:这意味着推理成本不再随上下文长度呈指数级增长,而是线性增长。这对于RAG(检索增强生成)、长文档分析和代码库理解至关重要。

  • 落地现状:Moonshot AI的Kimi Linear架构、蚂蚁集团的Ring-flash-linear等方案,已经证明了线性Attention在保持性能的同时,能大幅降低显存占用和推理延迟。

2.1.2 MoE(混合专家模型)的主流化

MoE架构通过“大参数、小激活”的设计,完美解决了模型容量与推理成本的矛盾。

  • 原理:将模型拆分为多个“专家(Expert)”,每次推理仅激活其中一小部分(例如总参数1000B,每次仅激活10B)。

  • 优势:

    1. 训练快:并行度高,收敛速度快。

    2. 推理省:计算量(FLOPs)远小于同等参数规模的稠密模型。

    3. 上限高:可以通过增加专家数量无限扩展知识容量,而不显著增加推理延迟。

2025年,MoE已成为大模型的标配。DeepSeek、GPT-4等前沿模型均采用了MoE架构。未来的竞争点在于**路由算法(Routing Algorithm)**的优化,即如何更精准地将任务分发给最合适的专家,以及如何解决专家负载不均衡的问题。

2.2 推理时间的到来:OpEx > CapEx

随着大模型应用的大规模铺开,企业的成本结构发生了翻转:推理成本(OpEx)逐渐超过训练成本(CapEx)。

“推理时间”(Inference Time)不仅仅指模型运行的时间,更是一个产业阶段的代名词。在这个阶段,真正的竞争力在于:同等精度下,谁更便宜、谁更快。

2.2.1 投机采样与KV Cache优化

为了加速推理,业界发展出了一系列工程化手段:

  • 投机采样(Speculative Decoding):用一个小模型快速生成草稿,大模型进行验证。如果草稿正确,则跳过大模型计算。这种“大小模型协同”的方式可以成倍提升推理速度。

  • KV Cache压缩:长文本推理中,KV Cache占用大量显存。通过PagedAttention(类似操作系统的虚拟内存分页)和量化技术(4bit/8bit KV Cache),可以显著提升吞吐量。

2.2.2 端侧推理与“云边端”协同

并不是所有任务都需要云端千亿模型处理。80%的日常任务(如语音交互、简单摘要、日程管理)完全可以在端侧完成。

  • 端侧AI:手机、PC、汽车正在集成高性能NPU。例如,高通和联发科的新一代芯片,已能支持端侧运行10B-30B参数的模型。

  • 混合AI架构:

    1. 端侧:处理敏感数据、实时性要求高、计算量小的任务。

    2. 边缘侧:处理区域性数据聚合与初步推理。

    3. 云端:处理复杂逻辑、长程推理和兜底服务。

这种分层架构不仅降低了云端算力压力,更解决了隐私和延迟问题,是AI规模化落地的必经之路。

2.3 硬件觉醒:模型与芯片的协同设计

RockAI CEO刘凡平提出的“硬件觉醒”观点非常犀利。未来的模型不应是被动适应硬件,硬件也不应只是通用的计算容器。

Co-design(软硬协同设计)将成为常态。

  • 模型设计者需要了解硬件的内存带宽、缓存层级和互联拓扑,设计出对硬件友好的架构(如减少非连续内存访问)。

  • 芯片设计者需要针对主流算子(如Softmax, LayerNorm)进行指令集优化,甚至在硬件层面实现稀疏计算加速。

🕸️ 三、 Agent 织网:重塑互联网的流量与交互

如果说大模型是“大脑”,那么Agent(智能体)就是具备手脚和感官的“完整的人”。2025年,互联网正在从“内容互联网”向“Agentic互联网”演进。

3.1 交互范式革命:从“人找服务”到“服务找人”

在PC和移动互联网时代,我们的交互逻辑是指令式的:打开App -> 点击按钮 -> 获取服务。
在Agent时代,交互逻辑变成了意图式的:告诉Agent目标 -> Agent拆解任务 -> Agent调用工具 -> 交付结果。

这种转变对现有的互联网生态是毁灭性的打击,也是巨大的机遇。

  • 入口消失:用户不再需要打开美团、携程、滴滴,只需要告诉个人Agent“帮我安排一次去上海的差旅”。App变成了Agent调用的API接口。

  • 超级连接器:Agent成为了新的操作系统。它向下连接各种模型和工具,向上连接用户意图。

3.2 Agent Infra:AI时代的操作系统

为了支撑数以亿计的Agent运行,我们需要全新的基础设施——Agent Infra。

这套基础设施需要解决以下核心问题:

  1. 记忆管理:Agent需要长短期记忆(Long-term/Short-term Memory),记住用户的偏好、历史交互和上下文。向量数据库(Vector DB)在这里扮演了海马体的角色。

  2. 工具注册与发现:成千上万的API如何被Agent理解和调用?需要标准化的工具描述语言和注册中心。

  3. 规划与反思:Agent需要具备CoT(思维链)能力,能够自我规划任务路径,并在执行失败时进行反思和修正。

表 2:传统OS vs Agent OS

功能模块

传统操作系统 (Windows/Linux/Android)

Agent 操作系统 (Agent Infra)

核心资源

CPU、内存、磁盘、I/O

模型算力、上下文窗口、知识库

调度对象

进程 (Process)、线程 (Thread)

智能体 (Agent)、任务 (Task)

交互界面

GUI (图形界面)、CLI (命令行)

LUI (自然语言界面)、多模态交互

存储系统

文件系统 (File System)

向量数据库、记忆图谱

扩展能力

安装软件/App

挂载工具 (Tools/Plugins)

3.3 具身智能:物理AI的觉醒

Agent不仅存在于数字世界,正在通过具身智能(Embodied AI)进入物理世界。2025年是“信息AI应用期”与“物理AI研发期”的交汇点。

3.3.1 世界模型与VLA

机器人要像人一样行动,必须先像人一样理解物理规律。

  • 世界模型(World Model):让AI在脑海中推演“如果我做一个动作,世界会发生什么变化”。这解决了机器人训练数据稀缺和试错成本高的问题。

  • VLA(Vision-Language-Action):将视觉感知、语言理解和动作控制统一在一个大模型中。Google的RT-2、自变量机器人的Great Wall模型,都是这一路径的探索者。

3.3.2 端到端控制

传统的机器人控制栈是分层的:感知 -> 规划 -> 控制。每一层都有信息损耗。
现在的趋势是端到端(End-to-End):直接从传感器输入(像素)映射到电机输出(力矩)。这种方式虽然训练难度大,但能涌现出传统控制算法无法实现的灵巧操作和泛化能力。

🔬 四、 科学跃迁:AI4S 成为科研新基建

如果说生成式AI改变了内容生产(AIGC),那么AI for Science(AI4S)正在重塑科学发现的底层逻辑。这不仅仅是工具的升级,而是科研范式的转移——从“实验归纳+理论推演”的传统范式,迈向“数据驱动+AI生成”的第五范式。

4.1 突破“维度灾难”:AI 求解薛定谔方程

在微观世界,量子力学支配着原子和分子的行为。理论上,只要解出薛定谔方程,我们就能预测任何材料的性质。但现实是,随着粒子数量增加,计算复杂度呈指数级爆炸(维度灾难),传统超算也无能为力。

AI4S 的核心突破在于,利用深度神经网络(DNN)强大的高维函数拟合能力,绕过复杂的解析求解,直接预测微观系统的波函数或能量面。

  • 材料科学:AI可以快速筛选数亿种晶体结构,预测其稳定性、导电性和催化活性。例如,DeepMind的GNoME模型发现了220万种新晶体结构,相当于人类过去800年发现总量的45倍。

  • 生命科学:AlphaFold 3不仅能预测蛋白质结构,还能预测蛋白质与DNA、RNA、小分子的相互作用。这标志着生物学从“描述性科学”转变为“预测性科学”。

4.2 闭环自动化:AI 科学家的雏形

AI4S 不止于计算,更在于实验闭环。未来的实验室将是“无人化”的。

AI 科学家(AI Scientist) 的工作流如下:

  1. 阅读文献:LLM(大语言模型)阅读海量论文,提取知识,生成假设。

  2. 设计实验:根据假设,规划合成路径和表征方案。

  3. 驱动设备:控制自动化合成工作站(机器人化学家)执行实验。

  4. 分析数据:实时分析实验结果,反馈修正假设,进入下一轮迭代。

这种“干湿闭环”(干实验:计算模拟;湿实验:真实实验)将科研迭代的周期从“年/月”压缩到“天/小时”。清华大学张亚勤院士提到的“原子、分子和比特的融合”,正是这一趋势的精准概括。

🌏 五、 中国路线:从跟随者到生态定义者

在AI的上半场,中国企业更多是在追赶硅谷的步伐。但在下半场,凭借独特的场景优势、数据红利和举国体制的基建能力,一条清晰的“中国路线”正在浮现。

5.1 开源生态的“中国时间”

2024-2025年,中国开源模型在全球社区的表现令人瞩目。DeepSeek、Qwen(通义千问)、Yi(零一万物)等模型在Hugging Face排行榜上频频霸榜。

这背后的逻辑发生了变化:

  • 不再盲目对标:中国团队不再单纯复刻LLaMA的架构,而是针对中文语境、长文本、代码能力进行深度优化。

  • 全栈自主:从底层的深度学习框架(PaddlePaddle, MindSpore)到上层的微调工具(LLaMA-Factory),中国开发者正在构建一套独立于PyTorch/TensorFlow之外的备选生态。

5.2 产业链的垂直整合

与美国“设计与制造分离”的模式不同,中国正在走一条“垂直整合”的道路。

  • 华为模式:昇腾芯片 + MindSpore框架 + 盘古大模型 + 行业解决方案。这种全栈打通的能力,在政务、金融、能源等对安全可控要求极高的领域具有不可替代的优势。

  • 应用驱动:中国拥有全球最丰富的应用场景。从智能座舱到工业质检,从电商推荐到即时物流,庞大的数据反馈闭环正在反哺底层模型的迭代。

5.3 战略定力:AGI 与安全并重

在国家层面,AGI(通用人工智能)已被置于战略核心。但与西方的“加速主义”不同,中国路线更强调发展与安全的平衡。

  • 可控性:强调算法的可解释性、价值观对齐和内容安全。

  • 普惠性:通过算力网络和公共服务平台,降低中小企业使用AI的门槛,避免技术鸿沟。

🏁 结论:AI 下半场的竞争本质

站在2025年回望,我们会发现,AI上半场是一场关于“想象力”的狂欢,而下半场则是一场关于“执行力”的急行军。

竞争的本质已经改变:

  1. 从单点技术到系统工程:不再是比拼谁的模型参数大,而是比拼谁能把算力、模型、数据、应用串联成高效运转的机器。

  2. 从虚拟世界到物理世界:AI不再满足于生成文本和图片,它要控制机械臂拧紧螺丝,要设计出新型电池材料,要像水电一样流淌进千家万户。

  3. 从通用泛化到垂直深耕:通用的基座模型将成为少数巨头的游戏,绝大多数企业的机会在于利用行业数据和Agent架构,构建垂直领域的“超级专家”。

对于技术从业者而言,这是一个最好的时代,也是最坏的时代。好的是,工具箱从未如此丰富;坏的是,技术栈的半衰期从未如此短暂。

唯有拥抱变化,深入理解算力底座的重构、模型架构的演进、Agent网络的编织以及科学范式的跃迁,我们才能在这场智能革命的下半场中,找到属于自己的生态位。

📢💻 【省心锐评】

上半场拼参数,下半场拼落地。算力是粮草,模型是兵法,Agent是先锋。谁能把AI做成水电般便宜好用,谁就是下一个时代的“国家电网”。

谷歌之外,值得考虑的八大AI搜索引擎 Exa AI是一个先进的搜索引擎,由于能够理解查询背后的含义,不仅限于传统的基于关键字的搜索。它是一个功能强大的AI聊天机器人,使用各种数据源加以训练,包括公共数据集、网络抓取结果、人类标签和生成的数据,使其成为一个强大而高效的搜索工具。在欢迎页面上,您只看到一个搜索栏,即使在执行搜索之后,您得到的也是极简约的相关结果,而不是充满内容的整个页面。在我看来,与谷歌相比,使用最新的AI搜索引擎可以提供更好的结果,并节省时间和精力,我认为随着时间的推移,谷歌搜索引擎会变得越来越糟糕。 阅读详情

相关推荐

存储&AI行业每日要闻(2026-10-25

影响:这是市场对"烧钱就能赢"叙事的一次集体重估——Meta 主动设 C 类股稀释投票权也要融资,SpaceX 单季资本开支逼近营收 1.35 倍,叠加前一日博通 600 亿/SpaceX 400 亿芯片抵押融资,AI 基建已进入"股权+债务双管抽血"阶段;若指引保守,则昨日费半暴跌的余波将继续发酵。影响:DSX POD 的本质是把 AI 基建从"定制工程"变成"集装箱产品"——这与前一日"芯片抵押融资 5000 亿框架"形成闭环:英伟达不仅卖 GPU,还帮客户解决融资、集成、电力等全链条问题;

惠惠软件 85

2024最好用的11个AI搜索引擎工具盘点!

360AI 搜索,新一代智能答案引擎,值得信赖的智能搜索伙伴,为复杂搜索提供专业支持,解锁更相关、更全面的答案。AI 对用户提问进行精准语义分析,并通过追问获取更多有价值信息,将问题拆分为多组关键词后再进行搜索引擎检索,深度阅读网页内容,最终呈现逻辑清晰、准确无误的答案。提供联网搜索功能,可以获取丰富的信息资源。支持语义理解和生成,能够回答用户提出的问题并给出详细答案。具备知识增强大语言模型,可以进行逻辑推理和记忆功能。

舒哥的blog 3万+

AI游戏引擎程序设计

AI游戏引擎程序设计,学习游戏开发的重要组成部分,加入恰当的ai设计可以使游戏体验更好

【2024】10个好用的AI搜索引擎大盘点

AI搜索引擎作为人工智能技术的重要应用之一,正在逐步改变我们的搜索方式和信息获取方式。上述10款AI搜索引擎各具特色,无论是在学术研究、技术开发还是日常生活领域,都能为用户提供更加智能、个性化的搜索体验。随着技术的不断发展,未来还将有更多创新的AI搜索引擎涌现,为用户带来更多便利和惊喜。

helphelptongxue的博客 1万+

1.triton镜像使用

1)拉取镜像2)启动容器指定模型仓库时可以执行server下的./fetch_model.sh,见2.2部分GPU版本的启动CPU版本的启动区别只在于--gpus=1这个参数注意:docker19.03之前的版本使用gpu要指定显卡硬件名,docker19.03之后的需要安装nvidia-container-toolkit或nvidia-container-runtime安装之后要重启docker查看gpus参数是否安装成功重新执行我遇到了如下错误先使用非GPU版本的。

天启的博客 2068

信捷CODESYS平台伺服电机转矩控制模式应用与切换

信捷CODESYS二次开发软件:XS Studio 在运动控制中的转矩控制案例

weixin_64614866的博客 1万+

企业AI的”发动机”长啥样?一文看懂AI中台整体架构设计!

本文系统阐述了一个三层次的AI技术架构体系:1)技术支撑层(AI大脑)包含RPA流程自动化、多模态AI技术平台和IoT物联平台三大核心组件;2)能力服务层将底层技术封装为协同办公、数字员工等通用业务能力模块;3)应用落地层针对医疗、工业等垂直领域提供定制化解决方案。该架构通过分层解耦实现技术复用,构建了从算法引擎到行业场景的完整闭环,特别强调RPA+AI+IoT的技术协同价值。文章还介绍了配套的大模型学习资源包,包含视频教程、技术文档和实战项目等内容,旨在帮助不同背景的学习者掌握AI核心技术。

2401_85390073的博客 2084

DESeq2实战:如何用LRT检验分析基因表达随时间变化的模式(附完整代码)

本文详细介绍了如何使用DESeq2中的LRT检验分析基因表达随时间变化的模式,包括实验设计、数据预处理、模型构建、结果提取与可视化等完整流程。通过实战案例和完整代码,帮助生物信息学研究者掌握时间序列RNA-seq分析的核心技术,特别适合需要快速上手的实践者。

weixin_42620255的博客 457

转载:【AI系统】推理引擎架构

在深入探讨推理引擎的架构之前,让我们先来概述一下推理引擎的基本概念。推理引擎作为 AI 系统中的关键组件,负责将训练好的模型部署到实际应用中,执行推理任务,从而实现智能决策和自动化处理。随着 AI 技术的快速发展,推理引擎的设计和实现面临着诸多挑战,同时也展现出独特的优势。本文将详细阐述推理引擎的特点、技术挑战以及如何应对这些挑战,为读者提供一个较为全面的视角。

LKGd27WLY的博客 395

IMA知识库:从0到1的架构设计与实践

本文探讨了AI时代知识库系统的架构设计与演进路径。通过分析知识入库、知识管理和知识应用三大核心业务流程,提出了应对数据多样性、处理标准化、流量洪峰等挑战的解决方案。重点介绍了基于统一数据格式的解耦设计、异步处理架构、服务拆分策略以及权限安全体系,构建了一个稳定、高效且可扩展的知识库系统。文章强调优秀架构需要持续演进,通过识别薄弱点不断优化,最终实现技术方案与业务需求的平衡。

lovehu6686的博客 1728

ROS2实战:手把手教你用CMake集成自定义DDS(以CycloneDDS为例)

本文详细介绍了如何在ROS2中通过CMake集成自定义DDS(以CycloneDDS为例),涵盖环境准备、源码编译、ROS2工作区集成、性能调优及常见问题排查。通过RMW中间件抽象层,开发者可以灵活切换DDS实现,提升系统实时性和可靠性。

weixin_29284201的博客 344

大模型的“Tomcat”:一文读懂AI推理引擎(Inference Engine)

等推理引擎,都内置了强大的量化工具。你只需要把原始的FP32模型丢给它,配置好量化参数(比如INT8),它就能自动帮你生成一个“瘦身”后的模型。如一个模型有80层,1号GPU负责1-20层,2号GPU负责21-40层... 数据像在流水线一样,流过一张张GPU,每张GPU只做自己那部分工作。把GPU显存划分成一个个固定大小“块(Block)”,一个请求来了,按需分配块,而非一次性预分配一个巨大的连续空间。从熟悉的“服务器”说起,想象你用Java写好了一个业务应用,如订单处理服务,打成一个JAR或WAR包。

JavaEdge全是干货的技术号 1306

STM32F407 HAL库 LIN DMA 配置实战与汽车电子应用解析

本文详细解析了STM32F407 HAL库在LIN总线通信中的DMA配置实战,重点介绍了硬件自动处理断点检测、同步场和校验和的优势。通过具体代码示例和汽车电子应用案例(如车窗控制、座椅调节),阐述了如何利用DMA提升通信效率与稳定性,为成本敏感的汽车电子系统提供高效解决方案。

study的专栏 964

AI应用架构师如何玩转智能资源调度AI引擎

系统模型Rr1r2rmRr1​r2​...rm​,其中rir_iri​表示第i种类型的资源(如GPU、CPU、内存等)Nn1n2nkNn1​n2​...nk​,每个节点拥有一定数量的各类资源Tt1t2tnTt1​t2​...tn​,每个任务有特定的资源需求和性能目标任务表示:对于任务tjt_jtj​djdj1dj2djmdj​dj1​d。

SuperAGI2025 987

华为校招实习机试&华为社招机试20240619-2.排列组合的回文字符串[200分]( Java | Python3 | C++ | C语言 | JsNode | Go)实现100%通过率

如果一个字符串和它反转后的字符串相同,我们称这个字符串为回文字符串,如"aba"是一个回文字符串,"abb"不是一个回文字符串(长度为1的字符串也是回文字符串)。现给定一个字符串,其长度范围为:[1,1000),返回其通过重新排列组合后所有可能的回文字符串的个数(需要去除重复的组合)。返回其通过重新排列组合后所有可能的回文字符串的个数,去除重复的组合后的回文字符串是"abba","baab",因此返回2。解释:排列组合后的回文字符串是"abba" , "baab",因此结果为2。

算法算法算法!!! 825

ESP32学习笔记06-UART 的485 通讯模式

通信方式选择UART 控制器支持多种通信模式,使用函数 uart_set_mode() 可以选择模式。选择特定模式后,UART 驱动程序将处理已连接 UART 设备的相应行为。例如,主机开始向 Tx FIFO 缓冲区写入数据时,UART 驱动程序会自动置位 RTS 管脚(逻辑 1);最后一位数据传输完成后,驱动程序就会取消置位 RTS 管脚(逻辑 0)。要使用此模式,软件。

Car12 2470

从零搭建AI语义引擎,向量数据库+Python集成全攻略

掌握AI语义引擎搭建核心方法,详解向量数据库集成Python全流程。涵盖文本嵌入、相似度搜索与实际应用场景,助力开发者高效实现语义理解。步骤清晰,代码可复用,值得收藏。

VarFlow的博客 1042

廖雪峰Python教程[完整版]

廖雪峰的python教程整理的,已经排好版了,而且还是完整的,适合小白

通过观看不到两分钟的游戏画面,AI就可重建游戏引擎

原文:Artificial Intelligence Uses Less Than Two Minutes of Videogame Footage to Recreate Game Engine 作者:Joshua Preston 翻译:无阻我飞扬 摘要:文章描述了佐治亚理工学院的研究人员开发的一种可以通过观看游戏过程以重建游戏引擎的AI。AI系统看明白游戏是怎么回事以后,就可以复制“

博客 1万+

VC中sqlite的使用

在VC中对sqlite的使用,实现数据库大批数据的快速插入,读取数据库中的数据在ListCtrl中显示

android 蓝牙通讯demo

android 下蓝牙通讯demo,实现了发现蓝牙,使能蓝牙,通过蓝牙发送消息。

人工智能引擎(8)-理解

”太阳系“是一个抽象的概念。从我们与环境接触开始,我们就不断的诠释者它。大脑内部使用了一种存储媒介,存储了音频表达的各种太阳系单体,存储了图像表达的各种太阳系单体,各种感官单体。”贝达”解析方式在分析“太阳系”音频信号时,可能使用了“共鸣”机制去检索“太阳系”音频信号。关于大脑对单体的存储方式,暂命名为“脑储模型”。共鸣检索机制能快速检索共鸣强度最高的脑内存储单体。所以通常人的第一反应都是映像深刻的记忆。

u014141234的专栏 2073

深度学习工具包 DeepLearningToolbox

深度学习工具包Deprecation notice.-----This toolbox is outdated and no longer maintained.There are much better tools available for deep learning than this toolbox, e.g. [Theano](http://deeplearning.net/software/theano/), [torch](http://torch.ch/) or [tensorflow](http://www.tensorflow.org/)I would suggest you use one of the tools mentioned above rather than use this toolbox.Best, Rasmus.DeepLearnToolbox================A Matlab toolbox for Deep Learning.Deep Learning is a new subfield of machine learning that focuses on learning deep hierarchical models of data.It is inspired by the human brain's apparent deep (layered, hierarchical) architecture.A good overview of the theory of Deep Learning theory is[Learning Deep Architectures for AI](http://www.iro.umontreal.ca/~bengioy/papers/ftml_book.pdf)For a more informal introduction, see the following videos by Geoffrey Hinton and Andrew Ng.* [The Next Generation of Neural Networks](http://www.youtube.com/watch?v=AyzOUbkUf3M) (Hinton, 2007)* [Recent Developments in Deep Learning](http://www.youtube.com/watch?v=VdIURAu1-aU) (Hinton, 2010)* [Unsupervised Feature Learning and Deep Learning](http://www.youtube.com/watch?v=ZmNOAtZIgIk) (Ng, 2011)If you use this toolbox in your research please cite [Prediction as a candidate for learning deep hierarchical models of data](http://www2.imm.dtu.dk/pubdb/views/publication_details.php?id=6284)```@MASTERSTHESIS\{IMM2012-06284, author = "R. B. Palm", title = "Prediction as a candidate for learning deep hierarchical models of data", year = "2012",}```Contact: rasmusbergpalm at gmail dot comDirectories included in the toolbox-----------------------------------`NN/` - A library for Feedforward Backpropagation Neural Networks`CNN/` - A library for Convolutional Neural Networks`DBN/` - A library for Deep Belief Networks`SAE/` - A library for Stacked Auto-Encoders`CAE/` - A library for Convolutional Auto-Encoders`util/` - Utility functions used by the libraries`data/` - Data used by the examples`tests/` - unit tests to verify toolbox is workingFor references on each library check REFS.mdSetup-----1. Download.2. addpath(genpath('DeepLearnToolbox'));Example: Deep Belief Network---------------------```matlabfunction test_example_DBNload mnist_uint8;train_x = double(train_x) / 255;test_x = double(test_x) / 255;train_y = double(train_y);test_y = double(test_y);%% ex1 train a 100 hidden unit RBM and visualize its weightsrand('state',0)dbn.sizes = [100];opts.numepochs = 1;opts.batchsize = 100;opts.momentum = 0;opts.alpha = 1;dbn = dbnsetup(dbn, train_x, opts);dbn = dbntrain(dbn, train_x, opts);figure; visualize(dbn.rbm{1}.W'); % Visualize the RBM weights%% ex2 train a 100-100 hidden unit DBN and use its weights to initialize a NNrand('state',0)%train dbndbn.sizes = [100 100];opts.numepochs = 1;opts.batchsize = 100;opts.momentum = 0;opts.alpha = 1;dbn = dbnsetup(dbn, train_x, opts);dbn = dbntrain(dbn, train_x, opts);%unfold dbn to nnnn = dbnunfoldtonn(dbn, 10);nn.activation_function = 'sigm';%train nnopts.numepochs = 1;opts.batchsize = 100;nn = nntrain(nn, train_x, train_y, opts);[er, bad] = nntest(nn, test_x, test_y);assert(er < 0.10, 'Too big error');```Example: Stacked Auto-Encoders---------------------```matlabfunction test_example_SAEload mnist_uint8;train_x = double(train_x)/255;test_x = double(test_x)/255;train_y = double(train_y);test_y = double(test_y);%% ex1 train a 100 hidden unit SDAE and use it to initialize a FFNN% Setup and train a stacked denoising autoencoder (SDAE)rand('state',0)sae = saesetup([784 100]);sae.ae{1}.activation_function = 'sigm';sae.ae{1}.learningRate = 1;sae.ae{1}.inputZeroMaskedFraction = 0.5;opts.numepochs = 1;opts.batchsize = 100;sae = saetrain(sae, train_x, opts);visualize(sae.ae{1}.W{1}(:,2:end)')% Use the SDAE to initialize a FFNNnn = nnsetup([784 100 10]);nn.activation_function = 'sigm';nn.learningRate = 1;nn.W{1} = sae.ae{1}.W{1};% Train the FFNNopts.numepochs = 1;opts.batchsize = 100;nn = nntrain(nn, train_x, train_y, opts);[er, bad] = nntest(nn, test_x, test_y);assert(er < 0.16, 'Too big error');```Example: Convolutional Neural Nets---------------------```matlabfunction test_example_CNNload mnist_uint8;train_x = double(reshape(train_x',28,28,60000))/255;test_x = double(reshape(test_x',28,28,10000))/255;train_y = double(train_y');test_y = double(test_y');%% ex1 Train a 6c-2s-12c-2s Convolutional neural network %will run 1 epoch in about 200 second and get around 11% error. %With 100 epochs you'll get around 1.2% errorrand('state',0)cnn.layers = { struct('type', 'i') %input layer struct('type', 'c', 'outputmaps', 6, 'kernelsize', 5) %convolution layer struct('type', 's', 'scale', 2) %sub sampling layer struct('type', 'c', 'outputmaps', 12, 'kernelsize', 5) %convolution layer struct('type', 's', 'scale', 2) %subsampling layer};cnn = cnnsetup(cnn, train_x, train_y);opts.alpha = 1;opts.batchsize = 50;opts.numepochs = 1;cnn = cnntrain(cnn, train_x, train_y, opts);[er, bad] = cnntest(cnn, test_x, test_y);%plot mean squared errorfigure; plot(cnn.rL);assert(er<0.12, 'Too big error');```Example: Neural Networks---------------------```matlabfunction test_example_NNload mnist_uint8;train_x = double(train_x) / 255;test_x = double(test_x) / 255;train_y = double(train_y);test_y = double(test_y);% normalize[train_x, mu, sigma] = zscore(train_x);test_x = normalize(test_x, mu, sigma);%% ex1 vanilla neural netrand('state',0)nn = nnsetup([784 100 10]);opts.numepochs = 1; % Number of full sweeps through dataopts.batchsize = 100; % Take a mean gradient step over this many samples[nn, L] = nntrain(nn, train_x, train_y, opts);[er, bad] = nntest(nn, test_x, test_y);assert(er < 0.08, 'Too big error');%% ex2 neural net with L2 weight decayrand('state',0)nn = nnsetup([784 100 10]);nn.weightPenaltyL2 = 1e-4; % L2 weight decayopts.numepochs = 1; % Number of full sweeps through dataopts.batchsize = 100; % Take a mean gradient step over this many samplesnn = nntrain(nn, train_x, train_y, opts);[er, bad] = nntest(nn, test_x, test_y);assert(er < 0.1, 'Too big error');%% ex3 neural net with dropoutrand('state',0)nn = nnsetup([784 100 10]);nn.dropoutFraction = 0.5; % Dropout fraction opts.numepochs = 1; % Number of full sweeps through dataopts.batchsize = 100; % Take a mean gradient step over this many samplesnn = nntrain(nn, train_x, train_y, opts);[er, bad] = nntest(nn, test_x, test_y);assert(er < 0.1, 'Too big error');%% ex4 neural net with sigmoid activation functionrand('state',0)nn = nnsetup([784 100 10]);nn.activation_function = 'sigm'; % Sigmoid activation functionnn.learningRate = 1; % Sigm require a lower learning rateopts.numepochs = 1; % Number of full sweeps through dataopts.batchsize = 100; % Take a mean gradient step over this many samplesnn = nntrain(nn, train_x, train_y, opts);[er, bad] = nntest(nn, test_x, test_y);assert(er < 0.1, 'Too big error');%% ex5 plotting functionalityrand('state',0)nn = nnsetup([784 20 10]);opts.numepochs = 5; % Number of full sweeps through datann.output = 'softmax'; % use softmax outputopts.batchsize = 1000; % Take a mean gradient step over this many samplesopts.plot = 1; % enable plottingnn = nntrain(nn, train_x, train_y, opts);[er, bad] = nntest(nn, test_x, test_y);assert(er < 0.1, 'Too big error');%% ex6 neural net with sigmoid activation and plotting of validation and training error% split training data into training and validation datavx = train_x(1:10000,:);tx = train_x(10001:end,:);vy = train_y(1:10000,:);ty = train_y(10001:end,:);rand('state',0)nn = nnsetup([784 20 10]); nn.output = 'softmax'; % use softmax outputopts.numepochs = 5; % Number of full sweeps through dataopts.batchsize = 1000; % Take a mean gradient step over this many samplesopts.plot = 1; % enable plottingnn = nntrain(nn, tx, ty, opts, vx, vy); % nntrain takes validation set as last two arguments (optionally)[er, bad] = nntest(nn, test_x, test_y);assert(er < 0.1, 'Too big error');```[![Bitdeli Badge](https://d2weczhvl823v0.cloudfront.net/rasmusbergpalm/deeplearntoolbox/trend.png)](https://bitdeli.com/free "Bitdeli Badge")

游戏开发中的人工智能(八):描述式 AI 及描述引擎

接上文 游戏开发中的人工智能(七):A* 路径寻找算法本文内容:程序员通常只写描述引擎,而由设计者使用工具创建内容和定义 AI。本章探讨一些开发人员把描述系统应用在游戏中的技巧,以及他们所得到的益处。描述式 AI 及描述引擎本章讨论某些技巧,让你把描述系统应用到游戏软件 AI 的问题上,以及这样做以后所能获得的好处。从最基本的层次上来看,你可以把描述机制想象成非常简单的程序语言,专门为与游戏问题相关

学愈进而愈惘 5516

TensorFlow人工智能引擎入门教程所有目录

http://my.oschina.net/yilian/blog/664632 目录[-] TensorFlow 人工智能引擎 入门教程之一 基本概念以及理解 TensorFlow人工智能引擎入门教程之三 实现一个自创的CNN卷积神经网络 TensorFlow人工智能引擎入门教程之四 TensorBoard面板可视化管理 TensorFlow人工智能引擎入门教程之五

南山牧笛的博客 1万+

游戏AI引擎设计——设想

       好久没写了,一直对AI比较感兴趣,最近看了些书对AI引擎的设计有点感觉和想法,不过现在只是有了一些想法,并没有实现和测试,先发出来免得以后搞忘了。       这里针对的AI是解决决策性问题,不包含具体执行问题。例如:A角色和角色B战斗,那么A的行为判断将由AI负责,AI决定是继续奋战到底,还是逃跑,引诱,等。行为执行过程使用更简单和成熟的计算方式,逃跑路线,躲避、追踪目标的具体

HoneyCat的月光浴场 5774

Versal 自适应 SoC AI 引擎入门

Versal 自适应计算加速平台 (ACAP) 是基于 TSMC 7 nm FinFET 工艺技术构建的最新一代赛灵思器件。它利用高带宽片上网络 (NoC) 将代表处理器系统 (PS) 的标量引擎、代表可编程逻辑 (PL) 的自适应引擎与智能引擎有机结合在一起。 本文将着重介绍智能引擎中所包含的 AI 引擎。 作者:Olivier Tremo

weixin_45825101的博客 1687

优化AI搜索引擎,从这3个领域入手!

全文共1641字,预计学习时长3分钟 多年来,谷歌一直处于人工智能(AI)发展的最前沿。他们内部的人工智能企业DeepMind已经在人工智能的医学应用、博弈论和语音合成方面取得了一些重大突破。备受瞩目的AI发展甚至使得谷歌的主营业务黯然失色,其主营业务是成为全球最受欢迎的搜索引擎。 在搜索引擎领域,谷歌一直支持使用人工智能和机器学习技术为用户提供最优的搜索结果。事实上,谷歌整个搜索业务的核...

读芯术的博客 1252

「大车小标」自动稽核怎么落地:识别车型与计费车型如何自动比对、争议如何排除

在高速公路货车逃费里,"大车小标"是最高频、也最难缠的一类:实际是更大车型、更多轴数的货车,却按更小车型交费,跑同样的路交更少的钱。单次差额可能不大,但放到长距离、高频次、规模化运营的路网里,累积的通行费流失相当可观。自动稽核"大车小标",核心不是"识别出这是什么车"这么简单,而是要把多个来源的车型判断和最终计费车型自动比对,并在大量正常交易里把真正可疑的少数挑出来,同时把设备误差、遮挡污染造成的误判排除掉。本文拆解这条链路的工程落地思路,全文定性,不涉及具体识别率与金额。

weixin_53898122的博客 358

【技术拆解】配音工具选型评估方法论:用 6 个维度给 AI 配音软件打打分

✅ 测试方案:准备一段包含括号注释、数字、中英文混排的文案导入试听,校验读音、停顿是否合理。案例参考:逗哥配音配套了文案提取、自动对轴、人声分离、声音转换等附加工具,支持 wav /mp3 /mp4 格式导出,可附带字幕与 SRT 文件,在字幕对齐、文件导出这条链路具备对应的能力,适合批量生产场景的创作者在这个维度进行自测打分。同一款配音引擎,有人评价 “自然接近真人”,也有人反馈 “AI 感很重”,核心差异往往来自使用场景:30 字以内的短口播,和 3000 字小说章节朗读,对引擎能力要求完全不一样。

zhizhizhuzhuxia的博客 151
上一篇: 向海而生:未来港口海岛低空经济的系统架构与游戏规则
下一篇: AI加速度下的技术栈重构风暴:企业如何应对90天迭代周期?
运通链达
博客等级 码龄2年 5710粉丝 2245原创
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付:10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

运通链达

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值