AI智能驱动浏览器工具Browser Use详解

AI测试工具midsence和browse_use的使用场景和差异 Midscene.js与浏览器自动化工具的核心区别在于:Midscene.js是AI驱动的跨场景自动化SDK,可实现低代码开发和多终端操作,适合非标准化流程;而浏览器工具(如Selenium)专注于浏览器生态,需手动配置元素定位,更适合标准化测试和跨浏览器兼容性验证。两者在AI依赖、技术门槛和应用场景上存在显著差异。 阅读详情

前言

在之前关于 AI 测试相关的几篇文章中,我们分别介绍了通过 playwright-mcp,以及 midscene.js、magentic ui 等几个不同的 AI 浏览器工具,实现 AI 驱动自动化测试的方法介绍。而其实在这些不断涌现的新工具出现之前,还有一个更早推出(2024.11),也同样还在不断完善的AI浏览器驱动工具 Browser Use,其工具实现思路,为后来的相关工具提供了很多借鉴。 而经过半年多40多个版本的迭代,目前最新版本 0.2.5,工具功能也日臻完善。

本文,我们就再来对这个 AI 浏览器做一个系统的介绍。

browser-use简介

browser-use 的定位是提供一个简易且功能强大的,将不同AI Agent和浏览器连接起来的方案,实现基于AI的智能化浏览器自动化。

它是一个基于Python的开源库,在github上已有超过 61K 的Stars,可以说是备受关注。

主要依托 Playwright/Puppeteer 的浏览器控制能力和 AI 大模型的推理分析能力,完成让 AI 从资讯助手向辅助执行的转变。在其之后,mcp大行其道,包括后续的其他各种浏览器AI驱动,也都能看到 browser-use 方案的影子。

实现原理

browser-use 的实现,其实是通过 Langchain 和 LLM 大语言模型实现的一个 AI Agent 智能体,来理解网页内容并进一步生成操作指令。项目底层依赖 Playwright 框架实现浏览器自动化操作,支持多浏览器(如 Chromium、Firefox 等),能够模拟真实用户的点击、输入、导航等行为。

基于 AI 能力,系统能够自动识别网页中的可交互元素(如按钮、输入框等),并结合上下文的理解生成对应的交互逻辑,提升自动化效率,实现基于 AI 的浏览器智能。

核心架构解析

browser-use 通过分层架构实现 AI Agent 与浏览器的深度集成,其核心架构不同分层的主要作用如下:

Agent 层(决策中枢)

这一层,主要负责任务流程编排与决策制定。通过实现小型状态机管理任务流程, 并与 LLM(如 OpenAI)进行交互获取决策指令。

Controller 层(指令转换器)

这一层负责将高级决策转化为具体浏览器操作指令, 支持 DOM 操作、页面导航等基础动作,也提供对多标签页交互逻辑的管理。

DOM 解析引擎

在这一层对网页结构与内容实时解析,包括提供视觉识别能力(OCR 支持),完成对可操作的网页元素映射关系的构建。

Browser 接口层

在这一层,基于Playwright框架实际驱动浏览器行为,除了内置的无头模式控制,也可以通过指定浏览器路径和用户浏览器进行交互。

架构图

功能模块
Midscene.js:AI 在前端测试领域的应用 Midscene.js 是由字节跳动 Web Infra 团队全新开源的 UI 自动化工具。通过引入多模态 AI 推理能力,Midscene.js 将帮助开发者打破传统 UI 自动化难于编写和维护的困境。 阅读详情

相关推荐

GitHub Browser-Use 的部署失败记录:失败了,失败了。。。。

Browser-Use的部署失败记录:失败了,失败了。。。。

正经教主是个热衷于正经学习分享的教主。 1389

AI 驱动的 Web 自动化测试:Midscene.js vs Browser-use对比

在现代 Web 应用开发中,自动化测试已成为保证软件质量的重要手段。然而,传统的自动化测试工具往往需要编写复杂的选择器和维护脆弱的测试脚本。随着大语言模型(LLM)和多模态 AI 技术的成熟,基于 AI 的自动化测试工具应运而生,它们能够理解自然语言指令,自动定位页面元素,极大地简化了测试用例的编写和维护。本文将深入分析两个代表性的 AI 驱动自动化测试框架,帮助开发者和测试工程师做出更明智的技术选型。

木鱼时刻的专栏 1044

基于Playwright_Pytest_Allure_Midscene_Request的现代化自动化测试框架_支持UI和API双模式测试_采用Page_Object设计模式_包含公.zip

基于Playwright_Pytest_Allure_Midscene_Request的现代化自动化测试框架_支持UI和API双模式测试_采用Page_Object设计模式_包含公.zip

QGIS实战:5分钟搞定谷歌地图、高德、天地图等多源地图加载(附最新图源URL)

本文详细介绍了如何在QGIS中快速加载谷歌地图、高德、天地图等多源地图,提供2023年验证可用的最新图源URL和配置步骤。从环境准备到高级技巧,涵盖国内外主流地图服务的完整解决方案,帮助用户提升GIS工作效率。

weixin_29210759的博客 1160

Arduino-CRSF库详解:嵌入式端CRSF协议解析与ELRS接收机集成

CRSF(Crossfire Serial Protocol)是一种面向FPV无人机的轻量级、高实时性串行通信协议,采用单总线异步传输与8位CRC-8校验机制,广泛应用于遥控链路与遥测交互。其核心在于帧同步(0xC8起始字节)、反相逻辑电平及无重传的广播式设计,对嵌入式平台的UART精度、电平匹配和状态机健壮性提出严苛要求。Arduino-CRSF库正是为资源受限MCU(如ESP32、STM32、ATmega328P)提供零配置、中断安全的协议解析能力,封装了CRC查表计算、超时恢复、多级同步验证等关键机制

weixin_35756690的博客 409

基于NXP1778的CAN自动波特率检测

一、概念 NXP1778芯片内部自带一个CAN控制器。CAN模块由两部分组成:控制器和验收滤波器。所有的寄存器和RAM都以32位字宽度来访问。 CAN自动波特率检测主要用于以一种CAN的转换的产品中。产品中CAN部分的波特率以前都是通过网页中修改然后配置下去的,依据实际情况的考虑,如果CAN部分的波特率能够根据客户设备的改变而自动改变,将会增加其灵活性。   二、原理 根据CAN控制器的

菜鸟的痕迹专栏 5265

S型速度曲线C程序实现

S型速度曲线C语言程序实现 前言 S型曲线相较于梯形速度曲线具有运行更加平稳的特点,S型曲线共有八种运行情况,感兴趣可以查阅相关文献 代码段 #include <stdio.h> #include <math.h> #define FP64 double int main(void) { /**************************** 定义相关变量(需要映射到PLC寄存器才能进行监控) ***********************/ FP6

LSX312441548的博客 8376

基于DO-178C/331的飞控软件研发环境的研究

本研究提出了一套基于DO-178C/331标准的飞控系统软件开发和验证框架。通过优化模型库的设计、代码生成配置和测试验证流程,显著提升了飞控系统软件的开发效率和安全性。未来的研究可以进一步扩展模型库的功能,以适应更复杂的飞控系统需求。

qq_41854911的博客 560

YOLOv11改进策略【Neck】| PRCV 2023,SBA(Selective Boundary Aggregation):特征融合模块,描绘物体轮廓重新校准物体位置,解决边界模糊问题

SBA 模块在医疗图像分割中具有重要作用,其设计出发点是解决图像中物体边界模糊以及融合特征时的冗余和不一致问题。

Limiiiing的博客 1936

公开 学生课堂行为数据集 SCB-Dataset: A Dataset for Detecting Student and Teacher Classroom Behavior

公开 学生课堂行为数据集 SCB-Dataset Student Classroom Behavior dataset

CSPhD-winston的博客 1万+

uniapp - 实现手机端H5网页直播功能效果,拿到后端推流地址或播放资源后进行前端的流畅播放和画面展示功能,uniapp实时推流/拉流直播系统详细教程(提供完整示例代码,一键复制开箱即用!)

uniapp,h5网页,手机端H5网页,uniapp h5直播功能页面,uniapp直播实时推送显示,uniapp h5直播怎么做,怎么使用uniapp去实现移动端手机H5直播,h5 vue+uniapp怎么做直播,uniapp中使用videojs构建H5直播播放器,uniappH5端怎么实现直播推流,uniapp如何实现直播,直播聊天功能,h5平台端直播用什么插件,uniapp手机网页直播用什么组件插件播放器,uniapp手机H5直播播放器详细教程,直播项目,怎么使用vue+uniapp怎么做H5实时直播

✅ 精选推荐文章 8787

SAP B1中文培訓教材_SDK

公司内部培训资料,对开发工具 ,DIAPI, UIAPI,Add-ON有详细解说

win10 跳过U8环境检测的IE WebControls.rar

win10 安装u8的时候 提示IE WebControls 不通过,这个工具可以欺骗u8的检查。 跳过U8环境检测的IE WebControls。提示导入失败后,重新检测通过。

lwip-2.0.3

lwip是瑞典计算机科学院(SICS)的Adam Dunkels 开发的一个小型开源的TCP/IP协议栈。实现的重点是在保持TCP协议主要功能的基础上减少对RAM 的占用。

锂电池充电器电路设计 里面有电路

锂电池充电器电路设计 里面有电路 3.7V升压到5V电路设计。

上一篇: AI测试,测试团队的必由之路
下一篇: 开源一个测试练习项目,诚邀大家共建
城下秋草
博客等级 码龄25年 865粉丝 119原创
评论
成就一亿技术人!
拼手气红包6.0元
还能输入1000个字符
 
 条评论被折叠 查看
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付:10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

城下秋草

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值