
当前智能体系统权限设置混乱,风险本质转变。OpenAI推出Frontier和“锁定模式”,显示行业正从模型竞赛转向控制平面竞赛,智能体权限亟待标准化。
权限设置乱象丛生
目前智能体系统权限设置像团乱麻,各供应商开关设置方式不同。过去二十年在文本文件许可问题上花了大量时间,如今智能体时代,“许可证”成技术配置,权限设置错误后果严重。
风险本质发生转变
开源时代许可证设置错误多是法律问题,由律师处理。但智能体改变了风险本质,其产生错误可能造成现实威胁,如运行错误SQL查询、过度配置云计算资源,损失可达数万美元。
控制平面崭露头角
OpenAI推出Frontier,强调从试点转向可管理系统,内置权限和边界设置;又推出“锁定模式”减少数据泄露风险。这表明行业进入控制平面竞赛阶段,朝着可治理、有权限限制的智能体发展。
部署处于“狂野西部”
当前智能体部署混乱,开发者为快速演示赋予广泛权限,导致代码和逻辑混乱,无清晰审计轨迹,产生“人工智能信任税”。降低此税需将治理视为架构问题。
权限需成新共享许可
21世纪初开源许可证让软件复用顺畅,如今智能体权限设置碎片化,阻碍其推广。我们需要类似“知识共享许可协议”的机制,为智能体操作提供标准词汇,还需机器可读清单。
编辑观点:智能体时代已至,权限标准化刻不容缓。谁能率先在控制平面和权限标准上取得突破,谁就有望在未来智能体市场占据主导,行业格局或将因此重塑。

585

被折叠的 条评论
为什么被折叠?



