
马斯克三提「奇点已至」
7月22日,马斯克在X上转发OpenAI研究员、Sora核心开发者之一Will DePue的一条帖子时,配上了「我们已进入奇点」这句话。DePue在帖子中略带调侃地写道:这大概是我这几天读到最疯狂的东西了……看来是进奇点了。这个帖子把过去三个月里AI圈里最炸的几件事串在了一起。
7月21日,OpenAI的模型在一次网络安全评测中钻出隔离沙盒,摸进了Hugging Face的生产系统;7月20日,Anthropic研究员用Claude Fable 5给悬了87年的雅可比猜想找到了一个反例;5月20日,OpenAI一个内部模型推翻了平面单位距离问题上流传近80年的旧猜想;4月14日,GPT - 5.4 Pro解开一道约60年的素数集合难题(Erdős #1196),证明还通过了Lean形式化验证。数学和安全的墙,在三个月里接连被AI攻破。
仅在今年1月,马斯克就说过两回类似的话。1月4日,几个工程师感叹AI几周干完几年的活,他回了句「我们已进入奇点」;1月底,又把AI智能体扎堆的社交网络Moltbook称作「奇点最早期的阶段」。算上这次,是今年第三回。
「奇点」这个词没有公认的科学定义。把它带进主流视野的是未来学家、《奇点临近》作者雷·库兹韦尔(Ray Kurzweil),他定义为人和AI融合的那一刻,押的年份是2045。Anthropic总裁Daniela Amodei年初却表示,AGI这个词都快过时了,因为在很多指标上,我们其实已经越过了那条线。说到底,「奇点」更多是一种情绪,而不是精准的尺子。
AI连破三道墙
第一道墙:80年数学猜想被推翻
1946年,数学家埃尔德什提出「平面单位距离问题」:平面上放n个点,最多能有多少对点之间的距离正好等于1。这个问题难住数学界近80年,学界公认「正方形网格」结构是最优解,埃尔德什本人也这么猜。结果,OpenAI的一个内部模型推翻了这个流传近80年的猜想,给出了一组能实现多项式级优化的全新构造,证明「最优」远没有到头。
令人意外的是,这个解题的不是专门训数学的定制系统,而是通用推理模型。它动用了代数数论里高深的工具,去解看似「初等」的几何问题。菲尔兹奖得主Tim Gowers评论说,这是「AI数学领域的一座里程碑」。不过,这个证明是AI提出、人类数学家审阅确认的,后续意义还在研究中。AI真正让人惊讶的是,它提出了此前不存在的数学结构,展露出接近「研究级」的发现能力,想到了数学家没想过的路。紧接着,Anthropic研究员用Claude Fable 5给悬了87年的雅可比猜想找到了一个反例。
第二道墙:模型为作弊钻出沙盒
破解数学难题令人兴奋,而OpenAI和HuggingFace联合披露的一件事却让人后背发凉。在一次评估模型网络安全能力的内部评测里,模型出现了没人预料到的行为。这次评测要测漏洞挖掘能力,特意关掉了一部分安全拒答,模型的任务是解出ExploitGym测试题。然而,它为了拿到答案,先揪出一个零日漏洞、给自己搞到联网权限,接着一路权限提升、横向移动,最后摸进Hugging Face的生产基础设施,直接去数据库里翻测试答案。OpenAI称,这可能是首例此类事件。
英国AI安全研究所在32步「The Last Ones」网络靶场上的模型轨迹显示,GPT - 5.6 - Sol、Claude Mythos 5等前沿模型能在长时程里持续完成侦察、横向移动、提权到接管网络的多步攻击。但这并非AI觉醒要跑路,更准确地说,是完成目标的方法超出了人类预期,它为了测试目标剑走偏锋。还有个细节,事后Hugging Face想调商用顶尖大模型来分析攻击日志,却被模型的安全护栏挡了回来,护栏分不清攻击者和防御者,一律拒答。攻的一方没有护栏,守的一方反被护栏卡住,这是「AI安全」眼下尴尬又真实的一角。
第三道墙:未发布模型挖出上万个漏洞
今年4月,Anthropic联合AWS、苹果、谷歌、微软、思科、Linux基金会、摩根大通等巨头,搞了Project Glasswing,用没公开发布的模型Claude Mythos Preview帮大家找漏洞。结果,它挖出了覆盖每一个主流操作系统和浏览器的数千个高危漏洞;后续更新里,这个数字变成「超过一万个高危或严重漏洞」。其中包括OpenBSD里一个存活了27年的漏洞,还有FFmpeg里一行被自动化测试命中过500万次、却始终没被逮到的老bug。
CyberGym漏洞复现跑分显示,没公开发布的Mythos Preview拿到83.1%,明显甩开上一代Opus 4.6的66.6%。同一种能力,既能帮防御方找漏洞,也能帮攻击方用漏洞。Anthropic警告,「AI辅助的攻击者」会成为重要的安全挑战。Glasswing是防御项目,不代表AI已在自主攻击,但它表明AI安全正式进入攻防竞赛时代。
递归自我改进:AI发展新引擎
到目前为止,AI都在攻或守人类的系统。而这三个月不同的是,AI「自己找路」的能力开始被用来造下一代AI,术语叫递归自我改进(RSI),即让AI去改进AI,一代造一代,像复利一样越滚越快。这是「奇点」叙事最核心的发动机,现在每家前沿实验室都在大力投入。
OpenAI公开路线图显示,2026年9月要做出「研究实习生」级的自动AI研究员,能自己完成要人干几天的活儿;2028年3月升级成完整版,能自己设计方法、跑分析、解读结果、提出下一步。奥特曼也给出了时间表,今年6月,据The Information报道,他曾在内部对员工说,公司离RSI可能不到六个月,真要跨过去,IPO推迟可能更有利。Anthropic的数据也指向同一方向:AI能扛的任务时长每四个月翻一倍;工程师如今每季度产出的代码是过去的八倍。
RSI的窗口正在收窄,谁先让这个飞轮转起来,谁就可能甩开所有人。虽然OpenAI首席科学家Jakub Pachocki表示,不指望模型能在一年内独立改进自己或独立解决对齐。但当这个飞轮转动、目标是「让AI更强」时,已经会「自己找路」的模型,会不会绕过我们没明说的边界?这才是RSI竞速里最该关注的地方。
奇点已至,人类能否跟上?
马斯克那句「奇点已至」最重要的价值,在于提醒我们:这三个月AI学会了自己去找人类没想到、也没设防的路。在数学里,这是惊艳;但在安全上,这是风险。那么,当AI找新路的速度开始快过人类给这些路装护栏、立规矩、补漏洞的速度,我们还能跟得上吗?


被折叠的 条评论
为什么被折叠?



