Agent / 分析
LLM直接读写神经网络权重,「权重空间编程」重塑AI自我改进路径
近期一篇重磅论文揭示,大型语言模型已具备直接读取和编写神经网络权重的能力,研究者将这一范式称为「权重空间编程」。与传统自动化研究流程需要编写PyTorch代码、监控损失曲线、优化内核不同,该方法让智能模型直接操作更小模型的参数:不仅能判断权重所代表的行为,还能根据失败轨迹一次性修复缺陷,甚至从零开始生成整套网络权重,在部分任务上超越独立训练的模型。与此同时,DeepSeek开源了「超级智能体」原型框架,通过长生命周期路由会话协调并行工作节点,将任务完成时间从29.5分钟压缩至15.7分钟。SemiAnalysis推出的GDPx基准测试则覆盖11个经济领域的206项智能体任务,当前最优模型得分仅12%,揭示出前沿模型在真实复杂任务上的巨大提升空间。
「权重空间编程」的核心突破在于:一个足够强大的语言模型,可以像阅读编译后的二进制文件一样,直接理解并操作另一个较小模型的权重参数。研究者展示了三项关键能力——判断权重所编码的行为逻辑、根据失败执行轨迹一次性定位并修复缺陷、以及在无需任何训练流程的情况下从头生成完整网络权重。这一发现已获得独立团队的初步复现,标志着AI领域在递归自我改进方向上完成了从0到1的跨越。
从历史背景看,Karpathy约8个月前提出的「自动研究」概念曾引发业界对递归自我改进的广泛讨论。彼时的主流路径是:让模型自主运行实验、编写训练代码、读取评估结果并迭代优化。而「权重空间编程」绕开了这一繁琐流程,直接在参数空间层面操作。研究者坦承,当前能力仍局限于简单游戏和强化学习策略等小规模场景,尚难扩展至更复杂任务,但其效率优势已引发广泛关注。
DeepSeek同期开源的超级智能体原型(dsh-superagent-prototype)采用分层架构:一个长生命周期的路由会话负责与人类交互并分配任务,隔离的工作节点并行执行具体工作,由GitHub事件触发调度。内部测试显示,相较于单会话多子智能体方案,该架构将任务完成时间的P95值从29.5分钟降至15.7分钟。审阅者崔添翼指出,「超级」指的是位于工作智能体之上的协调层,而非更强的智能本身,核心权衡在于跨任务连续性与吞吐量之间的平衡。
不过,该原型也存在明显局限。目前尚无内置的跨会话长期记忆机制,状态、计算与环境的分离大多未实现,安全性、隐私保护及智能体间通信均属开放问题,且仅在小规模可信内部环境中完成验证。批评者指出,DeepSeek的设计更多是围绕模型自身弱点(如幻觉)构建补丁,而非从根本上提升系统鲁棒性。此外,一份引用deepseek-v4.1-pro的README引发了版本发布猜测,但研究者确认该命名仅为占位符。
SemiAnalysis发布的GDPx基准测试为评估前沿模型的实际经济价值提供了新维度,覆盖芯片设计、软件工程、金融、生物学等11个领域共206项智能体任务。测试结果显示,Opus 5.5以12%的得分领跑,Gemini 4 Carbon以10.9%紧随其后,且成本约为前者的四分之一。整体得分普遍偏低,折射出当前模型在处理真实世界复杂任务时的能力瓶颈,也为下一阶段的模型研发指明了方向。
在更宏观的能力评估层面,Epoch能力指数显示DeepSeek V4.1F-1017得分159,与GPT 5.5持平,但在部分软件工程评测中得分接近零,仅在网络安全和量化交易领域接近前沿水平,呈现出明显的「尖峰型」能力分布。有分析人士指出,约7个月来尚无中国模型在ECI上超越Mythos Preview,但若对编程能力加权计算,差距将显著收窄。这些多维度的评估信号共同表明,模型能力的均衡性正成为下一阶段竞争的关键变量。
要点
- 大型语言模型已能直接读写小模型权重,「权重空间编程」无需传统训练流程即可实现模型行为的理解、修复与生成,递归自我改进从理论走向初步实践。
- DeepSeek超级智能体原型通过路由层与工作节点分离的架构,将任务完成时间压缩近半,但跨会话记忆、安全性等核心问题仍待解决。
- GDPx基准测试揭示前沿模型在真实经济任务上的得分普遍不超过12%,性价比成为模型选型的重要考量,Gemini 4 Carbon以更低成本接近顶尖水平。
- 当前模型能力呈现明显的「尖峰型」分布,在不同任务领域表现差异悬殊,能力均衡性正成为衡量模型实用价值的新维度。
- 权重空间编程目前仅在小规模简单任务上得到验证,能否扩展至复杂场景仍是关键未知数,但其出现已标志着AI自我改进能力的重要里程碑。
原始标题:[AINews] LLMs can read & write neural network weights: "Weight Space Programming" cuts Autoresearch out of the RSI loop
本文由 DataHub 基于公开来源整理,用于信息发现与摘要阅读;具体事实、数据和后续更新以原始来源为准。