AI资讯 / 产业

产业 / 媒体

ChatGPT联合发明人推出新型AI模型Jev,开发者趋之若鹜

TechCrunch AI

前OpenAI研究员Diogo Almeida曾参与构建ChatGPT并共同发明了RLHF训练技术,但他对大语言模型在实际自动化场景中的局限性深感失望。两年前,他离开OpenAI创立TypeSafe AI,并于近日发布了一款名为Jev的全新Transformer模型。与传统LLM不同,Jev不输出自然语言,而是输出经过校准的概率值,即所谓「校准决策」。这一设计使其速度极快、成本极低,且从根本上消除了幻觉问题。Vercel工程师测试显示,用Jev替换OpenAI模型后,分类任务速度提升5至18倍;另一开发者对比Gemini时发现,Jev精度相近但成本低10至20倍。Jev的高需求一度导致API服务短暂中断,显示出开发者社区的强烈兴趣。Almeida希望这款模型能像杰文斯悖论所描述的那样,以低廉的智能成本推动智能软件的广泛普及。

Diogo Almeida是OpenAI的早期核心研究员,参与构建了ChatGPT,并与团队共同发明了基于人类反馈的强化学习技术RLHF——这一技术被认为是当前AI浪潮最重要的推手之一。然而,他对这些成果并不满足。在他看来,大语言模型被优化为生成人类语言,而计算机运行的是另一套语言体系,这使得LLM在真正的自动化场景中效用有限。这种失望促使他在两年前离开OpenAI,创立了TypeSafe AI。

TypeSafe AI本周正式发布了Jev模型。这是一款基于Transformer架构的全新模型,但它并非大语言模型。Jev不产生文本输出,而是输出概率分布,即公司所称的「校准决策」。用户需要在使用前预先定义输出类别,模型据此给出各类别的置信概率。这一设计从根本上规避了幻觉问题,同时大幅降低了推理成本——输出token免费,输入token按十亿计费而非百万计费。

开发者的实测数据印证了Jev的竞争力。Vercel软件工程师Pranit Sharma表示,其公司原本使用OpenAI模型对用户指令进行安全分类,切换至Jev后,处理速度提升了5至18倍,且准确率更高。另一位开发者、Bryo AI首席技术官Nikhil Mudholkar在商业邮件分类测试中发现,Jev与Gemini精度相近,但成本低10至20倍。他尤其看重Jev输出的置信分数,认为这是实现工作流自动化的理想特性。

Jev的应用场景不仅限于替代LLM,还可以作为LLM的监控层。Almeida指出,用AI智能体监控其他智能体成本高昂,而Jev凭借低成本和高速度,可以高效追踪LLM智能体的行为轨迹并拦截越狱攻击。开源模型框架Pi的CTO Armin Ronacher补充说,Jev还适合用于模型路由——根据任务特征实时判断应调用哪个模型,而这类判断若用LLM来做则过于昂贵。

Jev的命名来自19世纪经济学家威廉·斯坦利·杰文斯,其「杰文斯悖论」描述了商品成本下降反而导致消耗量增加的现象。Almeida希望智能的低成本能推动其无处不在的部署,形成一种分布式、涌现式的智能软件生态,而非少数巨型应用垄断的格局。他将Jev定位为「系统一模型」,专注于直觉而非推理,并强调其训练完全依赖合成数据,采用他自创的「基于校准决策的强化学习」技术。

目前Jev在这一细分赛道尚无直接竞争者,但Ronacher预计随着其价值被验证,竞争对手将很快涌现。他认为,过去LLM的高额补贴掩盖了对更高效替代方案的需求,而Jev的出现正在改变这一局面。对于TypeSafe AI是否属于前沿实验室,Almeida给出了自己的定义:前沿实验室的主要产品是恐惧或炒作,而他希望TypeSafe的主要产品是智能本身。

要点

  • Jev不输出文本而输出概率,从架构层面消除了幻觉问题,适合需要确定性输出的自动化场景
  • 实测显示Jev在分类任务中速度比主流LLM快5至20倍,成本低10至20倍,具备显著的经济优势
  • Jev可作为LLM的监控与路由层,以极低成本实现对智能体行为的实时管控
  • 模型完全基于合成数据训练,Almeida认为这是公司迄今最重要的技术押注
  • Jev的低成本定位旨在推动智能软件的广泛普及,而非服务于少数超级应用
查看原始来源

原始标题:A new kind of AI model from a ChatGPT inventor is thrilling developers

本文由 DataHub 基于公开来源整理,用于信息发现与摘要阅读;具体事实、数据和后续更新以原始来源为准。