AI资讯 / Agent

Agent / 分析

AIUC完成4000万美元A轮,押注「信任」才是AI落地的真正瓶颈

Latent Space

人工智能承保公司AIUC宣布完成4000万美元A轮融资,由Ribbit Capital与First Harmonic领投。公司由前Anthropic首位产品及GTM负责人Rune Kvist联合创立,核心主张是:随着AI智能体能力持续提升,阻碍企业大规模落地的关键瓶颈已不再是技术能力,而是风险与信任。AIUC推出的AIUC-1标准,专门针对AI智能体的安全性、可靠性与数据保护进行审计与压力测试,涵盖越狱攻击、幻觉输出、数据泄露等场景。目前,Cursor、Harvey、Lovable、ElevenLabs等头部AI公司已成为其客户。AIUC还与劳合社等传统保险机构合作,探索将AI系统纳入可承保范畴,试图为整个行业建立一套「出了问题可以追责」的基础设施,推动AI从实验室走向真实企业环境。

AIUC的创立源于一个在种子轮阶段还显得有些超前的判断:风险终将成为AI采用的天花板。联合创始人Rune Kvist在2021年出售其教育科技公司后,偶然读到Kaplan等人发表的神经网络扩展定律论文,深受震动,随即加入早期的Anthropic,成为其首位产品与商业化负责人。他在Anthropic的经历让他亲眼目睹了前沿模型能力的跃升,也让他意识到,能力的提升本身会放大失控时的代价。

如今,这一判断已从假设变为现实。随着Mythos、Fable等自主智能体平台的涌现,企业在部署AI时面临的法律责任与合规压力愈发具体。Kvist将这一现象概括为「信任缺口」:政府、企业客户乃至终端用户,都在追问同一个问题——当AI系统出错时,谁来负责?AIUC正是为回答这个问题而生。

AIUC-1是该公司推出的智能体安全与可靠性标准,覆盖越狱攻击防御、幻觉检测、数据泄露防护三大核心维度。与传统软件安全标准不同,AIUC-1的更新周期以季度为单位,而非十年一修,以跟上模型迭代的速度。Kvist坦言,目前几乎所有AI公司都只优化「顺利路径」,鲜少对对抗性场景进行系统性压力测试,这正是AIUC切入的市场空白。

保险是AIUC商业模式的另一支柱。公司正与劳合社等传统保险机构合作,探索如何为AI系统出具真实的保单。这一议题的复杂性在于,AI风险的边界极难界定:一个月费20美元的编程助手,若间接导致价值2亿美元的工程事故,责任链条应如何厘清?Air Canada聊天机器人案已开创了AI失误引发法律追责的先例,但版权侵权、生物安全等领域的风险定价仍是行业难题。

Kvist认为,随着AI向机器人领域延伸,责任问题将变得更加严峻——软件错误的代价是数据损失,而机器人错误的代价可能是人身伤害。他同时提出了一个结构性悖论:前沿实验室永远无法真正充当自身的监管者,就如同金融危机前评级机构与被评级机构之间的利益冲突一样。AIUC的长期定位,正是成为AI生态中独立的「看门狗」基础设施,覆盖智能体、前沿模型与机器人三条产品线。

在融资消息之外,Kvist还抛出了一个更宏观的命题:当AGI真正到来,它可能演变为国家主权层面的议题,各国政府对AI能力的管控欲望将空前强烈。他认为,标准与保险的结合,不仅是商业机会,更可能成为维系AI全球治理秩序的关键基础设施。AIUC的顾问团队汇聚了网络安全、金融监管、AI安全等多个领域的重量级人物,这也是该公司在早期创业公司中罕见的资源配置。

要点

  • AIUC完成4000万美元A轮融资,核心论点是「信任与风险」而非「技术能力」才是AI大规模落地的真正瓶颈
  • AIUC-1标准以季度为周期更新,专门针对越狱、幻觉、数据泄露等对抗性场景对AI智能体进行审计
  • 公司正与劳合社合作探索AI保险产品,试图为「AI出错谁来赔」这一法律空白提供市场化解决方案
  • Kvist指出前沿实验室存在结构性利益冲突,无法自我监管,独立第三方审计机构将成为AI治理的必要基础设施
  • 随着AI向机器人领域扩展,物理世界的责任追溯将使AI保险与认证问题的重要性大幅提升
查看原始来源

原始标题:Underwriting Superintelligence: Backing Agents you can Sue — Rune Kvist, AIUC

本文由 DataHub 基于公开来源整理,用于信息发现与摘要阅读;具体事实、数据和后续更新以原始来源为准。