AI资讯 / 产业

产业 / 媒体

把闲置算力租给AI公司,家用服务器也能躺赚被动收入

IEEE Spectrum AI

AI推理需求激增,但大型数据中心的建设成本高昂,且对周边社区造成电价上涨、水资源紧张等负面影响。如今,Far Labs、Evolving Edge、Salad等多家公司正尝试另一条路径:将分散在家庭和小型企业中的闲置算力整合成分布式推理网络,让设备所有者在贡献计算资源的同时获得被动收入。用户只需注册账号、安装客户端,即可按自定义时间表向平台开放算力。这一模式主要服务于中小规模的开源模型推理任务,而非需要顶级GPU集群的前沿大模型训练。通过将模型拆分到多台设备并行处理,平台声称可以大幅降低推理成本与延迟,同时因去中心化特性而具备更强的抗故障能力。这一理念脱胎于1999年的「SETI@Home」志愿计算项目,如今已演变为具有商业价值的新兴赛道。

AI推理市场的算力缺口正在催生一种新的商业模式。Far Labs创始人兼CEO Ilman Shazhaev将其比作「AI推理版的Uber或Airbnb」——平台连接有闲置算力的设备所有者与需要推理服务的企业客户,双方各取所需。Evolving Edge创始人John Federico则指出,传统数据中心对所在社区具有「掠夺性」:拉高电价、消耗水资源,却几乎不向当地返还税收或服务。他认为,将算力需求分散到已有宽带接入的普通家庭,才是真正为社区创造价值的方式。

加入这类网络的门槛相当低。以Evolving Edge为例,用户注册后安装一个客户端应用,设定允许平台使用算力的时间窗口,平台便会在指定时段内调度推理任务。平台仅监控资源占用情况,不会对设备进行其他操作。为打消用户对安全性的顾虑,Evolving Edge将调度软件完全开源,任何人都可以审查其代码逻辑。Far Labs则采用「最小权限」原则,推理任务以隔离工作负载形式运行,对GPU、CPU、内存、存储和网络资源均设有明确上限,客户无法随意访问宿主机器。

分布式推理面临的核心技术挑战在于:用户设备的性能参差不齐,网络连接也远不如数据中心稳定。对此,各平台的解决思路是聚焦于中小规模的开源模型,而非动辄需要数百张顶级GPU的前沿大模型。Federico指出,许多企业在达到一定规模后,会转向针对特定业务场景微调的开源模型,这类模型对算力的需求远低于最先进的通用大模型。当单台设备无法承载完整模型时,平台会将模型拆分到多台设备并行处理:Evolving Edge使用开源工具Ray完成拆分,Far Labs则自研了一套兼顾安全性与可靠性的专有调度系统。

去中心化架构带来的不仅是成本优势,还有更强的容错能力。Shazhaev将其类比于比特币网络的抗审查性:单点故障不会导致整个网络瘫痪。Federico举例说,2026年亚马逊云服务宕机期间,部分智能床因无法连接云端而卡在竖起状态无法调节。若推理任务能路由至就近的本地节点,此类大规模连锁故障的影响将大幅降低。Far Labs声称其平台推理延迟可控制在100毫秒以内,这一指标甚至有望开启游戏内实时AI视频生成等此前因成本和速度限制而难以落地的新场景。

这一赛道的商业逻辑建立在一个简单的判断之上:全球已有大量算力以家用服务器、游戏PC和闲置笔记本的形式分散存在,只是缺乏有效的调度机制。Shazhaev表示,OpenAI去年营收300亿美元,却仍亏损80亿美元,高昂的推理成本是主因之一。如果分布式网络能够将推理成本压缩到足够低,不仅能让现有AI应用更具经济可行性,还可能催生音频、视频、动画等重数据场景下的实时AI应用。目前,Far Labs的Far AI平台即将正式上线,Evolving Edge已进入公开测试阶段,Bless Network、Salad、Gradient等公司也在过去一年内陆续推出类似服务。

要点

  • 家用服务器、游戏PC等闲置设备可通过加入分布式AI推理网络获得被动收入,用户可自定义开放算力的时间窗口。
  • 分布式推理主要面向中小规模开源模型,通过模型拆分技术将推理任务分配至多台设备并行处理,成本低于传统数据中心。
  • 各平台通过开源调度软件、最小权限原则和隔离工作负载等机制保障宿主设备的数据安全与隐私。
  • 去中心化架构使网络具备更强的抗故障能力,单节点宕机不影响整体服务,延迟也可因就近路由而降低。
  • Far Labs、Evolving Edge、Salad等多家公司正将这一模式商业化,低成本实时推理有望开启游戏AI视频生成等新应用场景。
查看原始来源

原始标题:Cash in on the AI Boom by Renting Out Your Spare Compute

本文由 DataHub 基于公开来源整理,用于信息发现与摘要阅读;具体事实、数据和后续更新以原始来源为准。