AI安全讨论只盯着灾难性风险，日常伤害却被系统性忽视

在技术政策领域，「成功」的定义往往低得令人忧虑。一家AI公司承诺其聊天机器人不会鼓励自杀，一个社交平台让未成年人更难购买芬太尼——这些保护措施本应从产品上线之初就存在，却被当作重大进展加以宣传。问题在于，企业完全可以跨越这些低矮的门槛，同时继续运营让年轻人沉迷于虚拟友谊、困陷于算法推送的产品。我们长期允许「最坏情形」主导技术讨论，却对产品每天造成的隐性损害缺乏足够关注。

科技公司深知，将安全定义限定在灾难性风险上，对自身商业利益最为有利。防范极端事故可以减少诉讼、降低严格监管的压力；而正视日常依赖的后果，则意味着要在产品中增加摩擦、主动限制那些导致负面结果的功能，比如制造成瘾的注意力劫持算法。以谷歌为例，该公司今年在多个州支持了规范AI聊天机器人的法案，这些法案设有宽泛的豁免条款，可能将最受欢迎的服务排除在外，同时让立法者得以宣称取得了安全成果，而更具实质意义的法案——旨在防止儿童对AI产生情感依赖——则未能通过。

社交媒体的前车之鉴已足够清晰。全球互联网用户如今平均每天在社交平台上花费超过两小时，这段时间被悄然从日常生活中抽走，交给了以留存用户为盈利核心的公司。Meta旗下平台被指在缅甸罗兴亚种族灭绝、斯里兰卡反穆斯林骚乱以及埃塞俄比亚提格雷战争期间助推了暴力言论。同样的激励机制，也在塑造着美国年轻人对政治、同伴与世界的认知。

AI正在将这一逻辑延伸至社交媒体只能远距离影响的生活领域。它主动提出替我们思考、替我们写作，并充当我们本应向真实之人倾诉的对象。MIT研究人员发现，依赖ChatGPT完成写作任务的年轻人，大脑在执行该任务时的连接性显著减弱，且相关证据表明这种「认知债务」在任务结束后仍会持续。约三分之一的青少年现在选择向AI伴侣讨论严肃问题，而非与真实的人交流。我们已有充分理由追问：那些以「提升能力」为卖点的技术，是否正在侵蚀我们发展能力所依赖的习惯与关系？

判断力是在努力与摩擦中磨砺出来的，与他人共处的能力是在直面对方的需求与观点中习得的。如果将「安全优先」的逻辑推向极端，我们将得到一个由聊天机器人包办思考、回避人际摩擦的世界——而任何曾努力写出一篇有价值的文章、或修复一段受损友谊的人，都清楚这笔交易意味着什么损失。

作者呼吁，安全应被视为最低门槛，而非终点。科技公司和学区在将AI引入课堂之前，应当提供充分证据证明其产品真正改善了学习与批判性思维；企业应被禁止设计声称有意识或向用户表达爱意的AI伴侣，并接受独立机构对其系统如何影响用户关系与独立思考能力的审查。那些已将产品嵌入现代生活几乎每个角落的公司，所承担的义务远不止于避免下一个骇人听闻的头条新闻。

要点

• 科技公司通过将安全定义限定在灾难性风险上，成功规避了对日常认知与情感伤害的更深层问责
• MIT研究显示，频繁依赖AI写作的青少年存在可测量的大脑连接性下降，且这种认知影响在任务结束后仍持续
• 约三分之一青少年已选择向AI伴侣而非真实的人倾诉严肃问题，AI正在替代而非辅助真实的人际关系
• 科技巨头通过主动推动范围有限的立法，将监管锁定在已有压力的领域，同时阻止更具实质意义的问责法案通过
• 作者主张：AI进入课堂须有实证支撑，禁止AI伴侣伪装意识或表达爱意，并引入独立机构对产品社会影响进行审查