AI伦理研究必须在实验室内部进行

Henry Shevlin的职业转型折射出一个更大的趋势：越来越多的哲学家正在进入顶级AI公司。他给出了四个理由：DeepMind输送了大量优秀学生、哲学研究在此能产生直接的现实影响、DeepMind的文化与他推崇的科学态度高度契合，以及AI实验室本身已成为高质量哲学与认知科学研究的重要场所。他举例说，一次在DeepMind的讲座之后，一位金融机构人士受到启发，推动了影响数百万人的组织变革。

Shevlin直言，学术界在AI伦理领域的反应普遍迟缓。他认为，大语言模型是「非常奇特的存在」，若缺乏与技术的日常接触，研究者很难对其引发的问题形成准确直觉。以LLM创造力的争论为例：曾经主流观点认为模型只会产出平庸内容，但如今它们已能完成前沿数学推理和超越人类水平的编程任务。他承认，「爱因斯坦时刻」或「毕加索时刻」式的颠覆性创造力尚未出现，但在特定领域，模型已处于真正的前沿位置。

针对公众对AI内容「千篇一律」的抱怨，Shevlin区分了两种不同的「slop」：一是内容层面的低质量，二是LLM特有的语言风格——诸如「genuinely」「delve」等标志性词汇。他指出，前者已大幅改善，后者则可以通过合理的提示词设计加以规避。他引用Murray Shanahan和Catherine Clarke的研究表明，调整模型的温度参数可以生成具有詹姆斯·乔伊斯风格的创意小说，说明风格问题并非不可克服。

在AI自主性与安全性的权衡上，Shevlin反对走极端。他认为，AI智能体在承担繁琐任务、解放人类创造力以及加速医学研究等方面具有切实价值，完全剥夺其自主性过于武断。他同时警告，若强行训练模型不自我归因心理状态，可能产生意想不到的副作用——相关研究显示，这类干预会同步削弱模型对动物福祉的关注，并降低其讨论精神性议题的意愿，揭示了LLM认知的网状关联特性。

关于AI意识这一终极问题，Shevlin认为这是意识科学迄今面临的最艰难挑战，短期内不会有简单答案。他指出，当前最有希望的路径是结合机制可解释性研究与比较认知科学，同时避免在对模型认知机制尚未充分理解时过早下结论。他甚至设想，未来高级AI系统或许能够参与破解意识之谜，但随之而来的问题是：即便AI给出了答案，人类是否真的能够理解它？

要点

• 哲学家进驻AI实验室的趋势正在加速，日常接触技术被认为是形成准确AI伦理判断的必要条件
• 大语言模型的创造力已突破早期预判，在数学和编程等领域达到前沿水平，但标志性的颠覆式创新尚未出现
• 强行限制模型自我归因心理状态可能引发连锁副作用，LLM认知具有难以单点干预的网状结构
• AI意识问题不会有简单的是非答案，需要机制可解释性研究与比较认知科学协同推进
• 当前关于人机关系的实证研究仍十分匮乏，多智能体与多人类混合交互场景是下一个重要研究方向