返回岗位列表

Researcher Pretraining Safety San Francisco

查看原岗位

地点：美国薪资：$310K-$460K 日期：2026-01-29

岗位摘要

识别基础模型中首次出现的安全相关行为；评估并降低风险，无需等待完整规模的训练运行；设计架构和训练设置，使安全行为成为默认；通过引入更丰富、更早期的安全信号来增强模型；开发新技术以预测、测量和评估早期模型中的不安全行为

岗位职责

识别基础模型中首次出现的安全相关行为
评估并降低风险，无需等待完整规模的训练运行
设计架构和训练设置，使安全行为成为默认
通过引入更丰富、更早期的安全信号来增强模型
开发新技术以预测、测量和评估早期模型中的不安全行为
设计数据筛选策略，改善预训练先验并降低下游风险
探索安全设计的架构和训练配置，提高可控性
将新颖的安全导向损失函数、指标和评估引入预训练堆栈
与跨职能安全团队紧密合作，统一预训练和后训练的风险降低

任职要求

具备开发或扩展预训练架构的经验（如LLMs、扩散模型、多模态模型等）
熟悉训练基础设施、数据管道和评估框架（如Python、PyTorch/JAX、Apache Beam）
喜欢动手研究——设计、实施和迭代实验
享受与多样化的技术和跨职能合作伙伴（如政策、法律、培训）合作
数据驱动，具备强大的统计推理和实验设计的严谨性
重视构建清晰、可扩展的研究工作流程，并为自己和他人简化流程