模型 / 官方
青少年应平等享有安全的人工智能
OpenAI发布文章强调,作为伴随人工智能成长的第一代,青少年应当享有安全使用AI的机会,而非被推迟到成年后再接触。公司在过去一年中加强了面向青少年的默认保护,上线了年龄预测、家长控制、学习模式与互动学习体验等措施,并发布多语言教育资源。文章同时介绍了四项工作原则、休息提醒机制、与外部专家的合作,以及针对高风险情形的家长通知功能,目标是让ChatGPT成为学习与创造的工具,而非替代现实关系的渠道。
OpenAI在最新博文中指出,青少年是第一代在人工智能陪伴下成长的人群,每周近九成ChatGPT青少年用户将其用于学习、信息获取、技能训练或提高效率。公司认为,禁止青少年接触AI只会让他们在成年后落后于时代,因此应同时提供开放的使用渠道与针对青少年的专门保护。
在学习场景方面,OpenAI与教师、学习科学专家合作打造了Study Mode学习模式,通过引导性问题与结构化讲解鼓励主动思考,而非直接给出答案。家长可通过家长控制为关联账户默认开启该模式,每周一已有约1800万用户使用互动数学与科学体验,覆盖积分、微积分、细胞分裂、月相等250多个主题。
在安全保护层面,当系统判断用户未满18岁时,会自动切换到更符合青少年年龄的体验,加强血腥、自残、危险挑战、不良身体形象以及恋爱与性角色扮演等内容上的限制,并增加休息提醒以培养健康的屏幕使用习惯。
家长控制功能允许设置静音时段、关闭语音模式、管理图像生成权限,并在出现自残迹象等高风险情形时推送通知,新的扩展还会告知家长账户是否因违反暴力威胁政策而被停用。OpenAI与暴力预防机构Moonshot等外部专家合作设计干预流程,确保通知既及时又尊重青少年隐私。
OpenAI总结了其工作的四项原则:把青少年安全置于首位、鼓励在需要时寻求现实支持、按照青少年阶段特征设计产品、对规则与预期保持透明,并通过50多种语言的教育资源帮助家长、教师与青少年理解如何负责任地使用AI。
要点
- OpenAI主张青少年应尽早接触AI,并强调开放与保护并重
- Study Mode学习模式通过引导式提问促进主动学习,家长可远程默认开启
- 系统对疑似未成年账户自动应用更严格的内容限制,并增加休息提醒
- 家长控制新增账户停用通知,与Moonshot等机构合作设计高风险干预
- ['安全优先、现实支持、年龄化设计、透明沟通']
原始标题:Why teens deserve access to safe AI
本文由 DataHub 基于公开来源整理,用于信息发现与摘要阅读;具体事实、数据和后续更新以原始来源为准。