1 月 21 日消息,OpenAI 公司昨日(1 月 20 日)发布博文,宣布在 ChatGPT 消费级版本中推出“年龄预测”功能,目的在于识别未满 18 岁的用户并提供针对性保护。
OpenAI 表示部署该模型,是确保未满 18 岁的用户能在安全范围内使用 AI 工具。系统一旦判定账户持有者为未成年人,将自动匹配相应的安全设置,既保障青少年探索技术的机会,又通过限制敏感内容来维护其身心健康。
该预测模型不单纯依赖用户注册时填写的年龄,而是综合分析多项“行为与账户级信号”。系统会重点考察账户的存续时间、用户通常活跃的具体时段(如是否在深夜使用)以及长期的交互模式。
OpenAI 表示,这种部署策略有助于通过实际数据反馈不断修正模型精度。当系统对用户年龄判定存疑或信息不全时,会自动默认为更严格的安全模式,优先确保安全性。
援引博文介绍,针对被识别为未成年人的账户,ChatGPT 将强制启用额外保护层,拦截五类高风险内容:
-
直接展示的暴力血腥画面
-
可能诱导未成年人模仿的危险病毒式挑战
-
涉及性或暴力的角色扮演(Role Play)
-
自残相关描述,
-
宣扬极端审美、不健康节食或身材羞辱的内容。
为解决模型可能出现的误判问题,OpenAI 引入了第三方身份验证服务 Persona。被错误归类为未成年人的用户,可以通过上传自拍进行快速验证,经确认后即可恢复完整功能。
此外,家长可通过“家长控制”功能进一步定制青少年的使用体验,包括设置“静默时间”(禁止使用时段)、控制记忆功能权限,以及在系统检测到用户出现急性心理困扰迹象时接收通知。
