OpenAI 免费开放 CSAM 图像分类器,并给 ChatGPT 加违规警告与 24 小时停用
OpenAI 发布可检测潜在 CSAM(含 AI 生成内容)的图像分类器,通过 OpenAI API 免费提供给通过审核的机构,并与 NCMEC 合作训练评估。早期测试中,新分类器比现有工具少标记 48% 的图片、找到的虐待图像数量大致相当,被标记图片含虐待内容的概率约为原来的两倍。ChatGPT 同时新增警告提示,违规对话会被删除并暂停访问 24 小时,屡次违规可能导致账号关闭或上报执法机构。
变化判断:OpenAI 向通过审核的机构免费开放 CSAM 图像分类器,早期测试称可少标记 48% 的图片,审核员先看哪些图由分数排序决定。