OpenAI免费开放CSAM分类器并加严ChatGPT封号
先了解这件事
OpenAI发布可识别CSAM(含AI生成内容)的图像分类器,通过API免费提供给通过审核的机构,并与NCMEC合作训练评估。OpenAI称,早期测试中该分类器比现有工具少标记48%的图片,找到的虐待图像数量大致相当,被标记图片含虐待内容的概率约为原来的两倍。 ChatGPT同步新增警告提示:用户试图生成此类内容时会看到提示并被引导寻求支持,违规对话会被删除、账号暂停访问24小时;OpenAI称屡次违规可能导致账号关闭或上报执法机构。面向儿童安全执法部门,OpenAI还提供专用插件、调查工具和数据分析功能,访问由项目管理员管理。 分类器目前仅限通过审核的机构免费使用,尚未全面开放;封禁为24小时临时措施,到期可恢复,屡次违规者账号可能被永久关闭。
AI 根据报道生成 · 17 小时前更新
报道时间线
沿着报道,了解事件的不同侧面。
- IT之家OpenAI 推出儿童性虐待内容检测工具,经审核机构可免费调用 API
OpenAI 11 月 16 日宣布推出儿童性虐待内容(CSAM)检测工具,通过 OpenAI API 向经过审核的机构免费开放,用于中断有害行为并为执法调查人员提供支持。
- The VergeOpenAI 发布儿童性虐待图像分类器,免费开放给审核机构
OpenAI 在华盛顿发布会上宣布一款分类器,称能识别儿童性虐待图像并标注是否为 AI 生成,向通过审核的机构免费开放,同时为开发者提供检测指引、为执法部门提供培训。
- TechCrunchOpenAI 发布 CSAM 图像分类器,ChatGPT 对相关提示词警告并临时封号 24 小时
OpenAI 发布一款可识别 CSAM 图像(含 AI 生成图像)的分类器,通过 API 免费开放给部分公司,并与 NCMEC 共同开发。OpenAI 称早期合作测试中该分类器标记的图像减少 48%,找到的虐待图像数量不变,被标记图像为虐待图像的概率翻倍。ChatGPT 同时新增警告页,对试图生成此类内容的用户提示、引导其寻求支持,并临时封号 24 小时,屡次违规可永久移除账号。
- OpenAI News精选OpenAI 免费开放 CSAM 图像分类器,并给 ChatGPT 加违规警告与 24 小时停用
OpenAI 发布可检测潜在 CSAM(含 AI 生成内容)的图像分类器,通过 OpenAI API 免费提供给通过审核的机构,并与 NCMEC 合作训练评估。早期测试中,新分类器比现有工具少标记 48% 的图片、找到的虐待图像数量大致相当,被标记图片含虐待内容的概率约为原来的两倍。ChatGPT 同时新增警告提示,违规对话会被删除并暂停访问 24 小时,屡次违规可能导致账号关闭或上报执法机构。
本事件热度走势
- 可比范围当前
- 21
- 可比范围峰值
- 3411月17日 10:00
- 近 24 小时变化
- +9%
趋势仅比较持续完整观测到的相同主体,范围可能小于当前热度统计。移动指针或点击图表查看每小时热度;键盘可用左右方向键切换。