跳到正文
热点事件持续更新

OpenAI免费开放CSAM分类器并加严ChatGPT封号

4 篇报道4 个报道来源首报17 小时前更新

先了解这件事

AI 综述

OpenAI发布可识别CSAM(含AI生成内容)的图像分类器,通过API免费提供给通过审核的机构,并与NCMEC合作训练评估。OpenAI称,早期测试中该分类器比现有工具少标记48%的图片,找到的虐待图像数量大致相当,被标记图片含虐待内容的概率约为原来的两倍。 ChatGPT同步新增警告提示:用户试图生成此类内容时会看到提示并被引导寻求支持,违规对话会被删除、账号暂停访问24小时;OpenAI称屡次违规可能导致账号关闭或上报执法机构。面向儿童安全执法部门,OpenAI还提供专用插件、调查工具和数据分析功能,访问由项目管理员管理。 分类器目前仅限通过审核的机构免费使用,尚未全面开放;封禁为24小时临时措施,到期可恢复,屡次违规者账号可能被永久关闭。

AI 根据报道生成 · 17 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

11月17日
  1. IT之家
    OpenAI 推出儿童性虐待内容检测工具,经审核机构可免费调用 API

    OpenAI 11 月 16 日宣布推出儿童性虐待内容(CSAM)检测工具,通过 OpenAI API 向经过审核的机构免费开放,用于中断有害行为并为执法调查人员提供支持。

  2. The Verge
    OpenAI 发布儿童性虐待图像分类器,免费开放给审核机构

    OpenAI 在华盛顿发布会上宣布一款分类器,称能识别儿童性虐待图像并标注是否为 AI 生成,向通过审核的机构免费开放,同时为开发者提供检测指引、为执法部门提供培训。

  3. TechCrunch
    OpenAI 发布 CSAM 图像分类器,ChatGPT 对相关提示词警告并临时封号 24 小时

    OpenAI 发布一款可识别 CSAM 图像(含 AI 生成图像)的分类器,通过 API 免费开放给部分公司,并与 NCMEC 共同开发。OpenAI 称早期合作测试中该分类器标记的图像减少 48%,找到的虐待图像数量不变,被标记图像为虐待图像的概率翻倍。ChatGPT 同时新增警告页,对试图生成此类内容的用户提示、引导其寻求支持,并临时封号 24 小时,屡次违规可永久移除账号。

  4. OpenAI News精选
    OpenAI 免费开放 CSAM 图像分类器,并给 ChatGPT 加违规警告与 24 小时停用

    OpenAI 发布可检测潜在 CSAM(含 AI 生成内容)的图像分类器,通过 OpenAI API 免费提供给通过审核的机构,并与 NCMEC 合作训练评估。早期测试中,新分类器比现有工具少标记 48% 的图片、找到的虐待图像数量大致相当,被标记图片含虐待内容的概率约为原来的两倍。ChatGPT 同时新增警告提示,违规对话会被删除并暂停访问 24 小时,屡次违规可能导致账号关闭或上报执法机构。

本事件热度走势

可比范围当前
21
可比范围峰值
3411月17日 10:00
近 24 小时变化
+9%

趋势仅比较持续完整观测到的相同主体,范围可能小于当前热度统计。移动指针或点击图表查看每小时热度;键盘可用左右方向键切换。