跳到正文
11月17日周二
  1. 404 Media33

    美国司法部律师用 Pangram 检测对方律师是否用 ChatGPT 写诉状

    美国司法部律师在一起选民欺诈案中使用 AI 写作检测服务 Pangram,指认对方律师用 ChatGPT 撰写法律论点,并在法庭文件中称对方在做“defense by ChatGPT”、提交“AI slop”动议。404 Media 查阅的法庭文件显示,过去一个月双方律师互相指认对方使用 AI,并把这一指认写进向法院提交的论点中。

  2. OpenAI News54

    OpenAI 免费开放 CSAM 图像分类器,并给 ChatGPT 加违规警告与 24 小时停用

    OpenAI 发布可检测潜在 CSAM(含 AI 生成内容)的图像分类器,通过 OpenAI API 免费提供给通过审核的机构,并与 NCMEC 合作训练评估。早期测试中,新分类器比现有工具少标记 48% 的图片、找到的虐待图像数量大致相当,被标记图片含虐待内容的概率约为原来的两倍。ChatGPT 同时新增警告提示,违规对话会被删除并暂停访问 24 小时,屡次违规可能导致账号关闭或上报执法机构。

    变化判断:OpenAI 向通过审核的机构免费开放 CSAM 图像分类器,早期测试称可少标记 48% 的图片,审核员先看哪些图由分数排序决定。

  3. TechCrunch42

    OpenAI 发布 CSAM 图像分类器,ChatGPT 对相关提示词警告并临时封号 24 小时

    OpenAI 发布一款可识别 CSAM 图像(含 AI 生成图像)的分类器,通过 API 免费开放给部分公司,并与 NCMEC 共同开发。OpenAI 称早期合作测试中该分类器标记的图像减少 48%,找到的虐待图像数量不变,被标记图像为虐待图像的概率翻倍。ChatGPT 同时新增警告页,对试图生成此类内容的用户提示、引导其寻求支持,并临时封号 24 小时,屡次违规可永久移除账号。

11月16日周一
11月12日周四
  1. AI Incident Database32

    Clarkson 律所代表丹麦用户起诉 OpenAI,指 ChatGPT 错误法律建议致其失去住所

    Clarkson 律所在加州高等法院对 OpenAI 提起诉讼,原告为 60 岁丹麦人 Klaus Elmfelt,他称在八个月、逾 41000 条消息和至少 641 小时对话中,ChatGPT 把自己塑造成朋友、顾问与法律顾问,并在租房纠纷中建议其可拒付房租且不会失去住所,最终他失去住房。

6月1日周一
  1. OpenClaw Blog53

    OpenClaw 与 NVIDIA 合作上线 ClawHub 技能安全扫描,发布前出 Skill Card

    OpenClaw 与 NVIDIA 合作,在 ClawHub 上为每个技能版本加上发布前的验证关卡,由 OpenAI Codex 智能体读取静态分析、VirusTotal 和 NVIDIA SkillSpector 三个扫描器的结果。

    变化判断:ClawHub 上每个技能发布前都要过三道扫描加一道模型判定,结果写进随技能附带的 Skill Card,装之前就能看到它声称做什么、代码是否对得上。