跳到正文
  1. OpenAI News54

    OpenAI 免费开放 CSAM 图像分类器,并给 ChatGPT 加违规警告与 24 小时停用

    OpenAI 发布可检测潜在 CSAM(含 AI 生成内容)的图像分类器,通过 OpenAI API 免费提供给通过审核的机构,并与 NCMEC 合作训练评估。早期测试中,新分类器比现有工具少标记 48% 的图片、找到的虐待图像数量大致相当,被标记图片含虐待内容的概率约为原来的两倍。ChatGPT 同时新增警告提示,违规对话会被删除并暂停访问 24 小时,屡次违规可能导致账号关闭或上报执法机构。

    变化判断:OpenAI 向通过审核的机构免费开放 CSAM 图像分类器,早期测试称可少标记 48% 的图片,审核员先看哪些图由分数排序决定。

  1. CourtListener65

    特拉华衡平法院裁定律师用 GenAI 编造引文违反 Rule 11,签字律师个人被罚 2500 美元

    特拉华州衡平法院 11 月 13 日就 Kevin Leiske 诉 Robert Gregory Kidd 案作出裁定,原告首席律师在答复简报中使用未获律所批准的 Perplexity Enterprise 起草内容,带入虚构引文和错误判例描述,违反 Rule 11(b)(2)。

    变化判断:特拉华州衡平法院认定律师用 GenAI 生成虚构引文违反 Rule 11,签字律师个人罚 2500 美元,律所因已有 GenAI 政策与培训免于连带责任。

  1. Anthropic News58

    Anthropic 扩展 Cyber Verification Program,分三档向安全团队开放降低拦截的模型

    Anthropic 推出扩展版 Cyber Verification Program,把原先的 Project Glasswing 与 CVP 合并为一套三档访问计划,各档均可使用 Claude Opus 5.5、Claude Sonnet 5.5、Claude Mythos 5.1 及后续新模型。

    变化判断:Anthropic 把网络安全访问计划拆成三档,防御方按用途申请降低拦截,红队档只对机构开放,特殊档要和美国政府逐家审核。

  1. OpenClaw Blog53

    OpenClaw 与 NVIDIA 合作上线 ClawHub 技能安全扫描,发布前出 Skill Card

    OpenClaw 与 NVIDIA 合作,在 ClawHub 上为每个技能版本加上发布前的验证关卡,由 OpenAI Codex 智能体读取静态分析、VirusTotal 和 NVIDIA SkillSpector 三个扫描器的结果。

    变化判断:ClawHub 上每个技能发布前都要过三道扫描加一道模型判定,结果写进随技能附带的 Skill Card,装之前就能看到它声称做什么、代码是否对得上。

  1. OpenClaw Blog51

    OpenClaw 与 VirusTotal 合作,ClawHub 技能上架前先做安全扫描

    OpenClaw 宣布与 VirusTotal 合作,所有发布到 ClawHub 的技能包都会用 VirusTotal 的威胁情报和 Code Insight 能力扫描,判定为 benign 的自动通过,可疑的标注警告但仍可下载,恶意的立即禁止下载。

    变化判断:ClawHub 上架的技能包改为先经 VirusTotal 扫描再放行,判定为恶意的直接禁止下载,误判可发邮件申诉复核。

已经到底了