跳到正文
11月17日周二
  1. 404 Media33

    美国司法部律师用 Pangram 检测对方律师是否用 ChatGPT 写诉状

    美国司法部律师在一起选民欺诈案中使用 AI 写作检测服务 Pangram,指认对方律师用 ChatGPT 撰写法律论点,并在法庭文件中称对方在做“defense by ChatGPT”、提交“AI slop”动议。404 Media 查阅的法庭文件显示,过去一个月双方律师互相指认对方使用 AI,并把这一指认写进向法院提交的论点中。

  2. IT之家46

    红果短剧上线肖像侵权预检工具,累计处置作品43992部

    红果短剧11月17日发布肖像侵权专项治理公告,围绕平台自审、制作预检、侵权投诉三个环节推出措施。截至2026年10月,平台累计拦截、下架、修复疑似肖像侵权作品43992部,其中99%由平台主动前置拦截;2026年8月上线供创作者免费使用的预检工具已检测物料近80万例,提前拦截不合格素材9万余例。

  3. 钛媒体52

    韩国税务师考试第一名自首AI作弊,高考前四天紧急加防智能眼镜

    11月15日,34岁的韩元锡承认在韩国税务师考试两轮中均用微型摄像头拍题、经手机传给生成式AI取答案,并向首尔警方自首,此前采访中的备考经验系编造。当天距11月19日韩国高考仅四天,青瓦台召开紧急会议排查国家资格考试AI作弊并检查高考防范,韩国总理要求考生上交所有智能设备、研究考试期间关闭考点公共Wi-Fi。

  4. IT之家46

    苹果中国区 App Store 新增 AIGC 合规入口,现有应用须在 2027 年 1 月 31 日前补齐备案

    苹果在 App Store Connect 后台为中国大陆分发的应用新增两项合规必填项,涉及 AIGC 服务的应用须提交备案信息与安全评估证明,现有 App 须在 2027 年 1 月 31 日前完成,新 App 需立即提交。使用第三方技术的开发者还须上传授权或使用协议,调用第三方模型的需提供算法备案号与双方盖章的合作协议。苹果称应用商店承担核验责任,合规材料从建议变成上架前置条件。

  5. OpenAI News54

    OpenAI 免费开放 CSAM 图像分类器,并给 ChatGPT 加违规警告与 24 小时停用

    OpenAI 发布可检测潜在 CSAM(含 AI 生成内容)的图像分类器,通过 OpenAI API 免费提供给通过审核的机构,并与 NCMEC 合作训练评估。早期测试中,新分类器比现有工具少标记 48% 的图片、找到的虐待图像数量大致相当,被标记图片含虐待内容的概率约为原来的两倍。ChatGPT 同时新增警告提示,违规对话会被删除并暂停访问 24 小时,屡次违规可能导致账号关闭或上报执法机构。

    变化判断:OpenAI 向通过审核的机构免费开放 CSAM 图像分类器,早期测试称可少标记 48% 的图片,审核员先看哪些图由分数排序决定。

  6. TechCrunch42

    OpenAI 发布 CSAM 图像分类器,ChatGPT 对相关提示词警告并临时封号 24 小时

    OpenAI 发布一款可识别 CSAM 图像(含 AI 生成图像)的分类器,通过 API 免费开放给部分公司,并与 NCMEC 共同开发。OpenAI 称早期合作测试中该分类器标记的图像减少 48%,找到的虐待图像数量不变,被标记图像为虐待图像的概率翻倍。ChatGPT 同时新增警告页,对试图生成此类内容的用户提示、引导其寻求支持,并临时封号 24 小时,屡次违规可永久移除账号。

11月16日周一
  1. IT之家39

    英国 Ofcom 收紧儿童安全规定,平台须主动识别并删除儿童性虐待内容

    英国通信管理局(Ofcom)11 月 16 日宣布收紧网络儿童安全监管规定,要求社交媒体平台、文件共享服务、色情网站等封禁制作、上传或传播儿童性虐待内容的用户,并扩大技术应用范围主动检测删除已知非法图片,部分情况下须部署自动化工具识别此前未发现的内容。新义务预计 2027 年初开始承担,具体实施时间仍需英国议会批准;此举也为英国计划中的 16 岁以下青少年社交媒体禁令铺路。

  2. AI Incident Database38

    危地马拉四名未成年学生被控用 AI 合成同学裸照并传播,法院立案

    危地马拉青少年刑事法庭对四名未成年学生立案调查,他们被指在首都第 17 区的 Continental Americano 学校用 AI 把女同学的 Instagram 照片合成裸照并传播、出售。检方指控的罪名包括侵犯性隐私、传播未成年人色情材料和持有未成年人色情材料,案件源于去年 8 月 9 日校内传播的照片,受害者告知家长后由家长报案。调查将继续进行,6 个月内决定这四名未成年人是否接受审判。

  3. AI Incident Database29

    危地马拉四名学生用 AI 合成女同学裸照被立案,涉三项罪名

    危地马拉城 Continental Americano 学校四名未成年学生被指用 AI 将女同学 Instagram 照片中的面部与裸体合成,2024 年 8 月 9 日被发现后经社交网络传播。2025 年 1 月 23 日,当地少年刑事法庭对四人正式立案,指控罪名包括侵犯性隐私、传播未成年人色情内容和持有未成年人色情材料。教育部在事发后数日指令将四人带离学校,校方提供心理与情绪支持。

  4. AI Incident Database29

    危地马拉一学校学生被指用 AI 合成同学不雅内容,检方立案六起投诉

    危地马拉公共部确认,正就首都 17 区一所学校部分女学生权利疑似受侵害一事调查六起投诉,事由是有人涉嫌使用她们的照片并通过人工智能制作色情内容。8 月 10 日(周六)一起投诉进入青少年刑事司法综合服务模式(MAIJU),检方已录取证词并对受害者提供综合援助,打击人口贩运检察厅同时介入。

  5. 科创板日报43

    韩国高考前加强AI作弊防范,1300个考点各配一名受训监考

    韩国在11月19日举行2027学年度大学修学能力考试前,为全国1300个考点各安排至少一名经过专门培训的监考人员,负责识别AI智能眼镜等作弊设备。教育部向监考人员发出新指导意见,要求留意考生袖口、衣领、纽扣等部位异常和可疑手势,政府还在考虑要求考生上交智能设备并关闭考点公共Wi-Fi。

11月15日周日
  1. CourtListener65

    特拉华衡平法院裁定律师用 GenAI 编造引文违反 Rule 11,签字律师个人被罚 2500 美元

    特拉华州衡平法院 11 月 13 日就 Kevin Leiske 诉 Robert Gregory Kidd 案作出裁定,原告首席律师在答复简报中使用未获律所批准的 Perplexity Enterprise 起草内容,带入虚构引文和错误判例描述,违反 Rule 11(b)(2)。

    变化判断:特拉华州衡平法院认定律师用 GenAI 生成虚构引文违反 Rule 11,签字律师个人罚 2500 美元,律所因已有 GenAI 政策与培训免于连带责任。

11月12日周四
10月24日周六
10月6日周二
  1. Anthropic News58

    Anthropic 扩展 Cyber Verification Program,分三档向安全团队开放降低拦截的模型

    Anthropic 推出扩展版 Cyber Verification Program,把原先的 Project Glasswing 与 CVP 合并为一套三档访问计划,各档均可使用 Claude Opus 5.5、Claude Sonnet 5.5、Claude Mythos 5.1 及后续新模型。

    变化判断:Anthropic 把网络安全访问计划拆成三档,防御方按用途申请降低拦截,红队档只对机构开放,特殊档要和美国政府逐家审核。

6月1日周一
  1. OpenClaw Blog53

    OpenClaw 与 NVIDIA 合作上线 ClawHub 技能安全扫描,发布前出 Skill Card

    OpenClaw 与 NVIDIA 合作,在 ClawHub 上为每个技能版本加上发布前的验证关卡,由 OpenAI Codex 智能体读取静态分析、VirusTotal 和 NVIDIA SkillSpector 三个扫描器的结果。

    变化判断:ClawHub 上每个技能发布前都要过三道扫描加一道模型判定,结果写进随技能附带的 Skill Card,装之前就能看到它声称做什么、代码是否对得上。

2月7日周六
  1. OpenClaw Blog51

    OpenClaw 与 VirusTotal 合作,ClawHub 技能上架前先做安全扫描

    OpenClaw 宣布与 VirusTotal 合作,所有发布到 ClawHub 的技能包都会用 VirusTotal 的威胁情报和 Code Insight 能力扫描,判定为 benign 的自动通过,可疑的标注警告但仍可下载,恶意的立即禁止下载。

    变化判断:ClawHub 上架的技能包改为先经 VirusTotal 扫描再放行,判定为恶意的直接禁止下载,误判可发邮件申诉复核。