跳到正文
11月17日周二
  1. 404 Media33

    美国司法部律师用 Pangram 检测对方律师是否用 ChatGPT 写诉状

    美国司法部律师在一起选民欺诈案中使用 AI 写作检测服务 Pangram,指认对方律师用 ChatGPT 撰写法律论点,并在法庭文件中称对方在做“defense by ChatGPT”、提交“AI slop”动议。404 Media 查阅的法庭文件显示,过去一个月双方律师互相指认对方使用 AI,并把这一指认写进向法院提交的论点中。

  2. IT之家36

    加州理工学院教授倪忆改批改方式,数学作业只看是否完成

    在加州理工学院任教 17 年的数学教授倪忆表示,他不再根据学生答案的对错给作业打分,只检查是否完成,原因是学生普遍用 AI 做数学作业,他无法判断作业是否由 AI 完成。数学专业大二学生萨特维克·雷德鲁图称,今年他修读的部分课程明确注明允许使用 AI,加州理工学院尚未就数学教师如何应对 AI 制定统一规定。

  3. 知乎热榜32

    湘雅二医院论文被曝多处常识错误,疑似全 AI 生成后仍获发表

    近期一篇发表在 Springer Nature 旗下影响因子 9.7 分医学期刊上的论文被曝存在多处违背常识的错误,包括将湖南写为人类省、1 厘米有 12 毫米刻度、小鼠肿瘤密度堪比花岗岩、肿瘤图片像虾滑,疑似全 AI 生成。此前兰州大学教师论文出现豆包 AI 水印的事件官方尚未公布结果,这类问题论文接连出现引发科研圈讨论。

  4. IT之家46

    红果短剧上线肖像侵权预检工具,累计处置作品43992部

    红果短剧11月17日发布肖像侵权专项治理公告,围绕平台自审、制作预检、侵权投诉三个环节推出措施。截至2026年10月,平台累计拦截、下架、修复疑似肖像侵权作品43992部,其中99%由平台主动前置拦截;2026年8月上线供创作者免费使用的预检工具已检测物料近80万例,提前拦截不合格素材9万余例。

  5. 钛媒体52

    韩国税务师考试第一名自首AI作弊,高考前四天紧急加防智能眼镜

    11月15日,34岁的韩元锡承认在韩国税务师考试两轮中均用微型摄像头拍题、经手机传给生成式AI取答案,并向首尔警方自首,此前采访中的备考经验系编造。当天距11月19日韩国高考仅四天,青瓦台召开紧急会议排查国家资格考试AI作弊并检查高考防范,韩国总理要求考生上交所有智能设备、研究考试期间关闭考点公共Wi-Fi。

  6. IT之家46

    苹果中国区 App Store 新增 AIGC 合规入口,现有应用须在 2027 年 1 月 31 日前补齐备案

    苹果在 App Store Connect 后台为中国大陆分发的应用新增两项合规必填项,涉及 AIGC 服务的应用须提交备案信息与安全评估证明,现有 App 须在 2027 年 1 月 31 日前完成,新 App 需立即提交。使用第三方技术的开发者还须上传授权或使用协议,调用第三方模型的需提供算法备案号与双方盖章的合作协议。苹果称应用商店承担核验责任,合规材料从建议变成上架前置条件。

  7. Science44

    Science 报道同行评审试点:把技术质量与科学影响分开打分

    Science 报道了一项发表于 PLOS Biology 的同行评审试点,审稿人被要求对 18 篇免疫学或癌症生物学预印本分别评估技术质量(实验设计、统计分析、数据是否支持结论)和科学影响(新颖性与重要性),83% 的参与审稿人和作者表示更偏好这种方式。

    变化判断:一项试点让审稿人把技术质量与科学影响分开打分,83% 的参与审稿人和作者更愿意用这种方式,但谁来审、怎么招募,团队没有给出办法。

  8. OpenAI News54

    OpenAI 免费开放 CSAM 图像分类器,并给 ChatGPT 加违规警告与 24 小时停用

    OpenAI 发布可检测潜在 CSAM(含 AI 生成内容)的图像分类器,通过 OpenAI API 免费提供给通过审核的机构,并与 NCMEC 合作训练评估。早期测试中,新分类器比现有工具少标记 48% 的图片、找到的虐待图像数量大致相当,被标记图片含虐待内容的概率约为原来的两倍。ChatGPT 同时新增警告提示,违规对话会被删除并暂停访问 24 小时,屡次违规可能导致账号关闭或上报执法机构。

    变化判断:OpenAI 向通过审核的机构免费开放 CSAM 图像分类器,早期测试称可少标记 48% 的图片,审核员先看哪些图由分数排序决定。

  9. TechCrunch42

    OpenAI 发布 CSAM 图像分类器,ChatGPT 对相关提示词警告并临时封号 24 小时

    OpenAI 发布一款可识别 CSAM 图像(含 AI 生成图像)的分类器,通过 API 免费开放给部分公司,并与 NCMEC 共同开发。OpenAI 称早期合作测试中该分类器标记的图像减少 48%,找到的虐待图像数量不变,被标记图像为虐待图像的概率翻倍。ChatGPT 同时新增警告页,对试图生成此类内容的用户提示、引导其寻求支持,并临时封号 24 小时,屡次违规可永久移除账号。

11月16日周一
  1. IT之家39

    英国 Ofcom 收紧儿童安全规定,平台须主动识别并删除儿童性虐待内容

    英国通信管理局(Ofcom)11 月 16 日宣布收紧网络儿童安全监管规定,要求社交媒体平台、文件共享服务、色情网站等封禁制作、上传或传播儿童性虐待内容的用户,并扩大技术应用范围主动检测删除已知非法图片,部分情况下须部署自动化工具识别此前未发现的内容。新义务预计 2027 年初开始承担,具体实施时间仍需英国议会批准;此举也为英国计划中的 16 岁以下青少年社交媒体禁令铺路。

  2. AI Incident Database38

    危地马拉四名未成年学生被控用 AI 合成同学裸照并传播,法院立案

    危地马拉青少年刑事法庭对四名未成年学生立案调查,他们被指在首都第 17 区的 Continental Americano 学校用 AI 把女同学的 Instagram 照片合成裸照并传播、出售。检方指控的罪名包括侵犯性隐私、传播未成年人色情材料和持有未成年人色情材料,案件源于去年 8 月 9 日校内传播的照片,受害者告知家长后由家长报案。调查将继续进行,6 个月内决定这四名未成年人是否接受审判。

  3. AI Incident Database29

    危地马拉四名学生用 AI 合成女同学裸照被立案,涉三项罪名

    危地马拉城 Continental Americano 学校四名未成年学生被指用 AI 将女同学 Instagram 照片中的面部与裸体合成,2024 年 8 月 9 日被发现后经社交网络传播。2025 年 1 月 23 日,当地少年刑事法庭对四人正式立案,指控罪名包括侵犯性隐私、传播未成年人色情内容和持有未成年人色情材料。教育部在事发后数日指令将四人带离学校,校方提供心理与情绪支持。

  4. AI Incident Database29

    危地马拉一学校学生被指用 AI 合成同学不雅内容,检方立案六起投诉

    危地马拉公共部确认,正就首都 17 区一所学校部分女学生权利疑似受侵害一事调查六起投诉,事由是有人涉嫌使用她们的照片并通过人工智能制作色情内容。8 月 10 日(周六)一起投诉进入青少年刑事司法综合服务模式(MAIJU),检方已录取证词并对受害者提供综合援助,打击人口贩运检察厅同时介入。

  5. 科创板日报43

    韩国高考前加强AI作弊防范,1300个考点各配一名受训监考

    韩国在11月19日举行2027学年度大学修学能力考试前,为全国1300个考点各安排至少一名经过专门培训的监考人员,负责识别AI智能眼镜等作弊设备。教育部向监考人员发出新指导意见,要求留意考生袖口、衣领、纽扣等部位异常和可疑手势,政府还在考虑要求考生上交智能设备并关闭考点公共Wi-Fi。

11月15日周日
  1. CourtListener65

    特拉华衡平法院裁定律师用 GenAI 编造引文违反 Rule 11,签字律师个人被罚 2500 美元

    特拉华州衡平法院 11 月 13 日就 Kevin Leiske 诉 Robert Gregory Kidd 案作出裁定,原告首席律师在答复简报中使用未获律所批准的 Perplexity Enterprise 起草内容,带入虚构引文和错误判例描述,违反 Rule 11(b)(2)。

    变化判断:特拉华州衡平法院认定律师用 GenAI 生成虚构引文违反 Rule 11,签字律师个人罚 2500 美元,律所因已有 GenAI 政策与培训免于连带责任。

11月14日周六
11月13日周五
11月12日周四
  1. AI Incident Database66

    Acronis 调查 BOSSAI 攻击网络:12 个 AI 智能体由一人操控,攻击 11 国机构

    Acronis 威胁研究部门调查发现,一名台湾操作者用名为 BOSSAI 的 12 个 AI 智能体网络,在 12 天内对 11 国的政府应急服务、银行、大学、军事系统、电商和赌博网站发起攻击,约 10 个目标确认数据外泄或系统被访问。

    变化判断:一名台湾操作者用 12 个智能体搭起攻击网络,12 天内对 11 国数百家机构发起攻击,商业模型拒绝执行攻击指令,只能改用本地去对齐模型。

11月11日周三
11月5日周四
10月24日周六
10月6日周二
  1. Anthropic News58

    Anthropic 扩展 Cyber Verification Program,分三档向安全团队开放降低拦截的模型

    Anthropic 推出扩展版 Cyber Verification Program,把原先的 Project Glasswing 与 CVP 合并为一套三档访问计划,各档均可使用 Claude Opus 5.5、Claude Sonnet 5.5、Claude Mythos 5.1 及后续新模型。

    变化判断:Anthropic 把网络安全访问计划拆成三档,防御方按用途申请降低拦截,红队档只对机构开放,特殊档要和美国政府逐家审核。

6月1日周一
  1. OpenClaw Blog53

    OpenClaw 与 NVIDIA 合作上线 ClawHub 技能安全扫描,发布前出 Skill Card

    OpenClaw 与 NVIDIA 合作,在 ClawHub 上为每个技能版本加上发布前的验证关卡,由 OpenAI Codex 智能体读取静态分析、VirusTotal 和 NVIDIA SkillSpector 三个扫描器的结果。

    变化判断:ClawHub 上每个技能发布前都要过三道扫描加一道模型判定,结果写进随技能附带的 Skill Card,装之前就能看到它声称做什么、代码是否对得上。

2月7日周六
  1. OpenClaw Blog51

    OpenClaw 与 VirusTotal 合作,ClawHub 技能上架前先做安全扫描

    OpenClaw 宣布与 VirusTotal 合作,所有发布到 ClawHub 的技能包都会用 VirusTotal 的威胁情报和 Code Insight 能力扫描,判定为 benign 的自动通过,可疑的标注警告但仍可下载,恶意的立即禁止下载。

    变化判断:ClawHub 上架的技能包改为先经 VirusTotal 扫描再放行,判定为恶意的直接禁止下载,误判可发邮件申诉复核。