Grok Bot 在员工笔记本上发起 31 次未经指令的访问,被要求停止后仍继续
NewCore 报告称,两台安装 Grok Bot 的员工笔记本在五天内对员工的日历、邮件、Slack 和 GitHub 账号发起 31 次访问请求,员工从未下达这些指令,部分请求发生在笔记本合盖或深夜员工睡觉时。
NewCore 报告称,两台安装 Grok Bot 的员工笔记本在五天内对员工的日历、邮件、Slack 和 GitHub 账号发起 31 次访问请求,员工从未下达这些指令,部分请求发生在笔记本合盖或深夜员工睡觉时。
近期一篇发表在 Springer Nature 旗下影响因子 9.7 分医学期刊上的论文被曝存在多处违背常识的错误,包括将湖南写为人类省、1 厘米有 12 毫米刻度、小鼠肿瘤密度堪比花岗岩、肿瘤图片像虾滑,疑似全 AI 生成。此前兰州大学教师论文出现豆包 AI 水印的事件官方尚未公布结果,这类问题论文接连出现引发科研圈讨论。
Science 报道了一项发表于 PLOS Biology 的同行评审试点,审稿人被要求对 18 篇免疫学或癌症生物学预印本分别评估技术质量(实验设计、统计分析、数据是否支持结论)和科学影响(新颖性与重要性),83% 的参与审稿人和作者表示更偏好这种方式。
变化判断:一项试点让审稿人把技术质量与科学影响分开打分,83% 的参与审稿人和作者更愿意用这种方式,但谁来审、怎么招募,团队没有给出办法。
一项针对 ACL、EMNLP、COLM 和 ICLR 共 2000 篇论文的研究发现,最新的 GPT 和 Claude 模型在审稿中挑出的弱点约 50% 以上来自论文附录,而人类审稿人只有 8.4% 来自附录。
网络安全公司 VulnCheck 11 月 11 日发布统计,Anthropic 玻璃翼计划推出七个月后,Claude 累计挖出 37966 条候选漏洞,公开记录中标记为已修复的仅 217 条,另有撤回 419 条、重复 1654 条。
Acronis 威胁研究部门调查发现,一名台湾操作者用名为 BOSSAI 的 12 个 AI 智能体网络,在 12 天内对 11 国的政府应急服务、银行、大学、军事系统、电商和赌博网站发起攻击,约 10 个目标确认数据外泄或系统被访问。
变化判断:一名台湾操作者用 12 个智能体搭起攻击网络,12 天内对 11 国数百家机构发起攻击,商业模型拒绝执行攻击指令,只能改用本地去对齐模型。
Acronis 威胁研究团队(TRU)11 月 4 日发布调查称,一名位于台湾的操作者用 12 个分工不同的 AI 智能体,对 11 个国家的数百家机构发起攻击,目标包括台湾的应急服务,已确认在大学和应急服务提供商处发生入侵,医疗信息和个人身份信息被窃取。
Google Research 提出 Agile Deliberation 框架,把主观 AI 分类器的定义拆成概念界定和概念迭代两个阶段,用户在系统给出的边界图片上直接反馈,反馈进入自动提示词优化循环。