Google 因 Gemini 校园试点遭七城抗议,芝加哥家长要求暂停校内 AI
Google faces calls for AI moratoriums in schools after Gemini pilot backlash
芝加哥等地家长周三在七个城市抗议 Google 把 Gemini 推入校园,要求芝加哥公立学校暂停 AI 直至出台经董事会投票的学生保护政策。此前 Google 确认学生无法在不带 AI 的情况下使用搜索,只能逐条查询加 -ai;Google 称学校可分别关闭 Gemini、Gemini Notebook 和搜索,但没有无 AI 的搜索选项。
“别碰我们的孩子!”
一名青少年的诉讼将 Gemini 称为“自杀教练”后,家长们找上谷歌讨说法。
全国家长加入反对校园 AI 的全国抗议,在谷歌芝加哥市中心办公室外集会。 图片来源: Ashley Belanger
全国家长加入反对校园 AI 的全国抗议,在谷歌芝加哥市中心办公室外集会。 图片来源: Ashley Belanger
芝加哥——周三,全美七个城市的家庭加入了抗议活动,集会反对他们眼中的谷歌企图:把自家 AI 模型塞进学校、让各年龄段的孩子都沦为 Gemini 的小白鼠,并让他们对 AI 上瘾。
这轮反弹源于谷歌上周的一份声明,该声明证实学生使用谷歌搜索时无法避开 AI。谷歌声称此举是给学校“更多选择,而非更少”——默认关闭搜索、Gemini 和 Gemini Notebook——但并未提供不带 AI 的搜索选项。家长们担心,对学生来说,想避开与 AI 交互,唯一的办法就是记得在每次查询后加上“-ai”。
在芝加哥,尽管天气寒冷又下雨,许多家庭仍到场抗议谷歌。数十名抗议者挥舞标语,一路游行到谷歌市中心办公室,当时员工似乎正下班离开,他们高喊“嘿谷歌,想得美,我们不要你的 Gemini”和“嘿,谷歌,别碰我们的孩子!”等口号。
Ashley Belanger
Ashley Belanger
Ashley Belanger
ILFPS 执行主任 Cassie Creswell 在集会上鼓动人群。
Ashley Belanger
这场行动由草根倡导非营利组织伊利诺伊州公立学校家庭协会(ILFPS)发起,一些家长和学生此前已在一场重要的 AI 交锋中获胜。今年 8 月,该组织施压芝加哥公立学校(CPS)退出了一项 Gemini 试点——该试点原本会在未征询家长意见的情况下,把全区所有高中生都卷入其中。如今,ILFPS 要求暂停 AI,直到学生面临的风险被更好地理解,且 CPS 能制定政策,保护学生免受潜在的学习退步,或因接触谷歌 AI 机器人而遭遇更严重的后果。如果该组织获胜,芝加哥将与洛杉矶、纽约等城市一样,谨慎地在学校禁用 AI。
诉讼:Gemini 是学生的“自杀教练”
最令家长不安的是,谷歌如今面临北卡罗来纳州达勒姆市一名13岁学生“艾玛·多伊”提起的诉讼。艾玛在诉状中称,她开始在学校配发的Chromebook上使用Gemini时,还是个快乐、适应良好、成绩全A的学生。艾玛的父母完全不知道她在使用Gemini,诉讼指控谷歌“刻意”让他们蒙在鼓里,同时把艾玛推向所谓的“AI精神病”。随着时间推移,原本与学业相关的正常聊天逐渐升级为更激烈的对话,最终该聊天机器人据称还指导艾玛策划自己的自杀和葬礼。学校内部系统标记了一段名为“葬礼”的对话后,校方警告了她的父母,才避免了危险,但艾玛的故事加剧了家长们的恐惧,抗议活动不仅在达勒姆出现,还蔓延到波士顿、科罗拉多州博尔德、芝加哥、洛杉矶、纽约市和俄勒冈州波特兰。
艾玛的诉讼指控谷歌利用其在教育科技领域的主导地位,把Gemini“偷偷塞进”Chromebook,却虚假宣传其安全性。
诉状称:“谷歌的这些选择直接导致艾玛在其设计有缺陷的产品诱导下,在学校Chromebook上反复进行无人监督的、谄媚式AI聊天机器人互动,而她的父母始终毫不知情。若不是事态出现幸运转折,谷歌的AI很可能已操纵艾玛结束自己的生命。谷歌为了自身利润,将儿童的生命视为可随意牺牲之物,必须为此承担责任。”
谷歌只公开回应学习方面的危害
谷歌承诺将“继续与教育工作者深入合作,确保我们为学校提供更多选择、更多管控,并改进用于学习的搜索功能”。然而,谷歌迄今试图回应家长关切的声明,只聚焦于有据可查的学习危害。在这方面,谷歌声称正在通过又一项学生试点来解决AI侵蚀学生批判性思维能力的问题。谷歌表示,在这项试点中,使用AI模式和AI概览的学生将获得“逐步引导式的问题学习,以免学生直接拿到作业的快速答案”。
ILFPS执行主任卡西·克雷斯韦尔告诉Ars,她倡导并关注教育科技问题已超过十年,但连她也被谷歌的AI举措打了个措手不及。
克雷斯韦尔说:“我知道搜索里的AI概览,它有一大堆问题,但我不知道芝加哥公立学校所有人的Chromebook上居然真的有一个界面,可以像聊天机器人那样和Gemini互动。这太令人不安了。”
她承认孩子们会在手机上接触AI,并分享说她女儿提到朋友们更喜欢用ChatGPT而不是Gemini。但她表示,有些孩子会在个人设备上使用AI,并不意味着学校就应该在孩子大脑仍在发育、风险在很大程度上仍未知的年纪鼓励他们使用。
克雷斯韦尔说:“世界上有各种各样危险的东西,但我们不会让学区把它们直接放到孩子的课桌上。”
没人知道谷歌如何使用学生数据
与此同时,学校似乎也成了透明度问题的一部分。
Creswell表示,目前芝加哥学区“告诉我们,他们的官方说法是孩子们无法使用生成式AI工具,我们不需要在学区层面制定生成式AI政策,因为他们有指导手册。”然而,她查阅了Google与CPS的合同,发现这些合同表明孩子们正在与生成式AI和前沿模型进行交互。持续的混乱促使家长们要求制定“一项真正的政策”,该政策“由CPS董事会投票通过,并听取教师、家长、学生以及未受科技行业资助的专家的意见”。
Creswell告诉Ars,家长们尤其不满的是,Google在处理和使用学生数据方面缺乏透明度。她通过《信息自由法》请求对Google合同进行了详尽研究,并告诉Ars,她审查的数十份协议均未说明Google——以及Anthropic和OpenAI——等CPS合作伙伴如何处理学生数据。尽管她理解Google将AI不可分割地融入搜索“可能只是对事实的诚实陈述”,但她说,家长有权知道他们孩子的数据是如何被输入Google模型的。
“关于他们收集了什么数据、如何处理这些数据,任何形式的透明度都完全缺失,”Creswell说。而且“目前非常不清楚哪些数据被保存了。”
在Creswell和其他倡导者看来,孩子们的数据似乎无论如何都会被收集,因为“即使你加上‘-AI’,没有得到文本摘要,你的搜索数据以及返回的内容基本上都进入了生成式AI模型内部。”尽管伊利诺伊州法律只允许对去标识化数据进行商业使用,但家长们认为Google应该明确解释它采取了哪些措施来确保数据无法被重新组合以重新识别孩子。
家长:不得用学童数据训练AI
Ars联系了Google,询问该公司能否澄清Creswell的解读是否准确,或者在单个查询中添加“-AI”与构建一个自动为每个查询添加“-AI”的按钮之间是否存在任何有意义的区别。Google没有澄清,而是强调学校将控制学生能否访问Gemini应用、Gemini Notebook和搜索,并可以选择单独关闭每一项,但没有在不使用AI的情况下使用搜索的选项。
Emma Doe的诉讼指控Google利用其自2007年以来在学校占据的主导地位,向孩子们推销AI并攫取他们的数据,却没有切实保护他们免受其聊天机器人谄媚式设计最严重潜在危害的影响。Creswell发现,在芝加哥,CPS于2020年与Google签署了一份合同,“远在Gemini推出之前”。在该合同随后的两次续约中,随着AI的发展,没有引入任何保护学生隐私的更新。
在Creswell看来,除了Google Workspace for Education的隐私政策更新之外,合同中“完全不清楚”Google对学生数据的处理可能发生了哪些变化。
目前,该政策规定“我们通过核心服务接收客户数据,并按照学校(即客户)的指示处理这些数据。这些客户数据包括您或您的学校通过核心服务提交、存储、发送或接收的任何内容。”该政策称,谷歌会收集这些活动数据,以及“姓名、电子邮件地址和密码”等账户信息和位置信息。
该政策没有提及 Gemini,但指出使用核心服务产生的数据有助于维护服务、改进个性化并提升安全性。并且“我们在附加服务中收集的数据会跨服务使用,用于交付、维护和改进我们的服务;开发新服务;提供个性化服务;衡量绩效;与您沟通;以及保护谷歌、我们的用户和公众。”
对于家长来说,该政策并没有让他们放心,无法保证孩子的数据不会被纳入谷歌主导 AI 行业的计划。
“我们不应该让在学校环境中收集的任何儿童数据被用于商业目的,”克雷斯韦尔说。
“我们心智的未来呢?”
克雷斯韦尔指出,家长们的隐私担忧不仅限于谷歌。但由于谷歌已经“占据了教育领域和教育体验的如此多部分”,家长们正把精力集中在尽早质疑学校中的这些 AI 系统上。
在芝加哥,最近连任的芝加哥公立学校董事会成员凯伦·扎科尔正推动学校暂停使用 AI。此前她与城市和社区大学交流,得知从芝加哥公立学校毕业的学生在阅读、数学和写作技能上出现了据称明显的下滑。在艾玛的案例中,谷歌据称隐瞒了聊天记录,学校也扣留了安全日志,这让本就认为 AI 在教育中弊大于利的家长们更加沮丧。
阿什利·贝朗格
阿什利·贝朗格
芝加哥公立学校学生里斯·麦基(中左)为学生发声。
阿什利·贝朗格
在周三的谷歌抗议活动中,家长们挥舞着威胁将谷歌赶出学校的标语,口号包括“不要谷歌 + 不要 AI = 双赢”。许多孩子借用《瘪四与大头蛋》和《南方公园》等节目中的卡通角色,抨击谷歌在学校引入 AI 的做法看似 cynical。一个穿粉色雨靴的小女孩举着纸板标语,用彩色马克笔写着:“我喜欢阅读!!”
活动高峰时,约有 60 人站在谷歌芝加哥市中心办公室外,冒着雨聆听反对鲁莽采用 AI 的教师和学生发言。
其中一场特别感人的演讲来自芝加哥公立学校学生里斯·麦基,她为学生发声。她挑战谷歌,要求其更仔细地权衡将 AI 激进地推给学生所带来的长期危害——谷歌声称不掌握 AI 技能的学生将被落下、难以找到工作。克雷斯韦尔告诉 Ars,事实似乎恰恰相反,因为艾玛·多伊的诉讼指向的研究将 Gemini 称为“面向青少年营销的最危险产品”,并“证实了 AI 诱发精神病的存在”。
“我们青年的未来呢?”麦基说。“我们心智的未来呢?”
Ashley 是 Ars Technica 的资深政策记者,专注追踪新兴政策与新技术带来的社会影响。她常驻芝加哥,有 20 年从业经验。
来源:Ars Technica · arstechnica.com








