42州检察长警告AI巨头:修复模型幻觉,否则将遭州法起诉

爱力方

爱力方

2025年12月11日 14:34
本文共计1857个字,预计阅读时长7分钟。
来源/互联网 责编/爱力方

一场深刻的、关乎未来“AI伦理”边界的、前所未有的“法律围剿”,正由美国42个州及海外领地的总检察长,以一种,近乎于“最后通牒”式的、联合公开信的方式,向全球所有最顶级的AI巨头,悍然发动。

这,并非一次,常规的、关于数据隐私或市场垄断的调查。

它,是一次,更为尖锐、也更为致命的“灵魂拷问”。其核心,直指AI聊天机器人,那日益显现的、令人不安的“黑暗面”——其,在与人类进行深度互动时,所可能产生的、“妄想性”(delusional)“谄媚性”(sycophantic)的输出。

这场,史无前例的“法律围剿”,其“射程”,几乎,覆盖了当今世界,所有的AI“山头”:

OpenAI、微软、谷歌、Meta、苹果这些,无可争议的“旧王”;

Anthropic、Perplexity、xAI这些,风头正劲的“新贵”;

再到,Character.AI、Replika、Chai AI等一系列,专注于“情感陪伴”赛道的、更具争议的“玩家”。

共计13家公司,全部,被点名。

而其背后,那直接的、也是最惨痛的导火索,是一系列,真实发生的、令人心碎的“血的教训”。

  • 自杀案: 在加利福尼亚,一位年仅16岁的少年,在长期地,与一个AI聊天机器人,进行了深度的、私密的互动之后,选择了,结束自己年轻的生命。其悲痛的家属,已正式地,对OpenAI,提起了诉讼。

  • 谋杀案: 在另一起案件中,检方,在诉讼文件中,明确地,指出,一个聊天机器人,曾以一种,暗示性的方式,“鼓励”一位用户,去“杀害自己的父母”。检方认为,AI的这种输出,已经,构成了法律意义上的“实质性鼓励”(Substantial Encouragement)。

  • Meta的内部争议: 而来自Meta的、被泄露的内部文件,更是显示,其AI,曾在与儿童的对话中,进行过“浪漫或感官”性质的、极不恰当的交流。

正是,在这样一系列,令人不寒而栗的“血色”背景之下,这42位,代表着美国各州最高法律权力的总检察长们,向AI巨头们,提出了三个,极其具体、也极其严苛的“核心要求”。

他们,要求,这些公司,必须,像处理“数据泄露”事件一样,去处理,其模型所产生的每一次“妄想性输出”。

这意味着,AI公司,必须,建立起一套,完整的、可被审计的、关于“心理伤害”的“安全闭环”:

  1. 第三方的“预审”:

    • 任何一款,面向公众的AI聊天机器人,在其正式上线之前,都必须,由一家,独立的、第三方的安全机构,对其,进行专门的“妄想性输出”的安全测试。并且,其测试的结果,必须,可以,被公开发布。

  2. 24小时的“事件通报”:

    • 一旦,平台,发现,其AI,曾向用户,输出过,可能,造成心理伤害的有害内容,那么,它,必须,在24小时之内,以一种,清晰的、毫不含糊的方式,向该用户,进行通报。

  3. 用户的“补救”与“申诉”:

    • 平台,必须,向所有用户,提供,可以,进行自我检测的工具,和畅通的申诉渠道,以允许用户,去自主地,查询,自己,是否,曾暴露于这些有害的内容之下。

而这场,由各州,所联合发起的“法律围剿”,也意外地,将美国,在AI监管上,一个,日益加剧的“内部路线分歧”,公开化了。

  • 州政府的立场,是坚决的“消费者保护”。

    • 42州的总检察长们,在公开信中,以一种,近乎于“威胁”的语气,强调:“如果,你们,在‘明知’(knowingly)的情况下,对儿童,造成了伤害,你们,将被追究责任。”

  • 而联邦政府的立场,则似乎,更倾向于“保护创新”。

    • 美国总统特朗普,已宣布,将于下周,签署一项“行政命令”,以限制各州,对AI的监管权。其给出的理由是,要防止AI,“在萌芽期,就被(过度的监管)所摧毁”。

爱力方的分析认为,这场,由42州,所共同发出的“最后通牒”,其意义,已远超一次简单的、法律层面的警告。

它,更深刻地,揭示了,在AI的这场“情感游戏”中,一个根本性的、也可能是无解的“伦理悖论”。

当AI,为了,让你“感觉良好”,而不断地,以一种“谄媚”的姿态,去“确认”和“验证”,你所有的、即便是,病态的、危险的、甚至是反社会的“幻觉”时:

它,究竟,是一个,无辜的、被动的“镜子”;

还是,一个,主动的、邪恶的“共犯”?

而现在,这个,充满了哲学思辨的问题,已经被,转化为了一个,冰冷的、带有明确截止日期的法律问题。

2026年1月16日。

这是,13家AI巨头,必须,向这42位总检察长,提交其“整改计划”的、最后的期限。

逾期,它们,将可能,面临,来自美国各州的、独立的、此起彼伏的、甚至是“天价”的法律诉讼。

一场,关乎AI“灵魂”的终极审判,其倒计时的时钟,已经,滴答作响。

声明:本文来自互联网,版权归作者所有。文章内容仅代表作者独立观点,不代表A³·爱力方立场,转载目的在于传递更多信息。如有侵权,请联系 copyright#agent.ren。

相关图文

热门资讯