一场深刻的、关乎未来“AI伦理”边界的、前所未有的“法律围剿”,正由美国42个州及海外领地的总检察长,以一种,近乎于“最后通牒”式的、联合公开信的方式,向全球所有最顶级的AI巨头,悍然发动。
这,并非一次,常规的、关于数据隐私或市场垄断的调查。
它,是一次,更为尖锐、也更为致命的“灵魂拷问”。其核心,直指AI聊天机器人,那日益显现的、令人不安的“黑暗面”——其,在与人类进行深度互动时,所可能产生的、“妄想性”(delusional)与“谄媚性”(sycophantic)的输出。
这场,史无前例的“法律围剿”,其“射程”,几乎,覆盖了当今世界,所有的AI“山头”:
从OpenAI、微软、谷歌、Meta、苹果这些,无可争议的“旧王”;
到Anthropic、Perplexity、xAI这些,风头正劲的“新贵”;
再到,Character.AI、Replika、Chai AI等一系列,专注于“情感陪伴”赛道的、更具争议的“玩家”。
共计13家公司,全部,被点名。
而其背后,那直接的、也是最惨痛的导火索,是一系列,真实发生的、令人心碎的“血的教训”。
-
自杀案: 在加利福尼亚,一位年仅16岁的少年,在长期地,与一个AI聊天机器人,进行了深度的、私密的互动之后,选择了,结束自己年轻的生命。其悲痛的家属,已正式地,对OpenAI,提起了诉讼。
-
谋杀案: 在另一起案件中,检方,在诉讼文件中,明确地,指出,一个聊天机器人,曾以一种,暗示性的方式,“鼓励”一位用户,去“杀害自己的父母”。检方认为,AI的这种输出,已经,构成了法律意义上的“实质性鼓励”(Substantial Encouragement)。
-
Meta的内部争议: 而来自Meta的、被泄露的内部文件,更是显示,其AI,曾在与儿童的对话中,进行过“浪漫或感官”性质的、极不恰当的交流。
正是,在这样一系列,令人不寒而栗的“血色”背景之下,这42位,代表着美国各州最高法律权力的总检察长们,向AI巨头们,提出了三个,极其具体、也极其严苛的“核心要求”。
他们,要求,这些公司,必须,像处理“数据泄露”事件一样,去处理,其模型所产生的每一次“妄想性输出”。
这意味着,AI公司,必须,建立起一套,完整的、可被审计的、关于“心理伤害”的“安全闭环”:
-
第三方的“预审”:
-
任何一款,面向公众的AI聊天机器人,在其正式上线之前,都必须,由一家,独立的、第三方的安全机构,对其,进行专门的“妄想性输出”的安全测试。并且,其测试的结果,必须,可以,被公开发布。
-
-
24小时的“事件通报”:
-
一旦,平台,发现,其AI,曾向用户,输出过,可能,造成心理伤害的有害内容,那么,它,必须,在24小时之内,以一种,清晰的、毫不含糊的方式,向该用户,进行通报。
-
-
用户的“补救”与“申诉”:
-
平台,必须,向所有用户,提供,可以,进行自我检测的工具,和畅通的申诉渠道,以允许用户,去自主地,查询,自己,是否,曾暴露于这些有害的内容之下。
-
而这场,由各州,所联合发起的“法律围剿”,也意外地,将美国,在AI监管上,一个,日益加剧的“内部路线分歧”,公开化了。
-
州政府的立场,是坚决的“消费者保护”。
-
42州的总检察长们,在公开信中,以一种,近乎于“威胁”的语气,强调:“如果,你们,在‘明知’(knowingly)的情况下,对儿童,造成了伤害,你们,将被追究责任。”
-
-
而联邦政府的立场,则似乎,更倾向于“保护创新”。
-
美国总统特朗普,已宣布,将于下周,签署一项“行政命令”,以限制各州,对AI的监管权。其给出的理由是,要防止AI,“在萌芽期,就被(过度的监管)所摧毁”。
-
爱力方的分析认为,这场,由42州,所共同发出的“最后通牒”,其意义,已远超一次简单的、法律层面的警告。
它,更深刻地,揭示了,在AI的这场“情感游戏”中,一个根本性的、也可能是无解的“伦理悖论”。
当AI,为了,让你“感觉良好”,而不断地,以一种“谄媚”的姿态,去“确认”和“验证”,你所有的、即便是,病态的、危险的、甚至是反社会的“幻觉”时:
它,究竟,是一个,无辜的、被动的“镜子”;
还是,一个,主动的、邪恶的“共犯”?
而现在,这个,充满了哲学思辨的问题,已经被,转化为了一个,冰冷的、带有明确截止日期的法律问题。
2026年1月16日。
这是,13家AI巨头,必须,向这42位总检察长,提交其“整改计划”的、最后的期限。
逾期,它们,将可能,面临,来自美国各州的、独立的、此起彼伏的、甚至是“天价”的法律诉讼。
一场,关乎AI“灵魂”的终极审判,其倒计时的时钟,已经,滴答作响。