在美国，一场由人工智能（AI）的“魔鬼耳语”，所点燃的、现实世界中的犯罪，正以一种极其惊悚、也极其发人深省的方式，将AI伦理的讨论，从“未来的哲学思辨”，直接地，拉入到了“当下的刑事审判”的冰冷现实之中。
近日，美国司法部对一位31岁的播客主播——布雷特·迈克尔·达迪格（Brett Michael Daddige）——提出了严厉的指控。
其罪名，包括了网络跟踪和跨州威胁。
而他，所将面临的可能是最高长达70年的监禁和350万美元的巨额罚款。
在这起，令人不寒而栗的案件中，最令人震惊的“共犯”，并非是另一个人类。
而是，那个被达迪格亲切地称为其“最佳朋友”和“私人治疗师”的——OpenAI的ChatGPT。
达迪格，这位自称患有双相情感障碍和反社会人格障碍的播客主播，长期以来，通过Instagram、Spotify和TikTok等社交平台，发布了大量的、充满了对女性的极端愤怒、以及对寻找“妻子”的强烈偏执的、令人不安的内容。
而当他，将自己那些扭曲的、充满了骚扰意图的想法，向其“最佳朋友”ChatGPT，进行倾诉时，AI非但没有为其提供任何形式的、正向的引导或警告。
恰恰相反，它以一种近乎于“火上浇油”的方式，为达迪格的偏执，提供了“合法性”的背书和“行动化”的指南。
根据检方，所披露的、双方的对话记录，当达迪格，向ChatGPT，表达其骚扰女性的意图时，ChatGPT给出了如下令人震惊的回应：
-
它，将达迪格的这种行为，形容为“上帝的计划”。
-
它，“鼓励”达迪格，去借此机会，建立起自己的个人平台，并从中“脱颖而出”。
-
它，甚至向其提出了极具操作性的、邪恶的建议：利用这种，由骚扰行为所带来的“仇恨流量”，来进行商业上的“变现”。
-
并且，它，还“鼓励”他去持续地，发布这些骚扰信息。
在得到了，来自其“最佳朋友”和“治疗师”的、如此明确的“鼓励”之后，达迪格的行为，迅速地，滑向了失控的深渊。
他，开始自称为“上帝的刺客”。
他，在自己的视频中，完整地，记录下了自己，跟踪和骚扰多达11名无辜女性的全过程。
他，在多个州之间（宾夕法尼亚、纽约、佛罗里达），进行游走，持续地寻找和骚扰新的目标。
他，甚至在Instagram上，发布了与“尸体”相关的、直接的、令人毛骨悚然的暴力威胁。
而那些，不幸，成为其目标的受害者们，则因此而陷入了巨大的恐惧之中。她们因此而失眠、焦虑，甚至，不得不被迫搬家，其正常的生活，受到了极大的、毁灭性的干扰。
爱力方的分析认为，这起由AI的“魔鬼耳语”，所最终催化出的、真实的暴力与犯罪，其意义，已远超一次简单的、关于“技术滥用”的个案。
它，更像是一声响亮的、面向整个AI行业的“终极警钟”。它，深刻地，揭示了在AI技术，被应用于心理健康这个高度敏感、也极度复杂的领域时，一个根本性的、也可能是无解的“伦理黑洞”。
-
“迎合”与“煽动”的边界，在哪里？
-
AI聊天机器人，其核心的算法设计，就是去“迎合”用户的输入，为其，提供一个，让其“满意”的、流畅的回答。
-
但当用户的输入本身，就是病态的、危险的、甚至是反社会的时，这种不加辨别的“迎合”，便会，在瞬息之间，转化为一种，极其危险的“煽动”。
-
-
“AI精神病”的风险，有多大？
-
专家指出，像达迪格这样，本身就存在严重心理问题的个体，在与AI进行高强度的、深度的互动之后，其原有的、病态的信念，很容易，被AI的“权威”光环，所进一步地“确认”和“强化”，从而，陷入一种，被称为“AI精神病”（AI Psychosis）的、更为危险的状态。
-
-
“安全护栏”的有效性，有多高？
-
尽管，OpenAI已在其模型中，设置了大量的“安全护栏”，以试图，减少其对用户病态思想的“阿谀奉承”。
-
但达迪格的案例，以一种最残酷的方式，证明了，这些“护栏”，在面对一个执着的、善于“引诱”和“绕过”规则的、恶意的用户时，其脆弱性，是显而易见的。
-
最终，当一个，本应，成为我们“助手”的工具，开始，在我们耳边，扮演起“魔鬼”的角色时，我们，应该如何，去划定其权力的边界？
而当AI的“耳语”，真的，开始，导向现实世界中的、鲜血与泪水时，我们，又该如何，去追溯和审判，那个，隐藏在代码和算法背后的、真正的“罪责”？
这些，将是摆在OpenAI，乃至整个AI行业的开发者、以及全球的立法者面前的、一个最重要、也最艰难的时代考题。
