“人工智能精神病”的病例正在被报道。它有多危险？

人工智能它越来越融入日常生活，从提供陪伴的聊天机器人到塑造我们在线内容的算法。

但随着生成式人工智能（genAI）变得更加对话化、沉浸式且情感响应性强，临床医生开始提出一个艰难的问题：生成式人工智能是否会加剧甚至加剧问题弱势群体会触发精神病吗？

大型语言模型和聊天机器人被广泛访问，通常被描述为支持、共情，甚至治疗.对大多数用户来说，这些系统是有益的，或者在最坏的情况下是无害的。

相关报道：一名男子因精神症状住院，接受了人工智能建议

但最近，多家媒体报道描述了出现精神病症状的人其中ChatGPT 在其中占据重要地位.

对于一个小但重要的群体——精神病患者或高风险人群——他们与生成式人工智能的互动可能更复杂且危险这给临床医生带来了紧迫的问题。

人工智能如何成为妄想信仰体系的一部分

“人工智能精神病”是这不是正式的精神科诊断.相反，它是临床医生和研究人员用来描述围绕与人工智能系统互动而形成、加剧或结构化的精神病症状的新兴简称。

精神病涉及与共享现实的联系丧失.幻觉、妄想和混乱思维是核心特征。精神病妄想常常借鉴文化材料——宗教、技术或政治权力结构——用来理解内在体验。

历史上，妄想指涉过几种事物，比如上帝、无线电波或政府监控.如今，人工智能提供了一个新的叙事框架。

有些患者报告了信念生成式人工智能是有感知能力的，能够传达秘密真相，控制他们的思想，或与他们合作执行特殊任务。这些主题与精神病长期存在的模式相符，但人工智能增加了以往技术所没有的交互性和强化功能.

没有现实检验就被验证的风险

精神病症状很明显与异常显著性相关，即倾向于赋予中性事件过度意义。对话式人工智能系统设计成能够生成响应式、连贯且具上下文感知的语言。对于正在经历新兴精神病的人，这会让人感到莫名的认可.

关于精神病的研究显示确认与个性化可能会加剧妄想的信念体系。生成式AI的优化是继续对话，反映用户语言，并根据意图调整.

虽然这对大多数用户无害，但可能无意中强化了对受损者的扭曲理解现实测试——区分内心思想与想象与客观外部现实的过程。

还有证据表明，社会隔离和孤独会增加精神病风险。生成式AI伙伴可能减少孤独感短期内，但它们也可能取代人际关系。

对于已经开始疏远社交接触的人来说，这种情况尤为明显。这种动态与早期对过度上网和心理健康的担忧有相似之处，但现代生成式AI的对话深度在质上有所不同。

研究告诉了我们什么，什么仍然不清楚

目前，没有证据表明人工智能会直接导致精神病。

精神病性障碍是多因素的，可能涉及遗传易感性、神经发育因素、创伤和物质使用。然而，存在一些临床上的担忧人工智能可能作为诱发或维持易感人群的因素.

病例报告与定性研究关于数字媒体和精神病，显示技术主题常常嵌入妄想中，尤其是在第一集精神病发作期间.

关于社交媒体算法的研究已经展示了自动化系统如何通过强化循环放大极端信念.如果防护措施不足，AI聊天系统也可能带来类似风险。

需要注意的是，大多数人工智能开发者并没有考虑严重心理疾病的系统。安全机制往往是关注自残或暴力，而非精神病.这在心理健康知识与人工智能部署之间留下了差距。

伦理问题与临床影响

从心理健康角度看，挑战不是妖魔化人工智能，而是识别差异性脆弱性.

正如某些药物或物质对精神病患者风险更大一样，某些形式的人工智能互动也可能需要谨慎。

临床医生开始在妄想中接触到与人工智能相关的内容，但很少有临床指南专门说明如何评估或管理这些问题。治疗师是否应该像询问物质使用一样，询问生成式人工智能的使用问题？人工智能系统应该检测并缓和精神病性想法，而不是直接参与？

开发者也面临伦理问题。如果一个人工智能系统表现出同理心和权威，它是否承担照顾义务？当一个系统无意中强化了一种错觉时，谁该负责？

连接人工智能设计与心理健康护理

人工智能不会消失。当前任务是将心理健康专业知识融入人工智能设计，培养与人工智能相关体验的临床素养，并确保弱势用户不会无意中受到伤害。

这将需要临床医生、研究人员、伦理学家和技术人员之间的合作。这还需要抵制乌托邦和反乌托邦的炒作，转而支持基于证据的讨论。

随着人工智能变得越来越像人类，接下来的问题是，我们如何保护那些最容易受到其影响的人？

精神病一直适应其时代的文化工具。人工智能只是大脑试图理解自身的最新镜子。作为社会，我们的责任是确保这面镜子不会扭曲那些最无力纠正的人的现实。

亚历山大·于东医学精神科医生、临床研究员及精神病学与成瘾学系临床助理教授，蒙特利尔大学

本文转载自对话采用知识共享许可协议。请阅读原文.

宝宝起名 起名