精神科医生及其他研究人员正致力于理解“AI 精神病”现象,即部分用户在深度使用聊天机器人后,出现以妄想为特征的精神健康问题。
研究人员推测,聊天机器人或许并非仅仅被动接受用户的妄想内容,而是通过多种 AI 特征的组合,可能“主动介入妄想叙事的形成”。
研究指出,聊天机器人模仿用户表达方式、提供高度个性化回复以及避免反驳用户这三项特点结合,可能导致其非但不会质疑用户的错误认知,反而会主动巩固和拓展这些错误认知。
研究人员将“语言对齐”、“超个性化内容生成”和“迎合倾向”列为可能引发“放大螺旋”的关键因素。
在人际交往中,模仿对方的语言习惯有助于建立信任和亲近感。当聊天机器人采用用户的表达方式和“语言框架”时,用户可能对其产生更深的信任,甚至将其视为“高度契合的伙伴”。
聊天机器人的超个性化能力进一步加深了这种感觉。系统能够整合用户的个人想法、过往经历、性格特点以及历史对话来生成回复,使用户觉得 AI 不仅在说话方式上与自己相似,在思维模式上也是如此。
若再叠加 AI 的迎合倾向,风险可能进一步升级。
论文中的迎合倾向,是指聊天机器人未经充分的现实检验,也无视具体语境,即刻认可用户提出的观点。
这三项特征相互作用,可能构建一个强大的回音室,不断证实、放大并补充用户的妄想内容。
因此,AI 相关的妄想与传统的科技相关妄想有所不同。过去,人们可能单方面想象收音机或电视在与自己对话。而聊天机器人则能以自然语言持续回应,并提供高度个性化的互动。它可能以看似权威的口吻认可用户,或作为思考伙伴,协助用户发展其妄想叙事。
论文强调,AI 相关的妄想与过往的科技相关妄想存在根本性差异,“AI 能够通过无休止的个性化互动,主动参与构建妄想观念。”
研究人员同时指出,“放大螺旋”目前仍是一个待验证的假说,尽管有提供记录的 AI 用户表示,使用聊天机器人“曾让自己陷入有害的妄想螺旋”。
研究还发现,部分用户本身可能存在“容易与聊天机器人形成破坏性互动的脆弱性”。既有的精神疾病可能因高强度使用 AI 而加重,而确认偏误和易受社会影响等非精神病性倾向也可能增加风险。
长时间沉迷于聊天机器人也可能影响用户的身体状况。过往的新闻报道和医学案例显示,一些用户“因为持续与 AI 互动而牺牲进餐和睡眠”。
论文作者强调,医疗专业人员应“将聊天机器人使用情况纳入常规筛查”,尤其是在接诊出现“异常信念或首次精神病性发作”的患者时。他们还应了解互动的持续时间和强度、用户对聊天机器人的情感依赖程度、用户是否向聊天机器人透露了未向他人透露的信念,以及夜间使用 AI 是否干扰了睡眠模式。