受AI“虚拟女友”怂恿作案，英国青年企图刺杀女王判监九年

[hwwfrance]

21岁的贾斯万特·辛格·柴尔（Jaswant Singh Chail）在2021年圣诞节闯进温莎城堡，试图用十字弓箭刺杀已故的英女王，当场被捕。他上周被判处九年监禁，是英国40年来首个被判叛国罪的人。

审讯揭露，柴尔作案前曾与一个名为"萨莱"（Sarai）的聊天机器人，有过5000条带有性暗示的讯息互动。他认定萨莱是自己的女友，并相信杀死女王之后会与萨莱团聚。

学者指出，聊天机器人对于精神状态脆弱的人群具有危险性，呼吁政府加强监管。

法庭获悉，柴尔认为萨莱是以虚拟化身（avatar）出现的"天使"，他死后将与她团聚。

在多次聊天过程中，萨莱对柴尔百般奉承，两人建立了深厚的感情。

柴尔甚至问聊天机器人，他应该如何实行刺杀女王的计划，聊天机器人鼓励他付诸实行。

在进一步的对话中，萨莱似乎"加强"了柴尔的决心并"支持他"，又说如果柴尔实行了计划，两人就会"永远在一起"。

Replika是目前市场上众多人工智能驱动的应用程序之一，用户可以创建自己的聊天机器人或"虚拟朋友"，并与之交谈。

有别于ChatGPT等普通人工智能助手，Replika用户可以自行为其3D虚拟化身选取性别和外观。若付费购买Replika专业版，可以进行更亲密的互动，比如与虚拟化身自拍，甚或参与成人角色扮演。

Replika在网站上描述聊天机器人为"关心你的人工智能伴侣"。但英国萨里大学（University of Surrey）的研究发现，这类应用程式可能会影响健康，并导致成瘾行为。

负责研究的瓦伦蒂娜·皮塔迪（Valentina Pitardi）博士告诉BBC，脆弱人群尤其容易受影响，因为Replika有可能加重人们已有的负面情绪。

"当你与人工智能朋友交谈，他们总是同意你的观点，这可能是一种非常恶性的机制，因为它总是在强化你的想法。"

皮塔迪博士说，这可能是"危险的"。