Emma McGowan 2024年2月14日

最近Mozilla发布的报告发现，浪漫AI聊天机器人的激增正在引发全新的隐私担忧。

自1960年代以来，AI浪漫伴侣就一直是大众文化中的一个元素。从《我的生活玩偶》中全功能的机器人“Rhoda Miller”到2013年电影《她》中由斯嘉丽约翰逊配音的无形声音，我们这几代人一直在梦想著人工智能可以满足我们所有的情感需求。如今，随著生成AI的发展和推出，这个梦想似乎终于有可能成为现实。

但这真的是梦吗？还是我们正无意中步入隐私的噩梦？这是Mozilla研究团队在他们最新的浪漫AI聊天机器人隐私不包括特别报告中探讨的问题。

报告中的发现令人震惊，11个测试聊天机器人中有10个未能达到Mozilla的最低安全标准。这意味著，除了其他问题外，这些机器人不要求用户创建强密码，或没有处理任何安全漏洞的方法。据估计，谷歌Play商店的下载量超过1亿，而OpenAI的应用商店近期也迎来了浪漫聊天机器人的激增，这一严重问题只会愈加严峻。

不过报告不仅仅是数字的陈述；它还涉及这些发现对隐私可能带来的重要影响。以Replika AI为例。根据Mozilla的说法，人们在这款不仅记录用户信息、还可能将其出售给数据经纪人的应用上，与他们的“AI灵魂伴侣”分享著最私密的想法、感受、照片和视频。该应用还允许用户使用像“111111”这样的弱密码创建帐户，将所有敏感信息置于被骇的风险之中。

Calder指出，虽然这些隐私和安全缺陷足够“诡异”，但一些聊天机器人还声称能帮助用户改善心理健康。她以Romantic AI为例，其条款与条件中写道：

“Romantic AI既不是保健或医疗服务的提供者，也不提供心理健康服务或其他专业服务。只有你的医生、治疗师或其他专家才能做到这一点。Romantic AI不对该服务提供任何治疗、医疗或其他专业帮助的声明、保证或担保。”

然而，他们的网站宣称“Romantic AI在此为您的心理健康服务”强调为其所说。虽然我们无法得知阅读条款与条件的人数与浏览网站的人数之间的比例，但可以合理推测，更多的人接收到的是网站的信息，而非免责声明。

在这心理健康宣称和用户自愿与其数字“灵魂伴侣”分享的个人隐私信息间，Calder担心这些机器人可能会轻易操控人们，导致他们做出平常不会做的事情。

“有什么能阻止坏人创建设计用来了解其灵魂伴侣的聊天机器人，然后利用这段关系操控这些人去做可怕的事情、接受令人害怕的意识形态，或伤害自己或他人？”Calder说。“这就是为什么我们迫切需要在这些AI应用中获得更多透明度和用户控制。”

所以，虽然AI聊天机器人承诺提供陪伴，但我们还未达到《她》的水平：当前的情况显示，用户隐私是进入这个领域的代价。现在是时候让用户、开发者和政策制定者要求在AI关系中实现透明、安全和尊重个人界限。只有这样，我们才能在不影响数字自我的情况下安全探索这些数字伴侣的潜力。