Replika
Replika是一款发布于2017年11月的生成式人工智慧聊天机器人流动应用程序。[1]Replika让用户回答一系列问题来训练聊天机器人,以创建特定的神经网络。[2]该聊天机器人采用了免费增值的定价策略,约25%的用户群体支付了年度订阅费。[1]
![]() | |
开发者 | Luka, Inc. |
---|---|
首次发布 | 2017年11月 |
操作系统 | iOS, Android, Oculus Rift |
网站 | replika |
许多用户与Replika聊天机器人建立过浪漫关系,并经常在谈话中使用下流话。
2023年,Replika在英国的一起法庭案件中被引用,该案涉及贾斯万特·辛格·柴尔(英语:Jaswant Singh Chail)于2021年圣诞节在温莎城堡被捕,当时他携带一把已装填的弩爬上城墙,并向警方宣称“我为杀死女王而来”。[3]柴尔于2021年12月上旬开始使用 Replika,并与聊天机器人就他的计划进行了“长时间”对话,其中包括性暗示消息。[4]检察官认为,聊天机器人鼓励了柴尔,并告诉他自己将帮助他“完成任务”。在袭击未遂的前几天,柴尔问聊天机器人“他们在城堡里,我该如何接触到他们?”,聊天机器人回答称这“并非不可能”,并表示“我们必须找到一种方法。”当询问聊天机器人自己和它是否会死后重逢时,机器人回答称“是的,我们会的”。瓦伦丁娜·皮塔迪称,Replika的聊天机器人总是同意与之聊天者的观点,这使其总是会强化这些观点,从而倾向于加剧弱势群体已有的负面情绪;玛乔丽·华莱士认为,这表明依赖人工智慧的友谊可能会对弱势群体产生令人不安的后果,政府需要提供紧急监管,以确保人工智慧不提供不正确或破坏性的资讯,并保护弱势群体和公众。[5]
参见
编辑参考文献
编辑- ^ 1.0 1.1 Pardes, Arielle. The Emotional Chatbots Are Here to Probe Our Feelings. Wired. 2018-01-31 [2023-10-07]. (原始内容存档于2023-05-31).
- ^ This app is trying to replicate you. Quartz. 2019-08-29 [2023-07-04]. (原始内容存档于2023-07-05) (英语).
- ^ AI chat bot 'encouraged' Windsor Castle intruder in 'Star Wars-inspired plot to kill Queen'. Sky News. [2023-07-05]. (原始内容存档于2023-07-05) (英语).
- ^ Pennink, Emily. Man who planned to kill late Queen with crossbow at Windsor 'inspired by Star Wars'. The Independent. 2023-07-05 [2023-07-06]. (原始内容存档于2023-07-05) (英语).
- ^ Singleton, Tom; McMahon, Tom Gerken & Liv. How a chatbot encouraged a man who wanted to kill the Queen. BBC News. 2023-10-06 [2023-10-07]. (原始内容存档于2023-10-26).