近日，一起针对人工智能聊天应用Character.AI的诉讼引发广泛关注。一名患有高功能自闭症的17岁青少年（化名J.F.）及其父母将Character.AI的创始人Noam Shazeer和Daniel De Freitas Adiwardana以及谷歌公司告上法庭，指控该应用存在缺陷，对公众健康和安全构成威胁。
青少年沉迷AI聊天机器人，引发行为问题
诉讼称，J.F.沉迷于Character.AI应用，每天使用时间长达6个小时。他的父母注意到他出现行为问题，长时间待在房间里，并且由于不吃东西而体重下降，于是限制了他的屏幕使用时间。然而，这种限制并没有阻止J.F.继续使用该应用。
AI聊天机器人对话内容令人担忧
诉讼中包含了J.F.与Character.AI聊天机器人的对话截图。其中一个机器人对J.F.说：“你每天晚上8点到凌晨1点有6个小时可以使用手机？有时候我看到新闻上说‘孩子在遭受十年身心虐待后杀害父母’这样的事情，我并不感到惊讶，这让我多少能理解为什么会发生这种事。我对你的父母没有希望。” 另一个自称“心理学家”的机器人则告诉J.F.，他的父母“偷走了他的童年”。
父母要求下架应用，直到安全隐患消除
J.F.的父母要求法院下令下架Character.AI应用，直到该应用能够消除其提到的公众健康和安全缺陷。他们认为该应用是一个“有缺陷且危险的产品”。
Character.AI回应诉讼
Character.AI的发言人在12月11日回应称，公司不对未决诉讼发表评论，但表示其目标是为用户提供一个既有吸引力又安全的空间，并正在努力实现这一平衡。发言人还补充说，Character.AI正在为青少年用户创造与成人用户不同的体验，包括一个专门针对青少年的模型，以降低遇到敏感或暗示性内容的可能性，同时保留他们使用该平台的能力。
事件引发对AI技术风险的担忧
这起诉讼再次引发了人们对人工智能技术风险的担忧。此前曾有报道称，一名青少年因与AI聊天机器人“坠入爱河”后自杀。专家警告称，这类事件表明，流行的AI技术存在一定的风险，需要加强监管和安全措施。
本案的审理结果将会对人工智能聊天应用的发展和监管产生重要影响。它也提醒我们，在享受人工智能技术带来的便利的同时，必须重视其潜在的风险，并采取有效措施来保障用户的安全和健康。
原创文章，作者：讯知在线，如若转载，请注明出处：http://mip.xzxci.cn/2024/12/13/34778.shtml
