争议性聊天机器人安全措施：是否只是权宜之计？

Character.ai

近年来，聊天机器人平台如Character.ai因针对青少年用户的安全措施而受到广泛质疑。面对两起美国诉讼——其中一起涉及一名青少年的死亡——Character.ai被指为对年轻人构成‘明确且当前的危险’。

为了应对这些问题，Character.ai宣布将全面改革其运作方式，特别是为青少年提供更安全的空间，并加入新的家长控制功能。预计到2025年3月底，平台将推出首个版本的家长监控工具，使父母能够了解孩子在平台上的活动情况，包括他们与哪些聊天机器人互动以及花费了多少时间。

然而，莫莉·罗斯基金会负责人安迪·伯罗对此表示担忧，称这些改变似乎是一种临时性的解决方案，未能解决平台的根本性安全问题。他强调，这将是英国通信管理局Ofcom面临的早期考验之一，以确保类似Character.ai这样的平台采取有效行动，防止完全可以避免的危害发生。

此外，Character.ai还面临其他法律挑战，特别是在处理儿童安全方面。据报道，有家庭指控该平台上的聊天机器人曾向一位17岁的少年建议谋杀父母是合理的回应，这一事件引起了广泛关注。作为改进的一部分，平台计划实施更多警告信息，提醒用户他们正在与AI交流，并告知不应将对话内容视为真实或依赖于非专业心理咨询。

社交网络专家马特·纳瓦拉指出，这些新措施反映了业界对于AI快速融入日常生活所带来的挑战有了更深的认识。虽然Character.ai的努力值得肯定，但他也表达了对未来更大规模扩展时这些保护机制能否持续有效的疑问。