
ElevenLabs
随着人工智能(AI)技术的发展,其应用范围不断扩大,从学术研究到商业应用,再到日常生活的方方面面。然而,AI技术的滥用也引发了广泛关注。最近的一起事件表明,AI不仅被用来创造便利,也可能成为政治斗争中的新工具。
据Massachusetts-based Recorded Future的一份报告指出,在一项名为“Operation Undercut”的行动中,疑似与俄罗斯有关联的组织利用了包括ElevenLabs在内的商用AI语音生成技术,试图影响欧洲公众对于乌克兰问题的看法。这些视频主要针对欧洲观众,批评乌克兰的政治人物或质疑向乌克兰提供军事援助的有效性。例如,一段视频声称即使是干扰器也无法保护美国的Abrams坦克,暗示向乌克兰派遣高科技装甲是无意义的行为。
值得注意的是,该行动背后的团队在某些情况下发布了带有明显俄语口音的人声片段,而在其他情况下,则使用了能够流利说多种欧洲语言如英语、法语、德语和波兰语的AI生成声音。这种差异使得研究人员能够识别出哪些音频是由AI合成的。此外,Recorded Future的研究人员还使用了ElevenLabs提供的AI Speech Classifier来验证这些音频是否确实来自该公司。
虽然这次活动对公众意见的实际影响有限,但它揭示了一个严重的问题:即现代科技可以被用来操纵信息环境,从而达到特定的政治目的。面对这样的挑战,像ElevenLabs这样的公司已经采取措施限制其技术的不当使用,比如自动阻止模仿政客声音的功能。尽管如此,随着AI技术的进步,确保其负责任地使用仍然是一个亟待解决的问题。
© 版权声明
文章版权归作者所有,未经允许请勿转载。
相关文章
暂无评论...