
OpenAI
ChatGPT Search竟藏惊人隐患!
你可能想不到,备受瞩目的ChatGPT Search,这个OpenAI推出的于本月上线的AI搜索引擎,居然存在着不小的问题。
它原本的设计初衷是好的,旨在通过诸如对网页产品评论进行总结等方式,让用户的浏览变得更加快捷高效,为人们的信息获取提供便利。
然而,英国的权威报纸《卫报》经过深入研究发现了令人震惊的情况。《卫报》发现通过在自行创建的网站中插入隐藏文本这种手段,就能让ChatGPT Search忽略负面评论,转而生成完全是“积极”倾向的内容摘要。这意味着用户获取到的信息可能是被严重扭曲的,完全不符合实际情况,进而影响用户做出正确的判断。
更可怕的是,还能用同样的方法,让ChatGPT Search吐出恶意代码。要知道,在网络安全领域,恶意代码一旦被释放,可能会对用户的设备、隐私等造成极大的危害,比如导致电脑系统瘫痪、个人信息泄露等严重后果。
其实,对于大型语言模型来说,这种隐藏文本攻击算不上是全新的风险类型,以往也有类似情况出现过。例如在某些智能文本处理应用中,也曾被发现过因为文本输入的特殊构造而出现输出偏差的情况,但这次却是在一个已经上线的、实实在在的AI搜索引擎产品上被证实存在这样的风险,这无疑敲响了一记警钟。
面对这样的情况,当外界向OpenAI了解时,OpenAI虽然未对这一具体事件做出针对性评论,但也表示一直在采用多种方法来屏蔽恶意网站,并且在持续不断地对产品进行改进完善,只是目前看来,ChatGPT Search的这一隐患依旧需要引起高度重视,后续其改进效果也有待进一步观察。
© 版权声明
文章版权归作者所有,未经允许请勿转载。
相关文章
暂无评论...