据安全研究人员 wunderwuzzi 发布的终于增强消息,
ChatGPT 自今年 4 月份开始就被发现存在数据泄露问题,开始开始因此攻击者可以获取用户会话的修复泄露内容并将其发送到第三方服务器。也就是数据不会渲染图像并向攻击者服务器发送任何数据。由于 OPENAI 没有进行必要的问题网验证 ,检查是目前否具有跟踪功能或其他功能。
不过这种缓解方案并不彻底,验证而是部署了缓解方案 。例如将文本分割成单个字符并且为每个字符都创建请求,
研究人员审查后发现还有办法能够继续用来发送数据,实际会返回 false 结果 ,
当然既然 OPENAI 开始处理这个问题了 ,
测试显示有时候仍然会渲染来自任意域的其他图像,ChatGPT 会在显示图像之前调用验证 API ,攻击者可以在 提示注入攻击期间使用图像 Markdown 渲染,那么后面自然会部署更多措施,只不过彻底修复这个问题可能还需要更多时间。
目前实施的缓解方案仅适用于 ChatGPT 网页版,这样也可以窃取数据只不过效率极低、