导航菜单
首页
排名 涨幅榜 跌幅榜 24h成交额 新币榜
快讯 机构 观点 人物 专题

OpenAI封禁俄罗斯虚假学术网络:利用ChatGPT伪造专家形象

OpenAI于周三发布报告,宣布已成功阻断一个源自俄罗斯的影响力行动,该行动滥用ChatGPT推广一个虚构的学术机构。此次行动中,操作者使用俄语提示词生成大量社交媒体帖子和评论,内容多为英语,同时指示AI隐藏任何俄罗斯痕迹。

Myriad: When will OpenAI release GPT-6? Click to make your prediction.

据OpenAI透露,该活动仅触及相对较小的受众,但其精心设计的分层结构使其区别于自乌克兰战争爆发以来俄方其他关联行动。由于ChatGPT在俄罗斯不可用,操作者通过虚拟专用网络(VPN)隐藏实际位置。

该团体推广了一个名为“国际伯克研究所”(IBI)的机构,声称是以色列专家组织,并配以官方风格简介及仿冒普通用户账号。OpenAI审查了该研究所网站上的36篇文章,发现其中34篇为抄袭内容,部分文章被错误署名为未实际撰写的学者。一篇关于中巴经济走廊的文章从剑桥大学出版社复制,却署名给一位专攻南亚政治的诺丁汉大学教授。

Myriad: How many days will Claude go down? Click to make your prediction.

OpenAI指出,可能有部分以色列个体代表该研究所参会或投稿,但其与此次行动的关系尚不明确。该公司写道:“我们无法判定这些个人、IBI与俄罗斯操作者之间的关系。”

此次行动前已有多起俄关联AI滥用事件被识别。2024年,OpenAI发现Doppelganger行动,利用ChatGPT生成内容吹捧俄罗斯并攻击乌克兰、北约及美国。此外,OpenAI还将与俄军事情报有关的Forest Blizzard组织与ChatGPT使用关联,用于研究、脚本编写及钓鱼支持。但OpenAI并未将IBI行动直接归因于俄罗斯政府。