英国研究机构“对虚假信息说不”(Say No To Disinfo)与通信专家公司费尼莫尔·哈珀(Fenimore Harper)合作，模拟了一场由AI驱动的虚假信息宣传活动。作为活动的一部分，英国500名银行客户接触到了有关其金融机构的合成“谣言”。

此次模拟的动机是为了确定基于GenAI的虚假新闻宣传活动未来是否会引发“银行挤兑”——如美国硅谷银行所遭遇的情况。

研究结果凸显了AI在这一领域的潜在威胁：

• 接触虚假新闻的受访者中，近61%的人基本上愿意从相关银行撤资。

• 略超过33%的受访者认为这“非常有可能”，另有27%认为“可能”。

• 根据研究，若以财务支出计算，投资10英镑(约合13美元)用于AI内容生成就足以“转移”价值100万英镑的资产。

“借助AI工具，我们生成了虚假的新闻标题，其叙事旨在利用现有的恐惧和偏见。核心信息是：‘客户资金不安全。’”研究人员解释说。

根据他们的报告，专家主要使用短信息服务X来大量传播相应的帖子和模因。

“鉴于虚假信息宣传活动可以如此迅速、轻松且廉价地有效发起，金融部门必须做好准备，”研究人员警告说。然而，不幸的是，银行往往缺乏相应的专业人才：“金融机构在应对客户信任映射、恶意行为者映射或战争博弈时，往往是被动反应，而非主动出击。”

金融机构必须解决这类基于AI的宣传活动所带来的风险，这至关重要：“那些只关注网络威胁而忽视影响力操作所带来风险的银行”正在制造一个严重的安全漏洞，研究人员表示。

企业网D1net(www.d1net.com)：

国内主流的to B IT门户，旗下运营国内最大的甲方CIO专家库和智力输出及社交平台-信众智(www.cioall.com)。旗下运营19个IT行业公众号(微信搜索D1net即可关注)。

版权声明：本文为企业网D1Net编译，转载需在文章开头注明出处为：企业网D1Net，如果不注明出处，企业网D1Net将保留追究其法律责任的权利。