微软:中国计划利用人工智能生成的虚假信息干扰选举

北京预计将加大对2024年几个重要选举进行复杂的人工智能生成的虚假信息宣传,以影响选举结果,这是根据微软的威胁情报团队的说法。

微软警告称,得到中国政府支持的网络黑客组织,以及朝鲜的参与,今年“可能会针对”美国、韩国和印度等国家的总统和立法选举。他们的主要策略预计是在社交媒体上创作和传播人工智能生成的内容,以“有利于他们在这些选举中的立场”。

微软在上周发布的报告中警告说:“虽然这种内容对于影响受众的影响仍然较低,但中国在增加模因、视频和音频方面的实验将继续进行,并且可能在未来证明有效。”

该公司引用了中国最近在台湾1月的总统选举期间利用人工智能合成的虚假信息进行的“试运行”,将其视为这种新兴威胁的前兆。微软评估称,一个名为Storm 1376或Spamouflage Dragon的亲北京组织是第一个有记录的国家行为者试图利用人工智能制造的内容影响外国选举的尝试。

中国支持的行动人员采取的策略包括发布“可能由人工智能生成”的虚假音频剪辑,描绘一位前总统候选人支持对手,以及人工智能生成的模因,对最终获胜的亲主权候选人赖清德提出无根据的腐败指控。该组织还制作了人工智能生成的“新闻主播”,播放关于赖清德个人生活的虚假信息。

“随着印度、韩国和美国的人口走向投票站,我们可能会看到中国的网络和影响行动者,以及在某种程度上的朝鲜网络行动者,努力针对这些选举,”微软的报告中写道。

该公司还补充说,中国组织已经试图通过策划社交媒体运动来了解美国的分裂问题和投票群体,可能是为了“在美国总统选举之前收集关键选民群体的情报和精确信息。”

微软在提醒风险的同时,承认到目前为止,人工智能支持的虚假信息在全球范围内塑造公众舆论方面取得了有限的成功。但它警告说,北京对这项技术的不断投资和日益增长的技术复杂性对全球民主选举的完整性构成了不断升级的威胁。

(照片由Element5 Digital提供)

另请参阅:如何保护企业免受人工智能生成的深度伪造的影响

想要从行业领导者那里了解更多关于人工智能和大数据的知识吗?请查看AI & Big Data Expo在阿姆斯特丹、加利福尼亚和伦敦举办的活动。这个综合性的活动与其他领先的活动同时举办,包括BlockXDigital Transformation WeekCyber Security & Cloud Expo

探索由TechForge提供的其他即将举行的企业技术活动和网络研讨会这里

标签: