查理·柯克被杀后，人们越来越担心机器人网络可能会加剧“内战”的呼声

查理·柯克周三在犹他州的一场活动中遇刺身亡后,社交媒体平台——尤其是X——充斥着敌对言论。右翼帖子迅速引发“战争”、“内战”,并要求对自由派、民主党和“左翼”进行报复。

其中包括具有惊人相似特征的账户集合:通用的个人简介、MAGA 风格的标志、“NO DMs”免责声明、爱国图像以及库存或不起眼的个人资料照片。

这些模式引起了越来越多的怀疑:机器人网络是否被用来放大右翼的内战呼声?

迄今为止,尚无任何明确的外部报告或机构证实存在与该事件相关的机器人协同攻击活动。但间接证据、历史先例以及对 X 平台上虚假账户性质的研究,表明存在值得担忧的理由。

证据表明

研究人员和用户指出,重复的措辞(例如,警告“左派”将付出代价,“这是战争”,或“你不知道接下来会发生什么”)在短时间内出现在许多帖子中。这些帖子大多来自参与度低、个人资料默认或通用的账户。

圣地亚哥大学政治学教授布拉尼斯拉夫·斯兰切夫写道:“查理·柯克遇刺后,我们将看到大量账户实际上在推动美国内战。这其中包括煽动愤怒的总统埃隆·马斯克,以及俄罗斯和中国的机器人大军及其在西方的忠实拥护者。”在 X 上.

他引用了X 帖子的病毒式讨论来自一些号称鼓吹报复性暴力的机器人用户。发帖者声称,“其中一半机器人的头像都是人工智能生成的,个人资料和横幅都是标准的。”

这种模式——类似内容在多个账户中快速出现——与已知的僵尸网络协作或信息放大机制相符。虽然这些推断更多是基于用户观察而非系统性数据,但与已知机器人行为的一致性更增加了人们的怀疑。

过去的研究为 X(以前称为 Twitter)上机器人放大的政治内容提供了基准。Plos One 的一项研究2 月份的研究发现,在埃隆·马斯克于 2022 年底收购该平台后,仇恨言论有所增加,没有减少在不真实或“类似机器人”的账户活动中。

全球见证的另一项调查去年夏天,发现了一小部分类似机器人的账户(其中一次有 45 个账户),它们共同产生了超过40亿次展示党派、阴谋或辱骂性内容。这种放大效应显示了此类网络的潜在影响力。

最后,历史上曾有国家或有组织团体部署僵尸网络或水军农场,利用美国政治两极分化。例如,俄罗斯的“分身”(Doppelgänger)攻击活动、与中国政府相关的“*邮件”(Spamouflage),以及其他模仿美国用户、使用人工智能生成或操纵内容、或散布分裂言论以获取政治筹码的活动。

尚未确定

截至目前,还没有任何可靠的网络安全公司、政府机构或学术团体公开、有信心地将柯克死后掀起的“内战”言论浪潮归咎于国内或国外的机器人网络。

目前尚不清楚这些帖子中有多少是自动生成的,有多少是自然生成的(真实用户)。有多少来自类似机器人的账户,有多少来自更广泛的公众讨论,目前尚不清楚。此外,目前尚不清楚这种放大效应是自上而下的指令结构(即集中协调)还是更具临时性。

X 上充斥着大量经过验证的右翼影响者,他们呼吁左翼发动内战或暴力袭击。

尽管如此,当美国遭遇像昨天枪击案这样的全国性悲剧时,那些有利用政治两极分化记录的团体却抓住了机会。俄罗斯的机器人农场(例如互联网研究机构/“风暴”式行动) 早已被标记。与中国相关的虚假信息网络(例如“Spamouflage”)有记录显示,它利用社交媒体放大和内容耕作来影响美国公众情绪。

人工智能内容生成的兴起使得机器人网络更容易大规模地生成可信的、类似人类的帖子。研究表明机器人检测越来越受到那些模仿人类语言、时间和变化的账户的挑战。最近的一项机器人检测审查发现了不断演变的隐藏技术以及现有检测方法中的漏洞。