OpenAI已采取果断行动，禁止了一组与伊朗影响力行动有关的ChatGPT账户。正如该公司在一篇博客文章中解释的那样，这些账户发布了人工智能制作的有关美国总统选举的材料。这次行动包含文章和社交媒体帖子，似乎范围很小。
这不是第一次有国家附属机构试图滥用OpenAI的ChatGPT。今年5月，该公司阻止了五次不同的尝试，即通过人工智能机器人发布的虚假媒体文章来影响公众。这些努力是国家行为者利用新技术试图塑造政治进程的更广泛模式的一部分。
OpenAI迅速应对新出现的威胁
早些时候，这些团体使用脸书和推特作为他们的主要社交媒体平台。然而，生成式人工智能现在被用来用虚假信息淹没社交媒体平台。为了应对这些威胁，OpenAI一直很快，类似于我们在社交媒体平台上看到的“打地鼠”方法。随着与此类活动有关的账户曝光，它们立即被封锁。这一点很重要，因为2024年美国总统选举正在慢慢进入正轨。
OpenAI对最近一批账户的分析是基于上周发布的微软威胁情报的一份报告。该报告将赞助这些行动的组织命名为Storm-2035组织，该组织自2020年以来一直参与干涉美国大选。
据报道，Storm-2035是一个伊朗网络，拥有众多域名，旨在模仿真正的新闻网站。这些网站针对美国选民，提供有关总统候选人、同性恋权利和以色列-哈马斯冲突的两极分化内容。
ChatGPT生成关于各种政治话题的两极分化内容
与其他类似行动一样，Storm-2035的目的不是支持个人政策，而是在民众中引起争议。根据OpenAI的说法，该组织与五个同时冒充自由派和保守派新闻网站的网站有关。
这些网站有很好的域名，比如“evenpolicy.com”，并使用ChatGPT撰写一定长度的文章。其中一篇文章称，埃隆·马斯克（Elon Musk，X）拥有的社交媒体网络正在屏蔽美国前总统唐纳德·特朗普（Donald Trump）的推文。
OpenAI已经确定了与Storm-2035相关的十几个X帐户和一个Instagram帐户。这些账户利用ChatGPT生成新的政治声明，然后在这些社交媒体渠道上发布。例如，一条推文错误地将气候变化与“移民成本增加”联系起来，同时在声明中加上#DumpKamala，指的是副总统卡玛拉·哈里斯。
