美国公司Lingo Telecom因人工智能生成的拜登机器人电话面临100万美元罚款

总部位于美国的语音服务提供商Lingo Telecom已同意与美国联邦通信委员会（FCC）达成100万美元的和解协议。该公司被指控为影响2024年新罕布什尔州初选选民的人工智能自动电话提供便利。

2024年1月21日，新罕布什尔州的许多公民被类似乔·拜登总统声音的电话恐吓。这些自动电话告诉目标，在该州总统初选中投票将导致他们在11月大选中被剥夺选举权。这个声音是用一个模仿乔·拜登的假低沉声音录制的，该声音使用了深度学习算法。

Lingo Telecom面临处罚和合规措施

这次行动是由政治战略家史蒂夫·克莱默（Steve Kramer）进行的，他说，目的不是影响选举，而是说明人工智能是多么危险。然而，克莱默的行为具有潜在的不利影响，向选民提供了虚假信息，并对选举的公平性构成了威胁。Lingo Telecom的技术被用于这一过程，因为它方便了将这些信息发送给相关人员。

根据和解协议，Lingo Telecom将不得不支付100万美元的民事罚款，而联邦通信委员会则希望该公司支付200万美元。该公司还被要求制定一个强有力的合规计划，其中包括遵守美国联邦通信委员会的STIR/SHAKEN呼叫者身份验证框架。

此框架试图解决呼叫者ID欺骗问题。这是在robocall活动中使用的，让电话看起来像是来自其他合法号码。

美国联邦通信委员会还强调，这一和解是向参与此类活动或为此类活动提供便利的其他公司发出强烈信息的关键。Lingo Telecom虽然接受和解，但强烈批评了联邦通信委员会的行为，称监管机构正试图引入具有追溯力的新规则。

FCC官员强调人工智能语音克隆在选举中的危险

美国联邦通信委员会执法局局长Loyaan Egal指出，通过呼叫者ID欺骗和人工智能语音克隆进行冒充是非常危险的，特别是在选举期间。埃加勒指出，这些技术可能被追求政治议程的国家行为者或意图干预该国政治进程的外国行为者滥用。

制造机器人电话的政治顾问史蒂夫·克莱默正面临更严重的后果。联邦通信委员会提议对克莱默处以600万美元的罚款，克莱默还可能因压制选民的指控面临最高7年的监禁。

此外，克莱默还可能因冒充政治候选人而被判处一年监禁。这些指控描述了当局如何处理此案，并将其视为在政治中使用人工智能所带来风险的一个明显例子。

非营利组织Public Citizen的联合主席Robert Weissman对美国联邦通信委员会在这种情况下的行动表示欢迎，称deepfakes对“我们的民主构成了生存威胁”