“假拜登来电”后，美国拟宣告：用AI生成语音拨打机器人电话不合法

liukang20242天前观众吃瓜946

·美国联邦通讯委员会将在未来几周内表决，是否将运用AI生成的语音拨打机器人电话（robocall）定为不合法。委员们将在未来几周内对该提案进行表决。

·专家指出，语音克隆公司研制App时，关于跟名人有关、误导性较强、传达危险较大的视频，能够在传达过程中加强显性标识的规划，提示受众。

当地时间1月21日，新罕布什尔州一些选民称接到了“拜登总统”的主动留言电话，告知接听者不要在该州初选中投票。

“人工智能仿照真人生成以假乱真的语音、图片和视频来诈骗顾客，这正在制造紊乱。不管电话中是你喜爱支撑的名人或政客，也不管电话中的亲属与你联系怎么，当他们来电求助时，咱们都有或许成为这些AI假造电话的方针。”

针对近期美国产生多起AI深度造假事情，当地时间2月1日，美国联邦通讯委员会（FCC）主席杰西卡·罗森沃塞尔（Jessica Rosenworcel）提议，将运用AI生成的语音拨打机器人电话（robocall）定为不合法。

此前，AI假充美国总统拜登给选民打电话、闻名歌手泰勒·斯威夫特AI虚伪“不雅观照”在网上疯传，恰逢美国大选年，多起AI深度造假事情引发人们对人工智能造假的忧虑。

未来几周内对提案进行表决

机器人电话（robocall）也被称为预录电话，运用计算机控制的主动拨号器来宣布预先录制好的信息，就像机器人相同，一般以推销或传达某种信息为意图，频频打扰手机用户。

美国联邦通讯委员会表明，机器人电话顶用人工智能生成的声响“在曩昔几年中不断晋级”，而且“有或许经过仿照名人、政治候选人和密切家庭成员的声响来制造错误信息利诱顾客”。

罗森沃塞尔表明，她提出的宣告式判决（Declaratory Ruling）将“依据现行法令确认这种新式技能是不合法的，这将为咱们在全国各州总检察长办公室的合作伙伴供给新的东西，他们能够使用这些东西冲击圈套，维护顾客。”报导称，委员们将在未来几周内对该提案进行表决。

此次提议是在美国新罕布什尔州居民接到假充总统拜登的电话后不久提出的。当地时间1月21日，该州一些选民称接到了“拜登总统”的主动留言电话，告知接听者不要在新罕布什尔州初选中投票。

白宫新闻秘书卡琳·让-皮埃尔（Karine Jean-Pierre）22日回应称，“那通电话确实是假的，（拜登）总统没有录音。我能够证明这一点。”新罕布什尔州总检察长办公室表明，正在对这些“诈骗性”信息打开查询。拜登的竞选司理朱莉·查韦斯·罗德里格斯（Julie Chavez Rodriguez）随即在一份声明中表明，已与新罕布什尔州总检察长交流，竞选团队正在活跃评论。

美国人工智能技能干涉推举的行为早有先例，不仅仅是假造语音。2023年芝加哥市长推举前夕，“芝加哥湖畔新闻”（Chicago Lakefront News）发布视频打击温和派民主党人保罗·瓦拉斯（Paul Vallas）对枪击事情视若无睹。尽管瓦拉斯竞选团队斥责该视频由AI生成，但视频已经在互联网上广泛撒播。瓦拉斯终究竞选失利或许也与该视频给他带来的负面影响有关。

“假拜登”电话背面语音克隆公司已确认

语音克隆草创公司ElevenLabs证明，假造的拜登语音是由该公司供给的东西生成。现在，ElevenLabs已暂停使用深度造假技能发布信息的账户。

依据ElevenLabs官网介绍，这家语音人工智能研讨公司能够以29种言语生成语音。该公司的安全政策规定，在克隆或人的声响之前最好取得其答应，但未经答应的克隆能够用于非商业意图，包含“有助于公共争辩的政治言辞”。此外，该公司正告，不得将克隆声响用于诈骗、轻视、宣布仇视言辞或任何冒犯法令的在线乱用。

据《连线》杂志1月26日报导，ElevenLabs在新一轮融资中筹集了8000万美元，现在估值已超越11亿美元，是当之无愧的“独角兽”公司。公司投资者包含闻名投资人安德森·霍洛维茨（Andreessen Horowitz），GitHub前首席履行官纳特·弗里德曼（Nat Friedman）和AI实验室DeepMind的联合创始人穆斯塔法·苏莱曼（Mustafa Suleyman）等闻名人士。

AI深度造假技能为何防不胜防？

深度造假（Deepfake）是英文“Deep learning”（深度学习）和“Fake”（假造）的混成词，指使用深度学习技能生成组成图画、音频或视频的技能。因为大众人物的视频、音频、图片材料的公开性，为AI练习供给了很多资料，因而名人常常成为AI造假的受害者。

互联网安全安排“网络尖刀”的一位匿名技能专家告知汹涌科技（www.thepaper.cn），深度造假技能制造的内容在视觉、听觉上十分传神，很难单凭肉眼或传统的技能手段区分真伪。攻击者能够使用技能手段躲藏深度造假的痕迹和特征，使其难以被检测到。现在互联网上存在很多图片和视频数据，这些数据用于练习深度学习模型，然后也被深度造假技能使用，“可用的数据集越多，模型的质量就越高，深度造假的成果离真人越近。”

在传达过程中怎么加强对此类视频的监管？中国社会科学院大学互联网法治研讨中心履行主任刘晓春在承受汹涌科技采访时主张，语音克隆公司研制App时，关于跟名人有关、误导性较强、传达危险较大的视频，能够在传达过程中加强显性标识的规划，清晰标明这是一个组成内容，提示受众。

刘晓春着重，在显性标识之外，技能层面上也能够规划隐性标识，这样在追寻溯源时，也能从技能层面辨认来历或组成的途径。“假如能够清楚地标明它是由哪些途径的技能组成，这样危险也能控制住。”刘晓春说。

前述“网络尖刀”技能专家称，深度造假辨认技能比人类更敏锐，深化动作、光线、分辨率上的漏洞，在源头发现造假内容，经过辨认假造的特征和反常形式，能够尽早发现和阻挠深度造假内容的传达。

（汹涌新闻）

告发/反应