当地时间1月21日美国新罕布什尔州一些选民接到了由机器人拨打的语音电话在神秘电话中“拜登总统”以经典口头禅开头对他们发出见解“拜登”给我打电话？真的假的？当地时间22日美国白宫方面紧急澄清语音疑似由AI“深度伪造”（Deepfake）技术合成
《纽约杂志》网站报道截图从AI拟声、合成虚假照片再到生成视频随着人工智能技术的快速发展各种以假乱真的情况在世界多地频频上演近期，美国流行乐歌星泰勒·斯威夫特的“AI伪造照片”事件掀起轩然大波甚至惊动了美国白宫这种生成合成图像、音频或视频的技术引发了人们对虚假信息传播的思考
图源：澎湃新闻怎么防止AI“深度伪造”的事故再三发生？各界人士在积极行动美国白宫发言人卡琳·让-皮埃尔表示虽然社交媒体公司在内容管理方面有独立决策权但它们在严格落实其监管制度上应起到重要作用图源：讯飞星火生成生成式人工智能公司OpenAI日前表示在竞选活动中政界人士及其竞选团队不得使用该公司的AI工具用户也被禁止创建假扮政治候选人或政府机构和官员的聊天机器人此次伪造拜登语音所用的工具背后是语音克隆初创公司ElevenLabs该公司也已暂停利用AI“深度伪造”技术发布信息的账户并警告不得将克隆声音用于欺诈、歧视、发表仇恨言论或任何触犯法律之事
图源：讯飞星火生成美国消费者技术协会首席执行官夏皮罗提出政府需要在AI领域扮演重要角色确保设置安全屏障和护栏让产业内人士知道哪些能做、哪些不能做针对近期的AI“深度伪造”事件当地时间2月1日美国联邦通信委员会（FCC）主席杰西卡·罗森沃塞尔提议把使用AI生成的语音拨打机器人电话（robocall）定为非法FCC的委员们将在未来几周内对该提案进行表决图源：讯飞星火生成尽管AI技术给我们带来了新挑战但国际社会普遍认为不能“因噎废食”不能拒绝发展相关技术毕竟，在技术进步的过程中AI技术本身就可用来对抗AI“深度伪造”行为比如有开发者建议平台给AI生成软件加上隐形水印以快速识别AI并进行溯源去年12月发布的一款名为mist的隐形图片水印则能极大程度干扰AI模型使之生成的图片遭受不同程度的破坏图源：讯飞星火生成还有专家认为法律手段也要有所作为对一些技术解决不了的问题进行立法追责中国发布的《互联网信息服务深度合成管理规定》已于2023年1月10日起施行《规定》强调深度合成服务提供者需要对深度合成内容进行显著标识任何组织和个人不得采用技术手段删除、篡改、隐匿相关标识作为普通用户假如接到来自名人的电话你能识别出真假吗？面对AI的“深度伪造”我们该如何避免危害呢？参考丨法治日报、央视财经、南方都市报、羊城晚报、澎湃新闻、新浪科技撰文：孔繁鑫 编辑/排版：李汶键 统筹：李政葳来源：世界互联网大会
免责声明：本文来自网络收录或投稿，观点仅代表作者本人，不代表芒果财经赞同其观点或证实其描述，版权归原作者所有。转载请注明出处：https://www.mgcj.net/1089021.html
温馨提示：投资有风险，入市须谨慎。本资讯不作为投资理财建议。
