索尼大战AI：成功下架7万5千首AI伪造歌曲

索尼表示已经下架了超过75,000首模仿其旗下艺术家的AI深度伪造歌曲。这些由AI生成的歌曲模仿了包括Harry Styles和Beyoncé在内的多位知名艺人，成为了一个严重的问题。

索尼对抗AI伪造音乐的努力
索尼正在与那些模仿其知名艺术家的AI生成深度伪造歌曲进行斗争。该公司称，已经从在线平台上识别并删除了超过75,000首模仿其艺术家的伪造歌曲，并指出这个数字可能只是冰山一角。索尼向政府提交的一份文件中提到，这种伪造歌曲的泛滥对合法录音艺术家，尤其是英国艺术家，造成了直接的商业损害。英国政府正在考虑新的版权法，以允许AI模型在训练时使用艺术家的材料。

AI生成内容的质量与影响
尽管像ChatGPT这样的生成式AI聊天机器人仍会产生大量错误和完全虚构的信息，但在图像和音频生成方面，所需的精度相对较低。例如，一只狗的外观可以有很大差异，而ChatGPT不应该告诉用户“1+1=蓝莓”。支持者认为，AI生成图像和音频将有助于降低生产成本，并且人类始终是创造引人入胜的故事和叙事的关键。然而，这也可能导致更多低质量的电影出现，因为制片厂试图以较小的预算制作影片，从而提高流媒体服务的盈利能力。

关于消费者是否能区分AI生成的歌曲存在持续争论，但2023年发布的一首包含Drake和The Weeknd AI生成仿制品的歌曲引发了公众可能对此并不在意的担忧。这种情况显然不理想，因为这些模型仅仅是模仿已有的作品。长远来看，可能会出现越来越少的真实艺术家创作真实音乐来训练这些模型，导致流媒体服务充斥着为算法定制的低质量AI生成内容。

法律与伦理问题
英国首相Keir Starmer爵士表示希望英国成为AI领域的领导者，并提议允许AI公司在音乐之外的多种内容上免费用于商业目的训练其模型。然而，在一个几乎所有内容都通过小额月度订阅或广告支付的世界里，许多人不再重视内容的价值。索尼等公司必须选择退出才能获得豁免，这被索尼认为是一个负担。

一些艺术家已经签署了许可协议，允许他们的肖像在AI中使用，但这似乎是个例外而非常态。在英国，针对新提案的抗议活动已经持续了几周，艺术家们担心在这种规则下监控版权侵权将变得过于困难。

当前AI生成的主要担忧之一是制作裸体深度伪造视频，其中真实人物的脸部被高度逼真地叠加到裸体上，这在美国的高中已经成为一个重大问题。此外，深度伪造音频也被用于钓鱼诈骗。