随着AI孙燕姿不断在各大网络平台发行翻唱歌曲，加上网络舆论发酵，相关话题“AI出来后第一个失业的是孙燕姿”“专家称孙燕姿音色不受法律保护”前不久也登上了微博热搜榜。截至星期二（5月23日）下午1时，两个话题的阅读次数都分别超过1亿次。
博通咨询首席分析师王蓬博向《北京商报》说：“我觉得科技的进步也让防范诈骗的难度在提升。发生的原因还在于信息爆炸导致的信息泄露过度。”
在互联网高速时代的背景下，AI带给人们的挑战还不止于此。
这位好友也向郭先生要了银行卡号，声称已经把钱打到郭先生的账户上，还把银行转账底单的截图通过微信发给了郭先生。
美国OpenAI公司开发的ChatGPT去年11月横空出世后，在中国科技圈掀起巨大波澜，腾讯、百度等中国多家科技公司自今年3月纷纷推出对标该聊天机器人的服务。
曾就职于多家音乐流媒体平台版权部的李强也持相同看法。他并说：“在未获得歌手授权下，AI对歌手声音的模拟甚至公开展示，应属于对歌手表演者权的侵权行为。”
中国出现AI换脸新骗局 10分钟被骗430万元人民币
欧洲联盟领导人也出席会议。欧盟正在推进立法以监管人工智能技术，可能出台世界上第一部全面的人工智能监管法。有关法案下月将提呈给欧洲议会，通过后就可同个别成员国展开立法谈判。
但如果仔细留意，可以发现这些歌曲都不是孙燕姿本人亲自翻唱，而是“AI孙燕姿”。
通报指出，由于是视频聊天，加上出于对朋友的信任，郭先生没有核实钱是否到账，先后分两笔把430万元给对方打了过去；钱款转账完成后，郭先生还给好友微信发了一条短讯，告诉他事情已经办妥。不料，“好友回过来的消息竟然是一个问号”。
尽管如此，孙燕姿在文章中没有对AI发展表现出悲观或消极的态度。相反的，她形容自己就像一个吃着爆米花、坐在电影院最好座位上的人。“在这无边无际的存在之海中，凡事皆有可能，凡事皆无所谓，我认为思想纯净、做自己，已然足够。”
也有网民开玩笑说：“真的太像燕姿本人唱的。燕姿，如果你还不出来开演唱会，发新专辑，你就要被AI取代了！”
据《每日经济新闻》报道，AI诈骗目前有声音合成和AI换脸两种形式。声音合成诈骗，骗子会先通过骚扰电话录音等来提取某人声音，获取素材后进行声音合成，从而可以用伪造的声音骗过目标。
正如特斯拉兴起，推高了全球电动车行业的热情；去年底推出的ChatGPT犹如一把大火，点燃了整个人工智能行业，仅仅几个月，全球科技巨头都争相进入这个领域。但“AI孙燕姿”、AI换脸骗局、AI虚构新闻等事件告诉了我们，该技术也带来了前所未有的新挑战。
赵智功还指出，孙燕姿翻唱什么歌曲，本来就是应该由她本人以及其经纪公司或唱片公司，基于艺人设定和音乐市场的考量共同决定的。但现在AI孙燕姿可以翻唱任何歌曲，“AI翻唱Cover歌曲侵犯了孙燕姿本身的市场资源”。
有网民就此评论说，案件暴露了AI技术在网络信息传播领域可能带来的风险和挑战。“在不法分子手中，AI也可能成为制造和传播虚假信息、误导舆论的利器”“AI将让媒体的新闻真假难辨。”
通报说，郭先生随即拨打好友电话核实，结果对方坚称没有这回事，他这才意识到自己遇到了使用AI换脸技术的“高端”骗局，并立即报警。
音乐版权律师赵智功接受《新京报》贝壳财经采访时说，AI孙燕姿作品是有版权问题的，具体需要根据不同的使用场景来追究；如果是目前B站视频上传者（简称UP主）“自娱自乐”不涉及商业化的情况，可能不涉及著作财产权，但还是涉及著作人身权，比如署名、表明表演者身份、表演形象不受歪曲等。
有网民点评：“真以为是孙燕姿本人翻唱了……很有孙燕姿的音色特色，除了唱腔和技巧差一点，人声和背景音乐的融合度很高，完全就是一首高分新歌。”
一名不具名的中国人工智能从业者则向英国广播公司（BBC）中文网分析说，中国之所以这么快采取监管行动主要有三个原因：生成式AI的伦理问题、破坏力，以及极快的进化速度。这位业内人士没有对此进一步阐述。
至于AI换脸，骗子会先分析公众在网上发布的信息筛选目标人群，之后通过AI技术换脸伪装，再通过视频进行信息确认，完成诈骗。
究竟AI是利大于弊，还是弊大于利，现在还难以断定。唯一可以明确的是，AI的发展还在起步阶段，带给世界的震撼才刚刚开始。
据观察，AI歌手在中国网络上并不罕见。在AI孙燕姿诞生之前，已经有“AI周杰伦”，“AI王菲”、“AI邓紫棋”的作品流传于B站。目前，包括孙燕姿在内，尚未有歌手或经纪公司发布官方声明禁止AI翻唱行为或对此追责。
根据通报，郭先生的好友有一天突然通过微信视频联系他说，自己的朋友在外地竞标，需要430万元（人民币，约82万新元）保证金，且需要公对公账户过账，想要借郭先生公司的账户走账。
内蒙古包头市公安局旗下微信公号上星期六（5月20日）发布通报称，当地警方本月初破获了一起使用AI技术进行电信诈骗的案件，受害者是福州市某科技公司法人代表郭先生。
AI孙燕姿违法侵权吗？
许久没在荧光幕前亮相的华语流行乐坛天后孙燕姿，最近在人工智能（AI）加持下频频出现在公众视线里。
在讨论度居高不下的背景下，天后孙燕姿本人星期一（5月22日）终于发文回应。她在个人音乐公司“Make Music”的部落格自嘲写道：“我的粉丝们都已跳槽，也同时接受我就是一名冷门歌手的事实，而我的AI角色也成为了目前所谓的顶流。毕竟该怎么跟一个每几分钟就能推出一张新专辑的‘人’比呢？”
调查显示，该洪姓男子使用了ChatGPT来修改编辑近年的社会热点新闻。他在审讯中说，自己是通过微信好友获知了如何利用网络赚取流量变现的方法。
为加强对这类技术的监管，中国国家网信办4月11日发布《生成式人工智能服务管理办法》草案。草案表明，中国支持人工智能算法、框架等基础技术的自主创新。不过，企业在向民众提供生成式人工智能服务前，必须向网信部门申报安全评估；生成内容应当体现社会主义核心价值观，不得含有颠覆国家政权、推翻社会主义制度、煽动分裂或破坏国家统一、宣扬恐怖极端主义、民族仇恨、可能扰乱经济及社会秩序等内容。
中国多家媒体在约两个星期前报道，一名男子因利用人工智能软件ChatGPT炮制虚假新闻，被警方采取刑事强制措施。彭博社称，这似乎是中国首起与滥用人工智能相关的刑事案件之一。
打开中国视频网站B站，可以发现“孙燕姿”翻唱各类歌曲的作品从4月起爆发式增长，当中不少都获得百万点击率，比如周杰伦《发如雪》、南拳妈妈《下雨天》，以及王菲《红豆》等等。有媒体不完全统计，这类翻唱作品至今已有超过1000首，数量远远超出孙燕姿出道20多年的作品总和。
草案也规定企业也须确保内容真实准确，采取措施防止生成虚假信息；禁止非法获取、披露、利用个人信息和隐私和商业秘密。用户方则须依法提供真实身份信息等。
《华尔街日报》报道认为，在生成式AI（generative AI）构成的挑战引发担忧之际，中国此举走在了努力驯化这种新技术的世界各地政府的前列。生成式AI，一般泛指可以进行内容原创，通过算法来生成图像、文字、音乐，甚至代码和视频，而且不需要人工干预的AI。上述提到的ChatGPT、AI孙燕姿等等都有这种特点。
中国已出手 多国AI监管“山雨欲来”
除了中国，在日本广岛开会的七国集团（G7）领导人上周也说，世界各国必须加紧对生成式AI的快速发展进行评估，因此决定今年内针对“负责任地“使用此技术展开讨论。G7领导人在声明中说：“我们认识到有必要立即评估生成人工智能的机遇和挑战，它在各个国家和领域都越来越重要。”
所谓AI孙燕姿，简单来说，就是通过模型训练和后期处理，让AI用孙燕姿的声音翻唱其他歌手的歌曲。虽然AI翻唱技术在唱腔、技巧上离原唱者还有一定差距，但音色已经基本实现复刻，足以以假乱真。
甘肃省平凉市公安局5月7日在其微信公号发布通报称，涉事的洪姓男子“利用现代技术手段编造虚假信息，并散布在互联网上，被大量传播浏览”。此前当地警方发现，一篇编造关于火车事故导致九人死亡的文章，发布在百度“百家号”的多个账号上。该文章在被删除前的点击量已达1万5000余次。
通报指出，该编造的虚假信息被大量传播浏览，意味着洪姓男子的行为涉嫌构成“寻衅滋事罪”。该罪名至少可判处五年监禁。
但BBC中文网报道，生成式AI进化速度极快，ChatGPT去年11月推出后，今年3月迭代出的GPT-4，不仅知识面更广、对答更流畅，开始能够读懂图片内容，在律师资格考试中拿下高分，而且具备自我反思的能力。
除了孙燕姿，另一则有关AI的话题近来也刷遍中国网络，那就是AI诈骗。
事后回忆起当时的情形，郭先生说：“从头到尾都没有和我提借钱的事情，就说会先把钱给我打过来，再让我给他朋友账户转过去，而且当时是给我打了视频的，我在视频中也确认了面孔和声音，所以才放松了戒备。”
