屏幕上，身穿西服的日本首相“岸田文雄”出现了，他发表了一段三分多钟的恶意言论。画面的右上角显示了日本民营电视台“日本电视台”的新闻节目标志，同时标注了“LIVE”（直播）和“BREAKINGNEWS”（突发新闻）的字样，给人们一种“岸田文雄”正在直播发表紧急新闻的印象。
而这其实是日本一名25岁男子借助人工智能（AI）技术制作的假视频。近日，该视频网上疯传。日本电视台回应称，不能容忍此类滥用节目徽标的行为。
事实上，早在岸田文雄被AI造假之前，欧美国家政治人物的虚假视频就屡禁不止。比如今年以来，一段美国总统拜登宣布第三次世界大战开始的AI视频被政治活动人士制作并传播。
数据显示，今年8—9月，各大文图类AI网站的访问量均呈现下降趋势，但某款AI视频语音翻译工具平台访问量却上升了92%。
对此，有人出于好奇跃跃欲试；有人则干脆以此为招牌，做起了AI换声视频的生意，“单价3元/秒”“最少30秒”；但也有人提出担忧：“这会不会被用来模仿声音诈骗？”
01
据环球网援引日本《读卖新闻》4日报道，该虚假视频不仅带有日本电视台的台标和“突发新闻”字样，还让“岸田”西装革履地发表讲话，字幕配文“岸田首相，我确信你已经完成了”，模仿线上发布会的样式。
视频制作者11月2日在社交平台X上发布了该假视频，截至3日播放量已超过230万次。而他本人在接受采访时表示，借助AI，视频制作全程只花了1小时。从去年开始，他就制作并发布岸田以及日本前首相安倍晋三等人的AI视频。他说：“我这样做的目的只是逗人们发笑，这是一种讽刺。”
该视频引发了广泛批评，日本电视台表示“绝不容忍这种行为”，并将采取措施。据报道，由于欧美国家政治人物的虚假视频被滥用来操纵舆论，日本国内要求采取反制措施的呼声也可能会增加。此前，针对频发的假视频，日本总务省曾警告：“虚假和错误信息的传播会造成社会分裂，进而导致民主危机。”
02
在政治界外，娱乐圈近期则兴起了“名人换声”风。
先是美国女歌星“霉霉”（泰勒・斯威夫特）一则说中文的短视频在各社交平台火爆。有的播放量已经达到了600多万。视频中，霉霉操着一口流利、地道的中文，神情自若，几乎没有早期译制片女主角的那种腔调，口型也能对得上。
还没有看过视频的小伙伴们，可以先来一睹为快。
不仅是霉霉，蕾切尔・布罗斯纳安、艾玛・沃森、憨豆先生等明星都掌握了一口正宗的中文。
之后，多个中国“土味”明星开口说英语的视频热传，包括但不限于赵本山小品、郭德纲相声、范伟采访，纷纷一口英伦腔……
虽然这些明星神情自若地说着与本人完全相反的语言，喜感拉满。但用AI技术为视频中的人物更换声音、做“翻译”，存在多种侵权行为。
从著作权角度，首先网友替换的大部分视频内容，例如相声、小品等，都属于我国《著作权法》保护的“作品”。著作权有一项是“翻译权”，即未经他人授权，不得翻译他人作品。翻译权之外，此类视频在未经著作权人授权的情况下，经修改后发布在网络上，造成大面积传播甚至牟利，该行为也涉嫌侵犯作品的信息网络传播权。
而从被换声音的公众人物角度，根据《民法典》第一千零一十九条，任何组织或者个人不得以丑化、污损，或者利用信息技术手段伪造等方式侵害他人的肖像权。未经肖像权人同意，不得制作、使用、公开肖像权人的肖像，但是法律另有规定的除外。未经肖像权人同意，肖像作品权利人不得以发表、复制、发行、出租、展览等方式使用或者公开肖像权人的肖像。
近年来，AI技术被广泛应用于短视频的二次创作，也因此出现大量“AI换脸”“AI换声”等争议，甚至引发“AI诈骗”。在笔者看来，任何一项技术都是一把双刃剑，既能推动社会进步，也能挖掘出人性中隐藏的恶。它给社会带来的积极影响也是显而易见的，如提高人们的内容创作效率、孕育新的技术形态与价值模式、产生新的就业机会等等。
最重要的是，任何技术都应该要在可控、可监督的范围内发展，而这无疑应该是全社会的共识。
责任编辑：薄晓舟