AI换声

你是否曾想过，也许有一天，你要跟人工智能（AI）去争抢自己的声音？前不久，北京互联网法院宣判了全国首例AI生成声音人格权侵权案。此案中，配音师殷女士的声音被AI处理生成了一款文本转语音产品，该产品的下载量高达32.6亿次，这给以“声音”为业的她带来了很大的影响。

几乎同一时间，高龄老人郑奶奶接到“孙子”的求救电话，说他因涉嫌强奸被公安机关抓获了，需要交1万元保释金才能放出去。被吓坏的郑奶奶赶紧取钱交给“孙子”委托的朋友。郑奶奶不知道的是，求救电话的另一头并非她的孙子，熟悉的孙子声音其实是犯罪团伙利用AI技术合成的。

境外诈骗团伙利用AI技术合成了山东人林小宇哥哥的脸和声音，短短7秒的视频通话，林小宇被骗走了30万元。随着AI技术的发展，利用AI生成声音、图像的现象日益常见，一些非法现象也随之出现，有人未经他人授权使用AI技术盗换他们声音进行商业牟利，也有人利用AI生成的声音实施诈骗等犯罪行为。

作为新质生产力的代表，AI推广应用是大势所趋，也面临着前所未有的机遇与挑战。AI技术发展需要法律的保护、监督与规范，也需要制定技术研发的相关底线和红线。对AI与个人信息、权利保护的关系，现行立法已有较充分规定，但在法律的有效落实方面尚需努力。司法机关对于利用AI从事违法犯罪活动的打击愈加重视，检察机关更是通过公益诉讼等方式加强对利用AI违法犯罪活动的预防和惩治，取得了一定效果。