声音被滥用！如何舞好AI这把“双刃剑”

交汇点 黄欢

昨天，新华社一篇关于“AI声音滥用现象调查”的报道引发关注。从“张文宏医生”推销蛋白棒视频“走红”网络，后被本人“打假”，到多位配音演员称声音被AI“偷走”，公开维权……随着人工智能技术和语音大模型应用的发展，AI声音滥用的问题愈发显得突出。

眼见不一定为实，亲耳听到的也可能为“虚”，从“换脸”到“偷声音”，这些年，AI技术的迅速发展在不断催生新行业、新事物的同时，也引发不少乱象。比如此次被热议的AI声音滥用，不少就是为了满足用户的猎奇心理，以此为噱头追逐流量和变现，更严重一点的还被用于电信诈骗、身份冒用等不法目的。事实上，个人声音中包含的声纹信息具备可识别性，能以电子方式记录，能关联到唯一自然人，是生物识别信息，属于个人信息保护法规定的敏感个人信息之一。毋庸置疑，我们有权对明目张胆侵害个人隐私和权益的行为说“不”，并寻求多种方式保护自己的合法权益。

硬币是两面的。近段时间，DeepSeek爆火，任何新鲜事物的出现都会带来一系列的影响，就好比AI技术的发展，我们在享受它带来的便利的同时，也不得不直面由此产生的相关风险，关键是如何让负面效应消弭于未发或者尽量规避。一方面我们要更加注重保护个人信息，提升安全意识，另一方面相关研发企业在推动AI语音合成技术进步的同时，也应积极研发识别和过滤虚假语音内容的技术手段，建立有效的内容甄别、审核机制，防止技术被滥用。此外，相关部门完善相关规则，厘清法律法规边界也不可忽视。近年来，有关主管部门已出台《人工智能生成合成内容标识办法（征求意见稿）》《互联网信息服务深度合成管理规定》《生成式人工智能服务管理暂行办法》等规定，一定程度上给AI技术使用划定了红线，但随着技术的进一步发展，如何更加细化与之相匹配的法律法规仍然有待探究。

技术是把“双刃剑”，如何让技术为人类服务、造福于社会一定是未来很长一段时间里我们都要思考的。面对眼前有“术”，做到“心中有数”，进一步强化人工智能伦理规制，超前研究人工智能风险，提前预判人工智能技术应用可能带来的社会影响，充分挖掘技术发展的正面效应，我们才能更好地拥抱技术、拥抱未来。