1 继AI雷军之后，胖东来发声明警告AI非法合成

11月24日，胖东来在其官方公众号“胖东来商贸集团”发布《声明》：近日多个账号在第三方网络平台未经授权擅自利用AI技术手段生成胖东来创始人于东来先生的声音，并对公司或于东来享有著作权的视频内容进行剪辑和篡改，加入AI生成声音及误导性文案后发布，对公众造成误导和混淆。

在声明中，胖东来公司对前述侵犯于东来人格权及著作权，以及影响胖东来公司品牌形象的行为进行严厉谴责，并警告相关账号应立即停止侵权行为，表示将坚决采取法律措施追究行为人的法律责任。

据报道，之所以发布该声明，是因为近期在社交媒体平台上，不少账号利用AI合成于东来的声音，并对于东来的视频进行剪辑，在这些视频中于东来用合成声音说：“我是于东来，我亲手打造了中国第一家值得人民百分百信任的公司。我立志让千家万户的百姓吃上干净卫生的食品.......”

而于东来也不是近期深受AI深度伪造其害的唯一公众人物。

国庆期间，“雷军AI”“雷军语音包”充斥着各大短视频平台，不少网友用雷军AI配音恶搞。有网友吐槽，国庆被AI雷军追着骂了七天。

而在10月29日，雷军也在自己的账号发视频回应此事。

雷军表示，“有网友投诉国庆期间被我连续‘骂’了7天，的确让自己非常困扰，挺不舒服的，希望大家都不要玩了，这个事情不太好”。但雷军同时也表示，AI还是非常好的技术，非常的实用，也希望小米升级“超级小爱同学”，在AI体验上给用户带来更好的感受。

2 利用AI合成他人声音或肖像，可能触犯哪些法律？

利用ai技术假冒他人声音或肖像，合成视频并传播，可能违反相关法律规定，严重时还可能触犯刑事犯罪。

在民事侵权方面，前述利用AI技术合成雷军、于东来声音的行为，可能构成对他人肖像权、声音等人格权的侵犯。

根据《民法典》第九百九十条和第九百九十一条的规定，人格权是民事主体享有的生命权、身体权、健康权、姓名权、名称权、肖像权、名誉权、荣誉权、隐私权等权利。民事主体的人格权受法律保护，任何组织或者个人不得侵害。

《生成式人工智能服务管理暂行办法》第四条第（四）项也规定，尊重他人合法权益，不得危害他人身心健康，不得侵害他人肖像权、名誉权、荣誉权、隐私权和个人信息权益。

如果《民法典》利用AI技术侮辱、诽谤他人，则依据《民法典》第一千零二十四条规定，可能构成对他人名誉权的侵犯。

在司法层面，个人权益保护与AI技术应用的矛盾也开始浮现。在AI生成声音第一案中，法院认定未经权利人授权擅自对声音AI化构成对自然人人格权的侵犯。

在刑事犯罪方面，如果利用AI技术来捏造事实诽谤他人，情节严重的，则构成诽谤罪，可以处三年以下有期徒刑、拘役、管制或者剥夺政治权利。

在前段时间发生的“三只羊录音门”事件中，警方通报相关录音是由AI生成。

“三只羊录音门”事件中，王某某故意捏造并散布虚构的事实，贬损王某某的名誉，根据司法解释的认定标准，该信息的被点击、浏览次数大概率不会低于五千次，结合王某某的主观恶意，可以认定构成诽谤罪。

此外，近日国家安全部也发文《警惕深度伪造技术带来的安全风险》，提醒视频伪造技术、音频伪造技术和虚假网络身份伪造技术可能侵害个人权益、引发社会忧虑和信任危机，甚至威胁国家安全和公共安全，呼吁公众面对深度伪造技术带来的机遇和挑战，应统筹发展和安全，提高安全意识。