从恶搞名人到诈骗作恶,AI换脸背后谨防技术失控
立法有争议、执法很困难是全球难题
各国对深度合成技术治理存在诸多共性选择
近日,山东省宁阳县人民法院审结一起利用AI换脸、语音合成等技术,以网恋为名实施的诈骗案,判决孙某犯诈骗罪,判处有期徒刑三年、缓刑四年,并处罚金2万元。
一起利用AI技术虚构“传承千年苗方苗古金贴传承人”“第56代苗古金贴传承人”等人物形象的案件引发广泛关注。
有演员被多个直播间AI换脸冒用形象直播带货的现象引发关注。