据报道,如今,AI换脸图片和视频成为热门话题,换脸视频碰瓷他人的现象也屡屡引发关注。AI换脸的背后,从传播到制作再到后端各个环节几乎都藏着生意经,也存在相关风险与困扰。
从现实来看,政法机关采取一系列措施打击AI犯罪,维护AI技术良好的发展环境,避免其在应用过程中引发失序和失范。全国公安机关联合国家重点实验室等单位,开展人脸识别与活体检测技术安全测评,覆盖即时通信、网络直播、网络社交、电商平台、金融支付等重点软件,及时发现人脸识别验证系统存在的风险隐患。法规的完善也亟待引起重视。目前,国家网信办起草的《人工智能生成合成内容标识办法(征求意见稿)》已完成社会意见征集。唯有让相关法律法规有效落实,才能促进AI技术规范运用。此外,要加强对软件研发应用及信息发布平台的监管,督促软件服务方、制作方履行好监管责任。