每日观察!织密防范“AI换脸”滥用的防护网

2023-04-21 17:35:27 来源：东方资讯

(资料图片仅供参考)

本文转自：人民法院报

短评

织密防范“AI换脸”滥用的防护网

近期，因“AI换脸”引发的争议乃至违法犯罪行为屡见不鲜，与此相关的非法购买个人信息等黑灰产业链也逐渐显现。

从理论上看，技术没有原罪，但具体如何应用是一把双刃剑。“AI换脸”能满足人们猎奇、美颜、社交等需求，但一些不法分子利用前述应用场景布下公民信息采集的陷阱，将收集到的海量人脸数据用于交易、牟利等不法用途。因此，对于AI技术应用场景安全的讨论，不能只局限于民事侵权本身，这种止于末端治理的方式对于保护个人隐私过于滞后，而应该对包括“换脸”在内的技术研究开发与应用行为进行系统规范，通过在源头上完善立法、健全必要的监管惩罚措施，实行更为前置的管理与保护。

首先，AI应用技术应当符合正当有益的原则。开发、上线技术软件必须达到最起码的安全保护、隐私保护等要求，明确建立应用准入门槛，例如开发涉及人脸信息处理的软件，既要得到许可，明确应用场景、使用目的，防止技术被滥用，也要建立涉及人脸信息处理的“留痕”技术制度，便于识别与监督，设置技术防护栅栏。

其次，AI技术软件应用者应当谨守合法的底线。以“AI换脸”为例，其衍生的诸多风险都是建立在对个体脸部信息的侵权之上，所以，“AI换脸”应当严格遵守个人信息保护的相关法律规定，未经授权，任何人都不得使用他人脸部数据信息来合成视频数据，遑论用以牟利。

最后，网络信息对公共安全与个人隐私产生的影响大小，关键在于传播量。因此，平台要将“AI换脸”等涉及用户面部等基本信息的内容纳入审核范围，通过技术方法审核视频内容，识别其中是否有人工合成的要素，发现违法侵权现象要及时处理。——木须虫

标签：