当前位置: 首页 > 产品中心 > pvc纤维管

pvc纤维管

“AI换脸”越来越真如何防治滥用?技术专家“三招”识破套路

“AI换脸”越来越真如何防治滥用?技术专家“三招”识破套路

来源:pvc纤维管    发布时间:2024-10-08 21:36:42

  只要一张照片换脸,随即就能在网络复制“N”个自己,近日,有关“Deepfake”(深度伪造技术)事件的相关话题涌上热搜,利用“AI换脸”侵权的情形层出不穷,带来了较大的

  “AI换脸”套路招式多,普通用户该怎么样辨线年国家宣传周上,南方财经全媒体记者体验了一把“秒换脸”的“黑科技”,并就“AI换脸”技术如何合规使用、如何防范“AI换脸”的风险等问题,专访了中国网络空间安全协会人工智能安全治理专业委员会委员、天融信科技集团助理总裁张博。

  张博:“AI换脸”的过程大概分三个步骤,首先是人脸的识别追踪,使用深度学习算法精准识别视频当中的人脸图像,其次是面部特征的提取,采集图像中人脸的眼睛、鼻子、嘴巴这些关键的面部特征,把这些特征与目标的人脸图像进行匹配,第三是人脸的变化的融合。

  目前,“AI换脸”技术很成熟,只要我们拿到一张人物正脸照片,就能轻松实现换脸,也能做到实时视频通话换脸,达到了以假乱真的程度,有的单凭肉眼很难分辨。除了换脸,如果再结合着换背景环境、换音频,逼真度就更高了。

  张博:人脸信息被滥用,对于个人来讲,轻则损害声誉,形象被恶搞,如果身份被仿冒,严重的话财产会受损。我觉得一个技术的应用是一把“双刃剑”,既有正面和反面,需要法律和法规、制度的落实来引导规范,也需要大家提升安全意识。

  张博:有几个方面。第一是提高自身的安全风险意识,“AI换脸”可能跟交易诈骗场景结合出现,所以在涉及提供个人隐私信息、转账汇款等敏感场景时,应保持高度警惕,以防受骗。第二是在接收到视频通话等视频信息时,要仔仔细细地观察对方视频中的光线背景、面部轮廓等细节是否自然,如有必要,能要求对方进行快速的抬头、低头、左右转头等动作,观察画面是不是真的存在异常,进一步验证视频的真实性。第三,在面临转账汇款等金融交易时,可通过其他相对可靠的方式,例如亲自打电话等确认对方身份,以确保交易信息无误,避免因轻信虚假信息而遭受损失。

  张博:首先尽量做好预防的工作,因为现在通过一张照片换脸的过程格外的简单,有很多工具是开源的。加强对个人隐私信息的防范保护,对人脸信息、指纹信息等敏感信息需求要提高警惕,莫轻易泄露。在技术层面,能够使用检测的方式来识别视频内容是否有伪造,还能增加身份认证和数字水印,加大伪造难度。另外从安全防护角度来讲,需要加强法律和法规和相应监管制度的落实和执行,来规范“AI换脸”技术的使用方式和应用场景。在法律方面,需加快有关规定法律法规及监管措施的制定与落地,假如发现了这个照片被仿冒,需要有一些可以投诉的法律途径,同时还需逐步加强对公众的安全意识和防范诈骗的宣传,提高大家对虚假诈骗信息的认识和警觉性。

  张博:现在应用较为广泛的是在娱乐行业,还有一些商业途径,例如可以让你足不出户就能出一套写真集,其实这是个好事情。虽然这个技术叫换脸,但其实通过这项技术也可以换成别的,供大家娱乐。只不过它确实是一把“双刃剑”,如果真的被别有用心的人、不法分子利用可能就会造成非常大的危害,所以合规的监管确实很重要。用户使用“AI换脸”技术尽可能地选择大公司、大平台推出的产品,尽量不通过来路不明的渠道上传自己的个人隐私信息。