“领导”视频来电要求转账、”明星”录屏带货引流、”熟人”借钱救急——随着AI换脸技术门槛不断降低,伪造视频类诈骗和侵权事件频频进入公众视野。近日,一款能够快速识别伪造视频的大学生科创作品”慧眼识伪”引发社会关注,为普通公众和司法实务部门提供了”技术破题”的新思路。
据团队成员介绍,该系统基于深度学习技术开发,上传视频后即可自动分析画面真伪,并以热力图形式高亮显示疑似篡改区域,哪里被”动了手脚”一目了然。”很多伪造视频肉眼看毫无破绽,但算法能捕捉到面部边缘、光影衔接处的细微异常。”团队技术负责人介绍,系统操作门槛低,无需安装专业软件,普通用户在浏览器中即可完成检测,生成的分析报告还可作为维权的参考材料。
网络安全专家提示,AI造假技术迭代迅速,治理需要”技术+制度”双轮驱动。一方面,公众遇到可疑视频应多渠道核实;另一方面,检测工具的普惠化、低成本化,正是对抗技术滥用的重要一环。”让学生团队的创新成果走出实验室、服务社会,这正是科技向善的意义所在。”该专家表示。
目前,团队正与相关单位接洽,推动系统在反诈宣传、网络维权等更多公益场景中试点应用,让”以AI治AI”从口号走向现实。