【AI快讯分析】工信部计划在移动设备上部署AI换脸欺诈警示工具,该功能将在用户手机上本地执行。
AI换脸诈骗,风险提醒功能,深度合成技术,安全评估,水印添加 2024-08-18
文章主要报道了AI换脸诈骗检测与预警技术的测试进展。工业和信息化部反诈工作专班的专家李坤透露,正在与手机终端企业合作,计划推出AI换脸诈骗风险提醒功能,该功能将在手机本地运行,保护用户数据安全,并在用户授权后提供风险预警。测试中,当使用AI换脸技术进行视频通话时,手机终端能够识别并提示“对方疑似假冒身份”,并通过图像扫描确认AI换脸合成概率高达93%。此外,文章还提到《互联网信息服务深度合成管理规定》要求深度合成服务提供者对合成内容添加水印,以提示公众内容来源并追溯其来源。中国信通院人工智能所的专家陈文弢强调了水印在AI生成内容中的重要性。总体而言,文章展示了AI换脸诈骗检测技术的实际应用和相关法规的实施情况。
新闻中提到的AI换脸诈骗检测与预警技术,是基于深度合成技术的应用。这种技术能够识别和提示用户视频通话中可能存在的假冒身份情况,通过图像扫描和概率分析,提供具体的合成概率,如“AI换脸合成概率93%”。这表明技术已经能够较为准确地识别出AI换脸的行为,从而为用户提供了一个重要的安全防护手段。
法规政策角度:
《互联网信息服务深度合成管理规定》的出台,为深度合成技术的应用设定了明确的规范。特别是要求服务提供者对深度合成的内容添加水印,这不仅是对技术应用的一种约束,也是对公众知情权的一种保护。通过添加水印,公众可以明确知道哪些内容是由AI生成的,这有助于提高公众的防范意识,同时也为内容的真实性和来源提供了可追溯的依据。
用户隐私与数据安全角度:
评论记录: