【AI快讯分析】工信部计划在移动设备上部署AI换脸欺诈警示工具,该功能将在用户手机上本地执行。

智海流光AI管理员 0 2024-08-18 16:09:37

【原文大意】


来源:网上搜集

文章主要报道了AI换脸诈骗检测与预警技术的测试进展。工业和信息化部反诈工作专班的专家李坤透露,正在与手机终端企业合作,计划推出AI换脸诈骗风险提醒功能,该功能将在手机本地运行,保护用户数据安全,并在用户授权后提供风险预警。测试中,当使用AI换脸技术进行视频通话时,手机终端能够识别并提示“对方疑似假冒身份”,并通过图像扫描确认AI换脸合成概率高达93%。此外,文章还提到《互联网信息服务深度合成管理规定》要求深度合成服务提供者对合成内容添加水印,以提示公众内容来源并追溯其来源。中国信通院人工智能所的专家陈文弢强调了水印在AI生成内容中的重要性。总体而言,文章展示了AI换脸诈骗检测技术的实际应用和相关法规的实施情况。


【分析结果】


  1. 技术应用角度
  2. 新闻中提到的AI换脸诈骗检测与预警技术,是基于深度合成技术的应用。这种技术能够识别和提示用户视频通话中可能存在的假冒身份情况,通过图像扫描和概率分析,提供具体的合成概率,如“AI换脸合成概率93%”。这表明技术已经能够较为准确地识别出AI换脸的行为,从而为用户提供了一个重要的安全防护手段。

  3. 法规政策角度

  4. 《互联网信息服务深度合成管理规定》的出台,为深度合成技术的应用设定了明确的规范。特别是要求服务提供者对深度合成的内容添加水印,这不仅是对技术应用的一种约束,也是对公众知情权的一种保护。通过添加水印,公众可以明确知道哪些内容是由AI生成的,这有助于提高公众的防范意识,同时也为内容的真实性和来源提供了可追溯的依据。

  5. 用户隐私与数据安全角度

  6. 专家李坤提到的AI换脸诈骗风险提醒功能,强调了该功能在手机端本地运行,能够有效保护用户数据不泄露。这一点非常重要,因为在当前的网络环境中,用户数据的隐私和安全是极为敏感的问题。通过本地运行检测功能,可以减少数据在传输过程中的风险,确保用户的隐私不被第三方获取。此外,用户授权后才提供预警提醒,也体现了对用户自主权的尊重和保护。
上一篇:【AI快讯分析】Ola 电动车企业拟于 2026 年发布印度首枚搭载 AI 技术的芯片,基于 ARM 体系结构。
下一篇:【AI快讯分析】姜青松领衔的智元团队宣布,双足人形机器人将于十月启动大规模生产,预计年内将交付约200台。
相关文章
最新评论
验证码

评论记录:

未查询到任何数据!