Facebook开发了一种逆向工程人员深击的方法,并确定其来源

健康作者 / 姓名 / 2025-06-29 23:39
"
Facebook开发了一种逆向工程人员深击的方法,并确定其来源  喜欢指数的未来?加入我们的Xpotential社区,通过Xpotential Unive

Facebook开发了一种逆向工程人员深击的方法,并确定其来源

  喜欢指数的未来?加入我们的Xpotential社区,通过Xpotential University的课程,Connect,观看Keynote或浏览我的博客的未来证明自己。

  DeepFakes目前在Facebook上并不是一个大问题,但是它们可能会在将来,这就是为什么该公司一直在为该技术提供资金以防止未来威胁的原因。Facebook的最新作品是与密歇根州立大学(MSU)的学者进行的合作,他们一直在寻找通过分析人工智能(AI)生成的图像来逆转工程深击的方法,以揭示创建它的AI机器学习模型的识别故事特征。

  这项研究很有趣,因为它很可能会成为Facebook不仅识别深击的最佳方式,而且还准确地指出了谁制造了这些人以及他们一直在创造什么 - 从而帮助公司迅速揭示了“邪恶的”坏演员网络,这些网络可能会试图从抹黑人民和艰难的民主党选举中做一切。

  了解有关合成内容的未来,Matthew Griffin的主题演讲的更多信息

  先前的研究已经能够确定哪种已知的AI模型产生了深层效果,但是由MSU的Vishal Asnani领导的这项工作通过识别未知模型的建筑特征而进一步迈出了一步。这些特征被称为超参数,必须在每个机器学习模型中像引擎中的零件一样调整。总的来说,他们在完成的图像上留下了独特的指纹,然后可以使用该指纹来识别其源。

  Facebook Research Lead Hassner告诉The Verge,确定未知模型的特征很重要,因为DeepFake软件非常易于自定义。如果调查人员试图追踪他们的活动,这可能会使坏演员能够掩盖他们的轨道。

  哈斯纳说:“假设一个不好的演员正在生成许多不同的深击,并将它们上传到不同的平台上。”如果这是一种新的AI模型,那么过去几乎没有人能说过,现在,我们可以说,‘看,在这里上传的图片,在那里上传的图片,所有这些都来自同一[ai]模型[ai]模型[或一组人]。罪魁祸首。’”那是一个改变游戏规则的人。

  Hassner将工作与用于识别哪种相机模型的法医技术进行了比较,用于通过寻找所得图像中的图案,或者根据其独特的射击引脚留下的图案来拍摄特定镜头。

  他说:“不过,并非每个人都能创建自己的相机或枪支。”“尽管任何具有合理经验和标准计算机的人都可以烹饪自己的[AI]模型,从而产生深层效果。”

  所得算法的指纹不仅可以是生成模型的特征,而且还可以识别出哪些已知模型创建图像以及图像是否首先是深击。

  哈斯纳说:“在标准基准下,我们获得了最先进的结果。”

  但重要的是要注意,即使这些最先进的结果也远非可靠。当Facebook去年举行了DeepFake检测竞赛时,获胜算法只能在65.18%的时间内检测到AI-Wemagiend的视频。参与研究人员说,使用算法发现深击仍然是“未解决的问题”。

  这样做的部分原因是生成AI的领域非常活跃。每天发布新技术,任何过滤器几乎不可能跟上。

  Hassner同意时,那些参与该领域的人敏锐地意识到了这种动态,当被问及发布这种新的指纹算法是否会导致研究可能不会被这些方法揭示的研究。

  他说:“我希望这样。”“这是一款猫和鼠标游戏,它仍然是猫和鼠标游戏。”

分享到
声明:本文为用户投稿或编译自英文资料,不代表本站观点和立场,转载时请务必注明文章作者和来源,不尊重原创的行为将受到本站的追责;转载稿件或作者投稿可能会经编辑修改或者补充,有异议可投诉至本站。

热文导读