篇博文摘自我们的时事通讯《Verified with Persona》。在每封电子邮件中，订阅者都会从我们的一位专家那里获得简短的主题深入探讨，以及我们认为有趣的其他故事的链接。您可以在此处订阅，以便每隔一个月在您的收件箱中收到一次新闻通讯。 作为 Persona 的信任和安全架构师，我花了很多时间与人们交谈——行业专家、潜在客户，甚至是《纽约时报》 ——现在，很明显每个人都在关注一件事：泰勒·斯威夫特人工智能欺诈。 不幸的是，坏人不会放暑假（尽管他们确实应该放假——外面很令人愉快），所以我们专门用这个问题来解释为什么深度假货如此危险，信任和安全团队如何考虑当今减少欺诈的问题和年龄等等。 让我们深入研究一下。 如何识别和预防生成式人工智能欺诈 在我们探索解决方案之前，让我们退后一步，探讨为什么从微软总裁到OpenAI 首席执行官的每个人都担心生成人工智能欺诈。
基本上可以归结为
可访问性。 人信服的深度造假就已出现，但该技术并不容易获得，并且主要由资金雄厚的公司（例如电影制片厂）使用。然而，今天并不缺乏工具——事实上，我们已经达到了出版物正在创建最佳尝试工具列表的地步。 而且技术比以往任 牙买加 WhatsApp 号码列表 何时候都更加复杂。您甚至不再需要知道如何使用 Photoshop – 现在，您可以圈出图像的一部分并提示 AI 将其替换为其他内容。 虽然有趣且令人兴奋，但这种能力也令人担忧，因为不良行为者可以轻松地开始使用这些功能来创建假被用于恶意目的。 更重要的是，这些工具可以轻松快速地生成假图像。以前，实施大规模欺诈需要付出相当多的努力和前期工作。现在，实现欺诈的时间要短得多——这意味着，如果您在平台上发现了深度造假，那么很可能还潜伏着其他独特的欺诈企图。 那么，解决办法是什么呢？ 这实际上是一个价值十亿美元的问题，因为到 年，合成欺诈损失预计美元。
每个人都有自己
的看法——中国要求任何使用生成式人工智能工具的人注册其真实身份，其他国家正在禁止某些人工智能工具完全如此，还有一些人正在急于通过自己的法规。 在较小的范围内，许多欺诈和 T&S 团队专注于寻找信号和特征来确定图像是 营销清单 否合法或欺诈。然而，随着越来越多的人工智能系统进入市场，不良行为者更容易进行大规模攻击，这可能不是最有效的解决方案——特别是因为深度伪造技术对人类（或欺诈检测工具）来说进入市场的时间还不够长。 ）定期准确地发现它们。 您的反欺诈策略需要随着欺诈的发展而发展，但以下是一些当今捕获和减少深度伪造的提示： 重点是阻止欺诈者，而不是欺诈行为。考虑到不良行为者生成深度赝品的速度有多快，如果您尝试一次打击每一种欺诈尝试，您将永远不会获胜。
