人工智能与人工智能

科林·约翰逊(R.Colin Johnson)2020年6月11日评论人工智能(AI)在捕捉信用卡诈骗企图方面取得了长足进步-我们大多数人都收到了信用卡发行商的通信，确认了网络罪犯的企图购买。使用机器学习(ML)来汇编显示其信用持有人的正常行为模式的合成恒等式，金融机构可以实时发现异常行为。不幸的是，网络罪犯同样使用人工智能来创建自己的合成身份，产生的结果足够现实，足以愚弄发现异常行为的人工智能。

这场人工智能之战-再次打击网络安全-也在假新闻、假视频和假音频的战壕中进行。就这样，军备竞赛开始了：人工智能对人工智能。

木星研究公司的斯特芬·索雷尔(Steffen Sorrell)说，人造身份是信用卡诈骗的容易摘到的果实。根据木星研究公司(Jupiter Research)最新的在线支付欺诈报告，到2024年，人工身份正在推动在线支付欺诈给坏人造成2000亿美元的损失。对于好人来说，这也推动同期欺诈侦查市场达到100亿美元，高于今年的85亿美元。

网络诈骗发生在一个高度发达的生态系统中，有分工，乔什·约翰斯顿说，他是基于ID的防诈骗企业博伊西的人工智能科学总监。约翰·斯顿说，网络罪犯专门从事不同类型的犯罪，从手动撇卡到用人工智能创建人工身份。约翰斯顿说，其他人会针对慈善机构和数字商品商家等软目标测试被盗的卡号和凭证，以确保它们没有被注销。约翰斯顿声称，可以在黑暗网络的互联网黑市上以不到1美元的价格购买到具有准确姓名、地址和CVV(卡验证值)的高限额信用卡号码。

约翰斯顿说，诈骗者可以购买这些经过验证的卡的列表，并通过任何数量的在线计划将其货币化。这些罪犯大量使用人工智能，他们也像合法开发人员一样在互联网论坛上分享软件工具和提示。

根据约翰斯顿的说法，这些大量的假货使用了所有类型的人工智能和其他自动化技术，从通过组合真实的名字和姓氏再加上随机数字来生成和注册真实的电子邮件地址的小程序，到通过组合来自多个真人的信息位来创建合成身份以创建合成身份的大型ML程序。如果欺诈检测器检查合成身份，他们通常会发现欺诈者已经记录了一个虚假的电子邮件账户、Facebook页面和其他显示合成身份细节的互联网印象。

因此，网络安全程序员的欺诈检测技能与黑帽们的欺诈制造技能形成了对立。

这些造假技巧不仅用于信用卡诈骗，还延伸到图像和语音识别领域，在这些领域，这些工具正被反向使用，以制造假新闻、假视频和假音频。Juniper Research的尼克·梅纳德(Nick Maynard)表示，事实上，使用虚假音频的汇款欺诈比在线支付欺诈增长得更快。他表示，到2024年，这一领域的损失预计将增长130%。

深度伪造欺诈是一场打地鼠的游戏，因为每一种人工智能-无论是好的还是坏的-都暂时占据上风。根据约翰斯顿的说法，这是一场猫捉老鼠的游戏，他用一个他称之为摩擦的单一变量来衡量成败，这个变量会减慢一方或另一方的速度，直到一种新的润滑形式可以让一方领先于另一方为止，他认为这是一场猫捉老鼠的游戏。约翰斯顿用一种他称之为摩擦的单一变量来衡量成败，这种变量会减慢一方或另一方的速度，直到一种新型的润滑方式能够让一方领先于另一方。

欺诈者会对摩擦做出反应，就像互联网上的合法用户一样。当我们占上风，给诈骗者带来太多摩擦时，他们就会转移到一个没有欺诈探测器保护的更软的目标上。一个好的欺诈解决方案会增加坏人的摩擦，减少好客户的摩擦。约翰斯顿说，然而，一方的进步会导致另一方战略的转变。

根据约翰斯顿的说法，当互联网还很新的时候，网上没有多少值得偷的东西，所以欺诈者大多在网上测试信用卡，然后通过亲自购买商品来将其货币化。今天，在线商务对坏人和我们其他人来说都很方便，而内置安全芯片的信用卡的广泛采用使得面对面交易对欺诈者来说是一种危险，其结果是越来越多的欺诈活动转移到了网上。因此，根据约翰斯顿的说法，欺诈侦测机构正在使用更详细的分析。

约翰斯顿说，在不放弃农场的情况下，我们在2020年成功的欺诈预防方法依赖于跨越大型数据集来寻找欺诈固有的模式。一个坏人可以窃取你所有的秘密，但他们不能模仿你的品味、行为和历史。归根结底，诈骗者要想拿到有价值的东西，就必须实施诈骗，而有了正确的数据，我们就能区分诈骗和好客户之间的区别。

人工智能已经被用来自动创建假新闻故事。例如，OpenAI-2的原型文本生成系统使用机器学习来翻译文本、回答问题和撰写假新闻。在唐纳德·特朗普意外…之后，俄罗斯向美国宣战。"；被提供给GPT-2，它创造了这个假新闻故事：

在唐纳德·特朗普意外向空中发射导弹后，俄罗斯向美国宣战。俄罗斯表示，它已经确定了导弹的轨迹，并将采取必要措施，确保俄罗斯民众和该国战略核力量的安全。白宫表示，它对俄罗斯违反禁止中程弹道导弹条约的行为极为关切。

有关GPT-2生成假新闻的更多细节可以在OpenAI网站上的示例中找到。

水牛城大学(University At Buffalo)科学与工程学教授大卫·多尔曼(David Doermann)表示，像OpenAI这样的开源财团正在向我们展示欺诈的未来可能是什么样子：使用可以扩大到大规模攻击的自动化工具。目前，假货占据了上风，但我们需要保持较小的差距，这样我们才能迅速超越它们。这种情况已经变得很像恶意软件，黑客利用的每个新漏洞都由网络安全程序员打补丁。有朝一日，假冒者进一步追查可能会变得过于昂贵，但更有可能的是，它仍然是一场来回的游戏，没有明确的赢家。

同时，根据多尔曼的说法，好人需要教育公众对互联网上的一切持保留态度；如果这听起来太好(或太坏)而不像是真的，那么它可能就是真的。这不是一项不可能完成的任务。例如，多尔曼说，大多数人现在知道不要点击来自他们不知道的来源的附件，媒体甚至知道如何在垃圾邮件到达你的收件箱之前识别并过滤掉它。同样，已知的假货，甚至可能的假货都可以贴上这样的标签，以提醒人们不要把它们看得那么认真。在某些情况下，比如儿童色情制品，假货可以被完全过滤掉，而不会违反第一修正案的权利。

联合国国际犯罪和司法研究所(UNICRI)人工智能和机器人中心负责人伊拉克利·贝里泽(Irakli Beridze)对此表示赞同。深度造假只是被操纵的新闻问题的一个新维度。Beridze说，这项技术已经存在，但直到最近才开始大众化，通过大量的应用变得更容易使用，这些应用使几乎没有技术诀窍的个人能够制造出他们自己的深层假货。深度造假的蔓延构成了可能威胁国家安全的深远挑战，包括威胁选举和公共安全，以及破坏外交、民主、公共话语和新闻业。

据Beridze说，许多组织都在努力开发软件，以便更容易地识别深度假货。他和多尔曼声称，识别深层假货的技术工具已经可用，只需进一步开发成交钥匙解决方案即可。与此同时，双方都认为，需要做更多的工作来降低普通消费者的轻信程度。就像垃圾邮件问题在公众意识中被提高一样，假货的意识也同样需要提高，贝里兹称之为提高对消费者本身的批判性分析。

就在去年，犯罪司法所在海牙举行的和平、正义和安全黑客松上提出了一个深层次的虚假挑战。比赛要求参赛者创造检测被篡改视频的工具，这些工具可以用来支持执法、安全机构、司法机构、媒体和普通公众。

Beridze说，获胜的团队提出了一个用于图像分类的神经网络架构，以及一个可以简化与用户交互的Web应用程序。这一解决方案-概念的技术验证-随后在2019年的技术研讨会上得到了完善。2020年，我们正积极努力将这项技术从概念验证转化为全面应用。

然而，Beridze警告说，深度假冒问题没有快速解决的办法。他解释说，技术变化的步伐越来越快，需要更全面的解决方案来监控技术进步和使用这些技术的假货，以便通过预测明年更先进的技术来领先于看不见的问题。

这是一个循环过程，需要多个利益相关者和跨部门协作。在这方面，联合国中心的目标之一是增加和促进与公共部门、工业、学术界以及相关安全实体、情报机构和反恐机构等利益攸关方的知识共享和关系建设，以帮助当局跟上步伐，Beridze说。通过这样做，我们为开发、部署和使用合法、值得信赖并尊重人权、民主、正义和法治的解决方案提供指导。

假视频和假音频是由糟糕的人工智能推动的最新欺诈创新。可以说，公众对这类假新闻的认识始于2016年大选年，当时假新闻成了一个流行语。大多数政治视频显然都是假的，包括一次性的模仿，只不过是用四月愚人节版本的演讲稿取代了政客们的嘴唇。然而，通过使用机器学习改变人工智能面部识别工具的用途，程序员创造了即使是最老练的观众也能愚弄的深伪视频。

Doermann曾是美国国防高级研究项目局(DARPA)MediFor(媒体取证)项目的项目经理，他说，DARPA已经为政府机构获得的图像开发了自动取证工具，这些图像曾经是手动的，需要专家使用，但后来被安装到执行身份验证的人工智能中。

早在它成为公众问题之前，我们就开发了人工智能工具来检测深度假货。我们担心外国政府的恐怖分子和虚假信息来源。多尔曼说：我们的目标是让人类专家用来识别赝品的方法完全自动化，这样，理想情况下，政府收集的每一种基于图像的媒体都可以理所当然地通过我们的鉴定者。

MediFor正在进行中，但已经进入将其基础研究结果纳入最终自动化工具的阶段。与此同时，一个名为语义取证(SemaFor)的新项目接过了基础研究的接力棒。SemaFor的目标是获取被识别为假的图像，并应用人工智能属性算法来推断媒体的来源，以及确定假货是出于恶意目的(如虚假信息宣传)还是出于良性目的(如娱乐)生成的特征算法。

对于公众来说，第一批与真实竞选视频难以区分的深层视频赝品可能会在2020年美国总统竞选期间浮出水面。深度假音频已经被网络犯罪分子成功地用于转账诈骗。例如，“华尔街日报”(The Wall Street Journal)报道称，一个模仿某公司首席执行官(CEO)声音的深度伪造电话欺骗了该公司，使其向一名网络罪犯汇去了24.3万美元。假币最终被发现，但这笔钱很久以前就是通过当局无法追踪的电汇网络进行的。

用于欺诈检测的黄铜环是一个验证器，可以即时识别并实时标记假货。不幸的是，结果很可能是欺诈者的人工智能报复，目的是实时愚弄验证者。

R·科林·约翰逊(R.Colin Johnson)是京都奖获得者，他担任科技记者已有20年之久。