近年来,错误信息在社交媒体平台上的传播加剧了分裂,加剧了暴力并重塑了地缘政治。有针对性的广告已成为主要战场,不良行为者从战略上散布误导性信息或在骗局中束手无策。为了解决这些威胁,Facebook努力消除或重新定义某些目标类别。但是,尽管研究人员发出警告,但其广告系统仍然允许任何人以大量人口和群体为目标,包括针对美国军事人员的运动。目前,主要分支机构的类别包括“陆军”,“空军”和“国民警卫队”,以及更狭窄的类别,例如“美国空军安全部队”。
乍一看,您可以像大多数其他组织一样轻松地将广告定位到这些组中,这似乎是无害的。但是独立安全研究人员安德里亚·唐宁(Andrea Downing)表示,如果现役美军现役军人(其中许多人可能会陷入针对这种更广泛的Facebook的目标)的风险更大,那么在线面对错误信息可能会影响他们对世界大事的理解或暴露他们诈骗。尽管唐宁本人还没有检测到此类恶意活动,但广告与Facebook上的错误信息之间的相互作用一直是模糊的。
例如,在国会大厦骚乱过后,技术透明项目的研究人员发现,Facebook的系统已经展示了诸如防弹衣和枪套等军事装备的广告,以及有关叛乱和内容更新的信息,这些信息加剧了选举错误信息。即使国会议员呼吁Facebook停止军事装备广告,并且该公司同意临时禁止,但某些广告似乎仍在溜走。
"通过Facebook上的广告定位系统,我可以制作广告或通过广泛的伞类或更精细的排列将消息直接发送给现役和前身,"唐宁说。某个民族国家的演员可能会滥用这一权力,以大规模或更有针对性的方式对美国军人实施影响力行动。
“有针对性的广告可以使恶毒的人使用行话,将自己嵌入有利状态并操纵服务成员。”
根据营销公司SheerID的数据,在美国居住着大约130万现役美国军人和1800万退伍军人,所有这些人的购买力可能高达1.2万亿美元。 Facebook提供了根据职位名称和雇主用户列表以及“兴趣”投放有针对性的广告的选项,它是通过点击相关广告或喜欢页面等用户活动获得的。在这两种情况下,都包括军事部门。对于职务,这将包括仍在其履历中引用该经验的退休人员,以及填写该领域的现役人员。除了常规定位外,Facebook还为广告商提供工具,以通过其Messenger聊天平台与用户联系。
许多科技巨头都是通过广告赚钱的,并提供类似的功能来促进有针对性的营销。不过,Google和Twitter的平台不提供详细的军事类别。
让我们说,无论军队的分支机构有多少年轻的服役人员,他们都被调离家人,寻找某种血缘关系。 Facebook提供的是,"比尔·哈格斯塔德(Bill Hagestad)说,他是1949年红龙航空的一名独立安全工程师,已经退休了海军陆战队中校。 "因此,有针对性的广告可以让恶毒的个人使用行话,轻松嵌入自己的行列,并操纵服务成员,而不论其年龄或级别如何。这可能会损害操作安全性,这一点与自己操纵人员的安全性一样重要。"
唐宁也是社交媒体健康支持非营利组织The Light Collective的共同创始人,她说她首次尝试于2019年12月通过非正式联系向Facebook通知她的担忧。她说,几天之内,Facebook删除了她强调过的许多军事广告目标群体。该问题似乎已解决。不过,在2020年8月底,她注意到甚至在Facebook于8月中旬削减其军事类别之后,许多目标群体已经重新出现。 Facebook当时写道:“我们结合了代表军事基地或团的几种选择,因为很少使用特定的兴趣,而广告商仍然可以吸引对军事感兴趣的受众。”
9月24日,唐宁(Downing)通过Facebook的漏洞赏金披露门户网站提交了有关其调查结果的漏洞报告。六个星期后,即11月5日,Facebook代表回答说,该公司并不将调查结果视为漏洞。
Facebook告诉《连线》(WIRED),它没有唐宁在2019年12月为传达她的研究所做的最初努力的记录。一位发言人补充说,该公司会不断审查其提供的定位选项并评估其使用方式,并且广告商无法明确定位现役状态。此外,Facebook上的所有广告都必须遵守公司的广告政策,该政策禁止操纵和滥用。国防部还提供广泛的社交媒体指南和建议,以确保军事人员和行动的安全。
Facebook发言人告诉《连线》杂志:“人口定位,例如职务和雇主,是基于人们选择在其个人资料中提供的信息。” “人们还可以通过我们的广告偏好设置,根据这些类别选择是否可以使用此个人资料信息向他们展示广告。”
由于Facebook的军事广告定位类别不断出现,唐宁(Downing)看到这种循环重复了多次。有些再次出现,而另一些则替换为不同的子组。有线证实了唐宁关于这些矛盾之处的观察。 Facebook没有对这些波动的解释发表评论。 ProPublica在2017年发布了一份关于反犹太人广告定位类别的报告后,Facebook暂时取消了根据与职称和教育相关的类别进行定位的功能。该公司于2018年修订并恢复了这些机制。
“唐纳德说:“没有动力促使Facebook从根本上改变广告定位的设计。 “而且正如我们所看到的那样,它超出了范围。可以预防此类问题的网络安全披露渠道。”
在Facebook上进行了十多年的检测工作,这使得运行公然的恶意或欺诈性广告变得更加困难。但是该公司一直在努力解决广告中的错误信息及其影响。例如,直到9月底,Facebook才最终禁止与QAnon和其他军事化活动有关的广告。即便如此,QAnon广告内容仍在数周后出现。广告欺诈甚至恶意软件分发活动也偶尔会越过Facebook的防御。
恶意广告计划广泛地是整个网络的积极威胁。在最近的指导中,美国网络安全和基础设施安全局警告说,恶意广告(通常众所周知)使用“恶意或被劫持的网站广告来传播恶意软件,并且是利用的重要载体。” CISA补充说:“顾问可以使用精心制作和量身定制的恶意广告作为针对特定受害者的针对性运动的一部分,而不仅仅是广谱攻击。”
唐宁在9月下旬还将自己的Facebook调查结果提交给卡内基梅隆大学(Cannegie Mellon University)的CERT协调中心时,便想到了这些类型的量身定制的活动。 CERT是一个组织,可帮助研究人员对漏洞进行分类并协调其公开披露。
“一方面,针对性的广告和分析用户是Facebook的工作方式; CERT漏洞分析技术经理Art Manion说道。 “取决于目标的性质,可能会或多或少地涉及安全和隐私问题。如果美国军方中相当特定的人群可以针对广告而提出影响力运动,虚假信息的问题,或者可能有人会试图插入恶意广告。 Facebook不允许或支持这些事情,但这是可以想象的。”
尽管如此,Manion表示,唐宁的调查结果对于CERT跟踪的漏洞类型(通常是软件的技术漏洞,可以由供应商修补或补救)“超出范围”。这意味着CERT不会为研究分配“常见漏洞和披露”或CVE编号以跟踪问题。他补充说,尽管如此,这项研究提出了有关安全社区漏洞跟踪机制中存在差距的重要问题。
最近,CERT的Manion和他的同事一直在调查安全界普遍缺乏评估和处理机器学习和人工智能算法或其他分析系统中潜在风险的能力。这些平台的强大功能和复杂性(例如Facebook的广告定位服务),使得普通人和安全专家都很难预先考虑所有潜在的交互作用和后果-即使用户从概念上理解某些信息会用于内容定位。
Manion说:“ [Downing的发现]不会有补丁,但这并不意味着它不是某种问题。” “现有的安全漏洞解决模型在这里有用吗?我建议他们不要,我们需要找出一些新方法。”
想要最佳工具来健康吗? 查看我们的Gear团队精选的最佳健身追踪器,跑步装备(包括鞋子和袜子)和最佳耳机