一名哈佛医学院的学生使用OpenAI的GPT-2对爱达荷州的医疗补助计划草案提出了评论； 志愿者们除了人类以外，都无法区别他们
爱达荷州于2019年10月提议更改其医疗补助计划。该州需要获得联邦政府的批准，该州通过Medicaid.gov征求公众反馈。
大约有1000条评论到达。但是有一半不是来自关心的公民，甚至不是互联网巨魔。它们是由人工智能生成的。一项研究发现，人们无法将真实评论与假评论区分开。
该项目是哈佛大学技术娴熟的医学生Max Weiss的工作，但当时很少受到关注。现在，随着AI语言系统的迅速发展，有人说政府和互联网公司需要重新考虑如何征求和筛选反馈信息，以防止深深的伪造文本操纵和其他AI驱动的干扰。
哈佛大学肯尼迪学院的教授拉坦亚·斯威尼（Latanya Sweeney）说：“机器人能够轻松生成和提交可在政府网站上模仿人类言论的相关文本令人惊讶，而且确实很重要。”他为魏斯（Weiss）如何从伦理上进行实验提供了建议。
斯威尼说，问题远远超出了政府的服务范围，但是公共机构必须找到解决方案。她说：“人工智能可以淹没真实人类的言论。” “政府网站必须改变。”
美国医疗保险和医疗补助服务中心表示，为回应魏斯的研究，它已向公众评论系统添加了新的保障措施，尽管它拒绝讨论具体细节。魏斯说，美国总务管理局（US General Services Administration）已与他联系，该总局正在开发新版本的联邦政府网站，以发布法规和评论，以寻求更好地保护其免受假评论的方法。
政府系统以前一直是自动影响运动的目标。 2017年，研究人员发现，已经自动生成了超过一百万条关于向联邦通信委员会提交的关于回滚网络中立性规则计划的评论，其中某些短语被复制并粘贴到不同的消息中。
“当我看到您提交评论成为公共记录的一部分时，没有什么比提交按钮更令我震惊的。”
魏斯（Weiss）的项目突显了更为严重的威胁。过去几年中，在将AI应用于语言方面取得了显着进步。当强大的机器学习算法被馈入大量的培训数据时（以从网上刮取的书籍和文本的形式），它们可以生成能够生成令人信服的文本的程序。除了无数有用的应用程序之外，这还带来了前景，即各种互联网消息，评论和帖子都可以被轻易伪造，并且难以被发现。
“随着技术的进步，” Sweeney说，“人类的演讲场所会在没有人类知识的情况下受到操纵。” Weiss于2019年夏天在一家医疗保健消费者权益保护组织工作，当时他了解了进行医疗补助变更所需的公众反馈流程。知道这些公众意见已经影响了以前更改州医疗补助计划的努力，Weiss寻求了可以自动生成意见的工具。
他说：“当我看到您提交评论成为公共记录的一部分时，没有什么比提交按钮更令我震惊的。”
Weiss发现了GPT-2，这是当年早些时候由旧金山的AI公司OpenAI发布的程序，并意识到他可以生成虚假评论来模拟民意。韦斯说：“微调GPT-2以便真正发表评论很容易，我也感到震惊。” “这在许多方面都相对令人担忧。”
除了评论生成工具之外，Weiss还构建了用于自动提交评论的软件。他还进行了一项实验，要求志愿者区分AI生成的评论和人类编写的评论。志愿者们没有比随机猜测更好。
提交评论后，Weiss通知了Medicare和Medicaid Services中心。他添加了一些字符，以便于识别每个假评论。他说，即便如此，人工智能反馈仍然在线发布了几个月。
OpenAI于去年六月发布了其文本生成程序的更强大的版本，称为GPT-3。到目前为止，只有少数AI研究人员和公司可以使用它，有些人正在构建有用的应用程序，例如从项目符号生成电子邮件的程序。当发布GPT-3时，OpenAI在一份研究论文中表示，即使它已经知道Weiss的研究，也没有看到GPT-2被恶意使用的迹象。
OpenAI和其他研究人员已经发布了一些能够识别AI生成的文本的工具。它们使用类似的AI算法在文本中发现明显的标志。目前尚不清楚是否有人使用它们来保护在线评论平台。 Facebook拒绝透露是否正在使用此类工具。谷歌和推特没有回应置评请求。
“随着技术的进步，人类演讲场所将在没有人类知识的情况下受到操纵。”
还不清楚是否还使用了先进的AI工具来创建假内容。八月份，Google的研究人员发布了一项实验的详细信息，该实验使用了Deepfake-text-detection工具来分析超过5亿个网页。他们发现这些工具可以识别托管自动生成的文本和垃圾邮件的页面。但是尚不清楚是否有任何内容是使用AI工具（例如GPT-2）制作的。
斯坦福大学互联网观察站（Stanford Internet Observatory）研究经理RenéeDiResta表示，她希望更多的政府网站会受到假冒文字的攻击。她说：“每当您拥有新技术时，它就是某些人手中的工具，而又是其他人手中的武器。”
政治驱动的错误信息已成为美国政治中的关键问题。哈佛肯尼迪学校肖恩斯坦媒体，政治与公共政策中心研究主任琼·多诺万（Joan Donovan）警告说，可能不需要先进的AI来侵蚀人们的真实感。多诺万说：“人们的情绪已经磨损，这使他们很容易受到方便的解释，而不是困难的事实。”
想要最佳工具来健康吗？查看我们的Gear团队精选的最佳健身追踪器，跑步装备（包括鞋子和袜子）和最佳耳机
