gov.UK

Digital下将由数字，文化，媒体和体育大臣和内政部大臣于2020年12月15日向国会提交

我们的世界现在是数字世界。从与亲人联系到我们开展业务和提供公共服务的方式-我们生活的几乎每个部分现在至少现在都部分在线。

但是，COVID-19大流行已使人们关注有害活动和在线内容带来的风险。大流行使虚假信息和虚假信息激增，一些人利用不确定性来激发恐惧并引起混乱。大流行也突出了一个更加严重的问题。给儿童上网带来的风险。在封锁期间长达一个月的时间里，互联网观察基金会及其合作伙伴阻止了英国互联网用户至少880万次尝试访问遭受性虐待儿童的视频和图像的尝试。 [脚注1]

这个政府毫不掩饰地是高科技。我们致力于使用数字技术和服务来推动整个英国的经济增长，并确保未来的包容性，竞争性和创新性数字经济。我们正在采取行动在数字市场上释放创新，同时还确保我们使人们安全上网，并促进蓬勃发展的民主，其中多元化和言论自由得到保护。为了释放增长，我们需要确保对技术的信任。

政府应对在线危害的措施是我们计划迎接科技公司问责制新时代的关键部分，这与科技公司在我们日常生活中所扮演的角色相称。我们的抱负是建立对我们许多人依赖的技术的公众信任。最终，我们必须能够直视父母，并向他们保证，我们将尽一切可能保护他们的孩子免受伤害。

对在线危害白皮书的回应为新的谨慎职责制定了计划，以使公司对用户的安全负责。它建立在我们的宣言承诺基础上，即承诺引入立法，以使英国成为世界上最安全的在线地方，同时又捍卫言论自由。

立法将定义范围内的有害内容。原则上，该立法将解决在线发生的非法活动，并防止儿童接触不适当的材料。但是该立法还将解决在线传播的其他类型的危害-从传播有关疫苗的危险错误信息的谎言到破坏性的厌食症含量。

这些新法律将不再意味着空洞的举止-我们将在二级立法中列出危害类别，并让技术巨头来说明他们在平台上解决此内容的方式。这种方法将使人们能够管理其在线安全，并确保这些公司将无法任意删除有争议的观点。

除了处理有害内容外，该立法还将保护言论自由和维护媒体自由。公司将被要求具有可访问且有效的投诉机制，以便用户如果认为自己的内容被不公平地删除，可以提出异议。

这项规定将是相称的。范围不到英国企业的3％。我们将重点关注发生最多非法和有害活动的最大，风险最高的在线公司。

即将发布的《在线安全法案》将在法律上体现这一突破性的监管框架。

我们的刑法还必须适合数字时代，并提供受害者应得的保护。法律委员会目前正在审查是否有必要对新的犯罪行为进行处理，以应对新出现的问题，例如网络刷新和“堆放”骚扰。在必要和适当的情况下，我们会仔细考虑使用在线损害赔偿立法将法律委员会的最终建议纳入法律。

作为一个独立国家，英国有机会为基于风险的比例监管框架设定全球标准，以保护网上公民并维护其言论自由权。我们将与我们的国际合作伙伴合作，为应对这一共同挑战制定共同的方法，同时实现我们的雄心壮志，以使英国成为世界上最安全的上网地方。我们将领导，但我们相信其他人也会加入我们。

CBE国会议员Rt Hon Oliver Dowden数字，文化，媒体和体育大臣

1.在线危害白皮书阐明了政府的雄心壮志，旨在使英国成为世界上最安全的上网场所，也是发展和开展数字业务的最佳场所。它描述了一个新的监管框架，该框架规定了公司应承担的责任，以提高其在线用户的安全性，并由独立监管者监督和执行。这将建立公众对这些公司所提供服务的信任，并支持蓬勃发展和快速增长的数字部门。白皮书提出，监管应成比例且基于风险，以确保公司拥有适当的系统和流程来应对有害的内容和活动。它还明确指出，该框架将保护用户的权利，包括在线言论自由。

2.政府在2020年2月发布的《在线危害白皮书-政府的初步回应》中阐明了正式磋商的结果，并阐明了其旅行方向。白皮书，并宣布了许多进一步的措施，以增加比例和保护言论自由。它还表明政府有意任命Ofcom为监管机构。自2月以来，政府一直在制定其政策建议，并做出了进一步的重要变化。政府的全面回应证实，Ofcom将在立法中被任命为监管机构，并列出了预期的政策立场。

3.政府在制定框架时采取了有意为之的协商和迭代方法，以确保法规随着技术的进步而协调一致，相称且敏捷。它是政府用于规范数字技术的总体，支持创新的方法的一部分，该方法将解决数字技术引起的影响繁荣，安全和民主价值观的问题。这是为所有人建立更安全，更繁荣的数字未来的重要一步。

4.解决在线危害是一个全球性问题，政府认识到英国和其他地方的法律法规仅构成了所需对策的一部分。英国凭借其在数字创新方面的实力，备受推崇的法律体系，友好的商业环境和世界一流的监管机构，有机会在这一领域扮演全球领导者的角色。因此，政府与我们的许多国际伙伴紧密合作以应对这一共同挑战，以便为解决在线危害采取通用方法。在线损害赔偿制度的发展代表了英国战略的重要一步，该战略旨在为数字技术的治理创建一个连贯且有利于创新的框架，并为基于风险的比例监管框架设定全球标准。

5.互联网在许多方面改变了我们的生活，使生活变得更好。它彻底改变了我们彼此联系的能力，并创造了以前难以想象的经济机会。英国所有成人年龄段的互联网使用率从2012年的80.9％增加到2019年的90.8％。[脚注2] 2020年4月，英国的互联网用户平均每天在线花费4个小时2分钟，这一数字创下了纪录。 [脚注3]

6.但是，采取强有力的监管行动的理由在继续增长。超过四分之三的英国成年人表示对上网感到担忧，[脚注4]，更少的父母认为其收益大于子女上网的风险，比例从2015年的65％下降至2019年的55％。[脚注5 ]

7.白皮书列出了在线进行非法和有害内容及活动的广泛证据。政府强调指出，最严重的非法伤害盛行，威胁着我们的国家安全和儿童的人身安全。它还解释了如何将在线服务用作滥用工具。白皮书承认，人们日益关注有害物质对儿童福祉的影响。这些问题没有消失。

8.在非法内容和活动方面，2019年，美国技术公司将超过6900万张与儿童性剥削和性虐待有关的图像和录像转交给了美国国家失踪与受虐儿童中心，[脚注6]超过上一年的50％。 [脚注7]在2019年，互联网观察基金会评估的260,000份报告中，有132,730幅包含被性虐待儿童的图像和/或视频（相比之下，2018年为105,047幅），其中46％的图像涉及描述性虐待儿童的图像。不超过10岁。 [脚注8]在2015年1月推出至2019年3月之间，已将830万张图像添加到了虐待儿童图像数据库中。 [脚注9]国家犯罪局估计，英国至少有30万个人对儿童构成性威胁。 [脚注10]

9.恐怖主义团体利用互联网传播旨在激化，招募和鼓舞易受伤害的人们的宣传，并煽动，提供信息以促成和庆祝恐怖袭击。一些公司正在采取积极措施来打击在线恐怖分子的内容。较大的平台已经在采取主动措施并使用自动化技术。例如，Twitter在2019年1月至6月之间处理了95,887个与促进恐怖主义/暴力极端主义有关的独特帐户。[脚注11]但是，恐怖分子及其支持者继续使用各种平台来实现其目标。至关重要的是，产业界必须共同努力，政府和产业界应继续在反恐全球互联网论坛等倡议的基础上建立基础，以防止出于恐怖目的利用互联网。

10.除了非法内容和活动外，白皮书还强调公众越来越关注合法但可能有害的在线内容和活动。此类活动的范围从在线欺凌和虐待到倡导自我伤害，再到传播虚假信息和错误信息。这种行为可能不构成刑事犯罪，但可能具有腐蚀性和破坏性影响，造成有毒的在线环境，并对用户的在线表达能力产生负面影响。

11.根据Ofcom和信息专员办公室进行的研究，2019年，在过去12个月中，有23％的12至15岁的年轻人在互联网上经历或看到过欺凌，虐待行为或威胁。 [脚注12]将近一半的女孩因为害怕受到批评而拒绝在社交媒体上发表意见。 [脚注13] LGOP +反暴力慈善机构Galop最近进行的在线仇恨犯罪调查强调，在过去的5年中，十分之八的受访者经历了反LGBT +在线滥用行为。 [脚注14]在2019年，保护英国犹太人免受反犹太主义侵害的慈善机构社区安全信托（Community Security Trust）与2018年相比，举报的反犹太人在线事件增加了50％。[脚注15]

12.在COVID-19大流行期间，数字技术带来了巨大的好处-从在公共服务中释放创新，到使数百万人能够远程工作，以及支持人们与朋友和家人保持联系。但是，由于数字服务在我们的生活中扮演着越来越重要的角色，网上非法和有害内容和活动带来的风险也得到了极大缓解。

13.研究表明，有47％的儿童和青少年看过他们希望在锁定期间看不到的内容。 [脚注16]在封锁期间的一个月时间内，互联网观察基金会及其合作伙伴阻止了英国互联网用户至少880万次尝试访问遭受性虐待儿童的视频和图像的尝试。 [脚注17]大流行还推动了网上虚假信息（故意制造和传播旨在欺骗和误导受众的虚假和/或操纵信息）和虚假信息（无意间共享虚假信息）的激增。社交媒体一直是大流行期间有关5G技术和COVID-19疫苗接种的虚假或误导性信息的最大来源。 [脚注18]

14.许多主要的社交媒体公司已经通过对产品进行技术更改（包括在线保护用户安全的技术）来解决大流行期间的虚假信息和错误信息，这比以往任何时候都更加迅速和迅速。但是，这在服务之间是不一致的。新的监管框架将激励企业确保公司继续采取一致和透明的行动，以确保用户安全。 COVID-19聚焦于需要更好地了解和应对在线不断变化的新挑战，尤其是对儿童造成的风险的需求。

15.政府对数字技术进行治理的方法旨在最大化收益，同时将风险最小化。我们正在一系列领域采取行动，包括数据和数据使用，网络安全，竞争以及保护高质量的新闻内容，以改善在线安全性，支持动态和竞争性的数字市场，并在网上推广我们的民主价值观。我们的方法与创新的核心相称。未来的数字战略将阐明政府如何将这些工作整合在一起。

16.政府对在线危害的应对措施是这种整体方法的关键部分。在线危害机制将改善在线用户的安全性，建立公众对数字服务的信任，支持创新并推动数字和经济增长。

17.在线危害框架将是连贯和全面的，从而使监管领域急需明确，并为行业和用户提供支持。它将是相称的，基于风险的，并在其范围内进行了严格定义。该法规将避免对公司采取“一刀切”的做法，以免影响范围，以反映在线服务和危害的多样性。政府特别重视保护儿童，[脚注19]确保采用创新的方法，并保护在线言论自由。监管将维护多元化，并确保互联网用户可以继续在线进行激烈的辩论。

18.监管将只是解决方案的一部分。政府将支持英国安全技术领域的增长和创新，为英国安全技术公司提供最先进的安全技术创造合适的条件。还必须授权用户认真考虑他们在网上遇到的情况，并且必须从一开始就设计在线产品和服务以确保用户安全。

促进服务使用者之间的公共或私人在线互动，其中一个或多个在英国。

20.该立法将适用于向英国用户提供服务的任何范围内的公司，无论其在世界的哪个地方。在以下列出的新豁免之后，只有一小部分英国企业（政府估计少于3％）[脚注20]将落入立法范围之内。 Ofcom的监管方法将针对危害风险最大的公司。

21.政府最初的答复证实，企业对企业服务将超出范围。在诸如互联网服务提供商之类的能够促进在线活动中发挥功能的服务，也将免除谨慎义务，尽管它们有责任与监管机构就业务中断措施进行合作。政府正在引入其他条款，以完全免除许多低风险企业的谨慎义务。新的豁免包括企业内部使用的服务以及功能有限的许多低风险企业（例如，仅提供产品和服务评论的零售商）。这避免了对低风险公司施加监管负担。

22.利益相关者在磋商期间对法律将如何影响在线新闻内容以及维护媒体自由的重要性提出了关切。新闻发布者在其自己的网站（例如，报纸或广播公司的网站）上发布的内容将不在监管框架的范围之内，并且用户对此内容的评论将被豁免。

23.为了保护媒体自由，立法将包括对范围内服务共享的新闻内容的有力保护。政府致力于捍卫自由媒体的宝贵作用，并且很明显，在线安全措施必须做到这一点。政府将继续与一系列利益相关者合作，以制定我们的建议。

新的监管框架将适用于哪些有害内容或活动，以及公司需要采取哪些行动？

24.立法将规定有害成分和活动的一般定义。二级立法中将列出有害内容的有限优先类别，对用户构成最大风险。这将为公司和用户提供法律确定性。

25.在新的立法框架下，范围内的公司将有责任照顾其用户。该法律将要求公司防止在线上非法内容和活动的扩散，并确保使用其服务的儿童不会暴露于有害内容。它还将让最大的科技公司来说明他们所说的应对活动和内容的行为，这些活动和内容对使用其服务的成年人有害。下文第27和28段列出了有关该方法的更多细节。

26.为了履行谨慎义务，范围内的公司将需要了解服务受到个人伤害的风险，并建立适当的系统和流程以改善用户安全。 Ofcom将监督并强制公司遵守谨慎义务。公司和监管机构将需要遵循一系列指导原则。这些措施包括提高用户安全性，保护儿童并确保比例。进一步的细节载于附件A。

27.监管框架将就公司服务内容和活动的不同类别在范围上建立对公司的不同期望：非法行为；对儿童有害的；成年人接触时是合法的，但可能对他们有害。

28.新的监管框架将采取分层的方法。 绝大多数服务将是“类别2服务”。 这些公司将需要采取适当措施解决相关的非法内容和活动，[脚注21]，并保护儿童。 一小群高风险，影响深远的服务将被指定为“类别1服务”，并且仅要求这些服务的提供者对其服务的内容或活动采取合法但有害的行动。 大人。 这种分层的方法将保护言论自由，并减轻小型企业负担过重的风险。 它还将确保追究在线人数最多的公司的责任，以解决彼此之间的不匹配 ......