算法才是问题所在，而不是马克·扎克伯格

我天生就是个乐观主义者。即使在最黑暗的时候，我也会本能地寻找亮点、一线希望、充满希望的迹象。

在过去的两周里，这种本能的搜索越来越难进行。但上周日晚上，我终于找到了一个：大学期间我住过一个夏天的日本寄宿家庭的女儿在Instagram上给我发了条信息，用蹩脚的英语问我是否过得好，因为她在电视上看到“美国正在被摧毁和烧毁”。14年前我和她家人住在一起时，她从未和我说过话。不知何故，我们在Instagram上保持了联系，但从未说过一句话--直到上周日。

当然，这个小小的亮点发生在一系列相互关联的重大事件的背景下：

民权领袖、Facebook员工和其他许多人对马克·扎克伯格(Mark Zuckerberg)的批评，称其没有像杰克·多尔西(Jack Dorsey)那样“核实”特朗普的帖子。

特朗普的新行政命令挑战了法律保护(《通信体面法》第230条)，正是这些法律保护让美国的社交媒体变成了今天的样子。

然而，只有当Facebook和Instagram像它们那样增长时，我的小小亮点才会出现。

或者还有一个更深层次的问题：决定谁应该看到什么超出任何控制或责任范围，并且对这种权力没有合法性的算法。

关于社交网络的争论往往集中在关于言论自由和审查制度的高尚讨论上。目前关于特朗普恶毒的“当抢劫开始，枪击开始”的帖子就是另一个例子。缺少的是关于正当程序在技术产品中应该扮演的角色的建设性讨论，特别是算法驱动的产品。

两年前，Cloudflare的首席执行官马修·普林斯(Matthew Prince)解释了他终止右翼网站“每日风暴”(The Daily Stormer)服务的决定，这是我见过的关于正当程序和技术相交的最深思熟虑的观点。作为一名前律师，普林斯在言论自由和正当程序之间做出了重要的区分：

“谁能上网，谁不能上网的问题常常与言论自由联系在一起。我们认为更重要的原则是正当程序。就我个人而言，我相信强有力的言论自由保护，但我也承认，这是一个非常美国化的想法，并没有在全球范围内得到认同。另一方面，正当程序的概念接近普遍。在最基本的情况下，正当程序意味着你应该能够知道如果你参与一个系统将遵循的规则。

正当程序要求决定是公开的，而不是武断的。这就是为什么我们总是说，我们的政策是在我们运营的司法管辖区遵循法律的指导。执法部门、立法者和法院具有政治合法性和可预见性，可以决定哪些内容应该受到限制。公司不应该这样做。“。[大胆强调我的]。

普林斯关闭“每日风暴报”的原因是，它错误地声称Cloudflare作为供应商向该网站提供服务，是其意识形态的支持者。普林斯没有“取消”“每日风暴”，因为他不喜欢网站上的内容。他觉得有必要解释他的决定，因为这可能会开一个危险的先例。他不想成为谁可以上网的仲裁者，就像扎克伯格不想成为“真相仲裁者”一样。

我认为普林斯关于正当程序比言论自由更普遍的观点是正确的。要使正当程序发挥作用，它要求决定是公开的，而不是武断的。

决定我的订阅源中出现哪条推文，或者我接下来应该看哪段YouTube视频的算法绝不是“公开的，也不是武断的”。事实上，它们是谨慎守护的秘密武器，本应推动用户增长和参与度，进而推动更多的广告客户和更高的广告费率。

算法是一个决策过程。如果一个算法没有正当程序，它的决定就没有合法性。

你可以将同样的框架应用于任何一家社交媒体公司的首席执行官。

人们对扎克伯格感到愤怒，因为他们不同意他不解除特朗普职位的决定，但没有正当程序赋予扎克伯格任何决定的合法性。

杰克·多尔西决定在推特上发布同样的帖子，人们对此表示赞赏，因为这与他们对特朗普的看法一致，但也没有正当程序赋予多尔西这种合法性。

如果这一决定被推翻：扎克伯格解除了特朗普的职位，而多尔西没有做任何标记，那么这些决定也同样缺乏正当程序权力。如果这个决定是关于另一位政客说一些其他煽动性的事情，那也不会有什么不同。

虽然我们把愤怒、沮丧和指责都指向这些CEO，但为他们的社交网络提供动力的算法--充斥着人类用自己的意图、情感和偏见设计的功能--已经变得更加强大，远远超出了他们的控制。但是这些算法是不知名的，不透明的，更难推理，因此我们更难指责。

已经有一批投资者公开羞辱扎克伯格，并希望为Facebook的替代方案提供资金。我认为另一家风投支持的社交网络初创公司不会解决缺乏算法正当程序的问题。

关闭你在Facecbook上的所有帖子关闭你在Instagram上的所有帖子我在模仿我自己，我会资助人们更换这两个平台。https://t.co/QdQ7E4Iv5f。

[email protected](@jason)2020年6月1日。

如果一家社交网络初创公司(或任何初创公司)接受风险投资，预计最终将产生超高速增长和超高的财务回报。这就是风险投资经济学的本质，也是这些投资者唯一的职业目的。对于一个新的社交网络要快速增长以满足这一期望，完全为了用户参与度而设计的高效算法将转化为广告收入，这仍然是最好的策略。

看看全球社交媒体领域最新、最炙手可热的竞争者就知道了：TikTok形式的字节跳动(Byteance)。可以说，字节跳动自2013年其首个新闻聚合应用今日头条(意思是：今天的头条新闻)起飞以来，一直在中国炙手可热，但西方科技媒体基本上对此不屑一顾。它的第二个大热产品豆音于2016年推出，是该公司收购Musical.ly后TikTok的直接前身。无论是新闻头条还是Z世代的假唱短视频，字节跳动的应用都采用不透明的人工智能算法。这本剧本去年创造了30亿美元的利润，收入为170亿美元，其中大部分来自广告。

要想成为Facebook核心的真正替代品，社交网络的算法必须是公开的，而不是武断的，透明的，不是不露面的。它必须有正当的程序。

讽刺的是，或者说恰如其分的是，任何尺度上唯一与这种选择相似的努力就是天秤座。(像Minds这样的社交网络仍然很小。)。天秤座项目自启动以来，遇到了一波又一波的挑战和贬低。但从正当程序的衡量标准来看，它的代码库从第一天起就是开源的，它建立在区块链上，从定义上讲，区块链是一个开放的协议，它由一个组织协会管理，减少了Facebook公司或扎克伯格本人专断决策的可能性。

需要明确的是，天秤座仍然是一个羽翼未丰的概念，而不是一个可以投入生产的应用程序。它也是一个支付系统，而不是一个社交网络。现在说天秤座是否拥有算法正当程序以及由此带来的合法性还为时过早。但是，如果扎克伯格专注于隐私的社交网络愿景取得成功--在这个地方，一个失去了14年的熟人可以找到我，而不需要成为算法广告机器的实验室老鼠--天秤座和Whatsapp无疑将是未来的关键。

实现这一愿景的工程和技术挑战将是巨大的，需要数年时间。谢天谢地，扎克伯格的钱和耐心比所有风投加起来还要多。不幸的是，我们的世界可能没有足够的时间让他或另一位企业家在我们毁灭自己之前弄清楚这一切。但我仍然是个乐观主义者。

我知道这个分析可能会让很多人心烦意乱。作为一个20多岁的人，他大部分时间都在为巴拉克·奥巴马工作，不能忍受唐纳德·特朗普坐在白宫，写这篇文章对我来说更令人沮丧。但要想让任何分析有用，它必须是冷静的。我的感觉与这篇帖子无关，就像马修·普林斯的感觉与谁应该上网无关，马克·扎克伯格的感觉与你在Facebook上看到的无关一样。

如果您喜欢您读到的内容，请订阅互连的电子邮件列表。新帖子将发送到您的收件箱(每周两次)。在Twitter、LinkedIn上关注我并与我互动。

我天生是个乐观主义者.。即使在最黑暗的时候，我也会本能地去寻找亮点和希望.

过去两周，这种本能的搜索越来越难了.。但上周日晚上，我还是找到了一个:我在大学期间的一个暑假曾经在日本学习，当时在一个日本家庭寄宿.。这个家里的大女儿在instagram上给我发了一条信息，用蹩脚的英语问我是否还好，因为她在电视上看到“美国正在被毁灭和烧毁”。14年前，我在她家住的时候，她从没和我说过话.。我们虽然在Instagram上是“好友”，但也从来没发过任何信息，直到上周日。

当然，这一小亮点是在一系列相互关联的大事的背景下发生的：

全美国反对系统性种族歧视的抗议活动。

美国民权领袖、脸书员工以及许多民众都批评扎克伯格没有像杰克·多尔西·那样“核实”特朗普的帖子。

特朗普的新行政命令挑战保护社交媒体的法律条款(“通信正义法”第230条)。

然而，我这个小亮点能出现也是因为facebook和instagram的扩大和发展。

脸书是问题所在吗？扎克伯格是唯一的罪魁祸首吗？

或者还有一个更深层次的问题存在:决定谁应该看到什么内容的算法，已经超出任何控制或责任，而它这种巨大权力的背后没有任何合公认的合理性.

关于社交网络的讨论往往集中在对言论自由和话语权的封杀这些高瞻远瞩的角度.。目前关于特朗普“抢劫开始时，枪击开始”的恶言秽语的帖子就是个例子.。缺乏的是关于“正当程序”(正当程序)在技术产品中应扮演的角色的建设性讨论，尤其是算法驱动的产品。

在“正当程序”和科技技术的交叉点上，我看到的最深思熟虑的一篇思考是两年前，Cloudflare的首席执行官Matthew Prince解释了他终止对右翼网站“每日风暴报”(每日风暴)的服务的决定.。作为前律师，对言论自由和正当程序作了重要区分王子：

“谁能上网、谁不能上网这个问题，往往与言论自由有关.。我们认为更重要的原则是正当程序.。就个人而言，我相信强有力的言论自由保护，但我也承认，这是一个非常美国的想法，并没有全球共识.。另一方面，正当程序这个概念更接近普世.。最基本的正当程序就是，如果你参与了一个系统，你应该能够知道该系统将遵循的规则.。

在正当程序下，所有的决定都是公开的，不是武断而毫无理由的.。这就是为什么我们一直说，我司的政策是在所有我们有业务的地方，遵循当地法律的管辖.。执法部门、立法人士和法院有政治合法性和可预见性，可以决定哪些内容应该受到限制.。公司不应该有这种决策的权利。“。

撤销“每日风暴报”的原因是，该报谎称Cloudflare作为给网站提供服务的供应商向，同时也支持网站内容的意识形态王子。并不是因为他不喜欢网站上的内容，而“取消”“每日风暴报王子”。他觉得有必要解释他的决定，因为这可能会造成危险的后果.。他不想成为“谁可以上网的仲裁者”，就像扎克伯格不想成为“真相的仲裁者”一样.。

我觉得王子认为正当程序比言论自由更普世这个观点是正确的，也是我们应该用的视角来看这些问题。一套正当程序能发挥作用的前提是，决策要公开，而不武断.。

决定哪些推特出现在我的Feed中，或者我下一个Youtube视频应该看那个的算法根本不公开，而是绝对武断的。这种算法是这些公司精心保护的“秘方”，来促进用户增长和参与度，从而召集更多的广告商和卖更高的广告费率.。

一个算法就是个做决策的过程.。如果一个算法没有正当程序，它的决策就没什么合理性.

你可以把同样的框架套在这些社交媒体公司的首席执行官身上。

人们对扎克伯格很生气，因为他们不同意他不删除特朗普的帖子或给予警告，但没有任何正当程序赋予扎克伯格做这个决定的权力.。

人们对杰克·多尔西决定在特朗普发的同一个帖子在推特上给予警告而表示赞赏，因为这与他们对特朗普的看法一致，但也没有任何正当程序赋予多尔西·这种权力报道。

如果这个事情倒过来看:扎克伯格对特朗普的帖子给予警告，而Dorsey却没有，这两个决定也同样缺乏只有正当程序能给予的权力.。如果此事发生在另一个政客人物说的另一套有煽动性的言论的话，也应该是一样的.。

当我们把愤怒、懊恼和责怪的矛头指向这些首席执行官时，那些为他们的社交网络提供燃料的算法--充斥着写它的人们自己的意图、情感和偏见而设计的功能--已经变得过于强大，远远超出了他们的控制。而这些算法是不公开的，不透明的，很难解释，因此我们也更难责怪它.。

有一大群投资人已经开始公开羞辱扎克伯格，并渴望投资一个能替代facebook的产品.。我不认为另一家由风投支持的社交网络公司能解决这个“缺乏算法正当程序”的问题.。

关闭你在Facecbook上的所有帖子关闭你在Instagram上的所有帖子我在模仿我自己，我会资助人们更换这两个平台。https://t.co/QdQ7E4Iv5f。

[email protected](@jason)2020年6月1日

如果一家社交网络创业公司(或任何一家创业公司)接受风险投资，它最终必须要有快速的增长从而给投资人们丰厚的回报.。这是风险投资本身的经济原理的本质，也是这些投资人唯一的职业目标.。为了让一个新的社交网络快速发展来满足这一期望，一个专为增长用户参与度，再把参与度转变成广告费而设计的高效算法，仍然是最好的攻略.。

只要看看全球社交媒体最热门的新手，字节跳动的TikTok，就可以看到这一点.。当然，自从2013年年发布的今日头条开始，字节跳动在中国就一直很火爆，但西方科技媒体基本上忽略了它。它的第二个主打，抖音，于2016年年推出，也是收购Musical.ly之后TikTok的直接前身。无论是新闻头条还是九五后的假唱短视频，字节跳动的所有产品都是由不透明的人工智能算法驱动的.。这套攻略去年以170亿美元的收入创造了30亿美元的利润，其中大部分来自广告。

要真想从核心替代facebook，这个社交网络的算法必须是公开的，而不是武断的、透明的，而不是毫无面目的。换句话说，它必须遵守正当程序.。

既讽刺也有些恰当的是，目前唯一有些规模的脸书替代品就是天秤座。(像Minds这种其他社交网络的规模还很小.。天秤座(Libra项目自推出以来，遭遇了一波又一波的挑战和诋毁)。但从正当程序的衡量标准来看，它的代码从第一天开始就是开源的，它建立在区块链上，而区块链的本质是一个开放的协议，而且它是由一个会员组织协会管理，减少了facebook公司或扎克伯格个人单方做决定的可能性.。

当然，这是Libra总体还是一个初出茅庐的概念，并不是一个可以用的程序。它本身是一个支付系统，不是一个社交网络.。天秤座现在判断是否具备有“算法正当程序”的合理性还为时过早.。但如果扎克伯格对以隐私为中心的社交网络的伟大畅想能获得成功--既可以让一个14年没有来往的人随时可以找到我，而又不会继续做一个算法驱动的广告机器里的实验鼠-天秤座和Whatsapp无疑会是这种未来的关键.。

实现这种未来而需要的工程和技术挑战将是巨大的，需要数年时间.。谢天谢地，扎克伯格比所有风投加起来都更有钱，也更有耐心.。也许不凑巧的是，我们的世界可能没有足够的时间等他或另一个创业者在我们毁灭自己之前把这个事情搞定.。但我仍然是个乐观主义者.。

我知道看完这篇分析后很多人可能会不开心.。作为一个多年为奥巴马工作而无法忍受特朗普坐在白宫里的我来说，在写这篇分析的过程中我也很不开心.。但任何有用的分析都必须带有一个冷静而无情感色彩的视角.。我的个人情感不应该影响这篇文章的内容，就像Matthew Prince的个人情感不应该影响谁可以在网上，就像扎克伯格的个人情感也不应该影响你在脸书能看到什么一样。

如果您喜欢所读的内容，请用Email订阅加入“互联”。新文章将会直接送到您的收箱(每周两次)。请在推特、LinkedIn上给个Follow，跟我互动交流！