脱衣服还是失败：Instagram的算法强迫用户暴露皮肤

一项独家调查显示，Instagram优先考虑衣着暴露的男女照片，塑造了内容创作者的行为和1.4亿欧洲人的世界观，这仍然是欧盟监管的盲点。

莎拉是欧洲一个大城市的食品企业家(名字改了)。她创建的公司帮助女性安心进食，提倡“直觉进食”。像许多小企业主一样，萨拉依靠社交媒体来吸引客户。Instagram是仅次于Facebook的欧洲第二大社交网络，她说，Instagram是一个她离不开的营销渠道。

但在以照片和视频为主的Instagram上，她觉得自己的照片不会到达她的5.3万名粉丝中的很多人手中，除非她穿着泳装摆姿势。事实上，在过去几个月她最受欢迎的七个帖子中，有四个帖子显示她穿着比基尼。书的作者Ely Killeuse在Instagram上有13.2万粉丝，她同意公开发言，她说“几乎所有”她最喜欢的照片都是她穿着内裤或泳衣。

可能的情况是，他们的观众更喜欢看到萨拉和伊利穿着泳衣。但自2016年初以来，Instagram会在用户的新闻馈送中安排图片，以便用户“最关心的照片会出现在馈送的顶部”。如果莎拉和伊利发布的其他照片不那么受欢迎，那可能是因为它们没有那么多地向粉丝展示。

展示哪些照片，没有展示哪些照片，这不仅仅是品味的问题。依赖Instagram获得客户的企业家必须采用Instagram鼓励的规范来接触他们的追随者。即使这些规范没有反映他们建立业务所基于的价值观，或者他们的核心受众和客户的价值观。

为了了解Instagram优先考虑哪些图片，欧洲数据新闻网和算法观察要求26名志愿者安装浏览器插件，并跟踪选定的专业内容创作者。我们从12个国家挑选了37名专业人士(其中14人为男性)，他们使用Instagram为品牌做广告或为自己的企业获得新客户，主要是在食品、旅游、健身、时尚或美容领域。

该插件会定期自动打开Instagram主页，并记录哪些帖子出现在志愿者新闻馈送的顶部，提供平台认为与每位志愿者最相关的概述。

如果Instagram没有与该算法混合在一起，那么用户新闻馈送中帖子的多样性应该与他们关注的内容创建者发布的帖子的多样性相匹配。如果Instagram根据每个用户的个人喜好个性化新闻馈送，那么他们新闻馈送中的帖子多样性应该以不同的方式为每个用户倾斜。这不是我们发现的。

在2月至5月期间，我们监测的内容创建者发布的1737条帖子(包含2400张照片)进行了分析。在这些帖子中，有362条(21%)被计算机程序识别为包含穿比基尼或内衣的女性或裸露胸部的男性的图片。然而，在我们志愿者的新闻馈送中，带有此类图片的帖子占同一账户显示的所有帖子的30%(有些帖子显示了不止一次)。

包含穿着内衣或比基尼的女性照片的帖子出现在我们志愿者的新闻馈送中的可能性要高出54%。包含裸胸男子照片的帖子被显示的可能性要高出28%。相比之下，显示食物或风景图片的帖子在新闻馈送中显示的可能性降低了约60%。

这些结果可以在专门的页面上详细阅读，并通过了具有统计学意义的标准测试。

这种倾向于裸体的倾向可能并不适用于所有Instagram用户。虽然这对大多数志愿者来说是一致和明显的，但一小部分人得到的帖子更好地反映了内容创作者发布的多样性。Instagram的算法很可能在总体上倾向于裸体，但个性化或其他因素限制了某些用户的这种效果。

我们的结果没有对Instagram的新闻馈送算法进行全面审计。他们只在我们志愿者的新闻馈送中记录发生的事情。(您可以通过安装该加载项来帮助我们改进结果，我们将在收到更多数据时发布更新。)。如果不能访问Facebook的内部数据和生产服务器，就永远不可能得出明确的结论。

Facebook没有回答我们的确切问题，但发出了一份声明：“这项研究在许多方面存在缺陷，表明人们对Instagram的工作原理存在误解。我们根据您感兴趣的内容和账户对您订阅源中的帖子进行排名，而不是根据泳装等任意因素进行排名。“。

然而，我们有理由相信，我们的调查结果代表了Instagram的一般运营方式。

在2015年公布的一项专利中，运营Instagram的Facebook公司的工程师解释了新闻馈送如何选择优先处理哪些图片。根据这项专利，当用户发布一张图片时，它会被当场自动分析。图片被赋予“参与度”，用于决定是否在用户的新闻提要中显示图像。

参与度度量部分基于过去的用户行为。如果用户喜欢某个特定的品牌，而照片显示的是同一品牌的产品，那么参与度指标就会增加。但是也可以基于来自该服务的所有用户的过去行为来计算参与度度量。该专利特别指出，照片中人物的性别、种族和“脱衣状态”可以用来计算参与度。

虽然Instagram声称新闻馈送是根据特定用户“最关心的”进行组织的，但该公司的专利解释说，它实际上可以根据它认为所有用户关心的事情进行排名。用户是否看到他们关注的账户发布的图片不仅取决于他们过去的行为，还取决于Instagram认为该平台的其他用户最感兴趣的是什么。

Facebook在其算法决定在用户的新闻馈送中显示哪些图片之前，会自动使用一种名为计算机视觉的软件分析图片。这样的软件从训练数据集自动推断，训练数据集由数千张人工注释的图像组成。它的局限性可能会影响Instagram在新闻馈送中对图片的优先顺序。

计算机科学家多年来就已经知道，这样的系统会复制和放大他们训练数据的偏差，导致虚假的或谬误的相关性。例如，一个根据网上找到的狗的图片识别狼和狗的程序将不会识别人类意义上的动物。取而代之的是，它将给任何有雪背景的动物贴上“狼”的标签。

计算机视觉的培训数据通常是由薪酬较低的工人制作的，他们的动机是快速工作，并提供符合雇主预期的结果。代尔夫特理工大学(Delft University Of Technology)博士生阿加特·巴伦(Agathe Balayn)写道，这导致他们不加批判地采用提供给他们的类别，忽略了照片可能包含的微妙之处。他的主题是自动化系统中的偏见。

后果可能会很严重。去年12月，一名巴西艺术家试图为他在Instagram上的一条帖子做广告。这一请求被拒绝，理由是该帖子包含暴力内容。它只描绘了一个男孩和一级方程式赛车手刘易斯·汉密尔顿。两人都是深色皮肤。今年4月，一名瑜伽老师被拒绝了一则广告，理由是这张照片显示了亵渎，尽管她只是在做侧鹤姿势。她是亚裔美国人。

(在我们的实验设置中，我们还使用了计算机视觉系统Google Vision。虽然它的结果令人震惊--例如，“美”这个标签只返回给女性--但它的偏见很可能与Facebook的计算机视觉引擎相似，只是因为它在一定程度上是由相同的人建造的。)。

Instagram的指导方针规定，该服务“不允许”裸体，但支持裸露皮肤的帖子。鼓励什么和禁止什么之间的细微差别是由未经审计的、可能存在偏见的计算机视觉算法决定的。每次发布照片时，内容创建者都必须在透露足够多以接触到他们的追随者和不透露太多以至于被赶出平台之间划出这条非常微妙的界限。

美国杂志Salty在2019年对128名Instagram用户进行的一项调查显示，滥用内容删除是很常见的。只要Instagram的算法没有经过审计，就不可能说出这种情况有多常见，以及有色人种和女性是否受到不成比例的影响。

然而，一项对Facebook提交的238项包含“计算机视觉”短语的专利的审查显示，在340名被列为发明者的人中，只有27名是女性。男性主导的环境通常会导致对女性不利的结果。例如，汽车上的安全带只在男性假人身上进行测试，导致女性的伤害率更高。我们的研究表明，Facebook的算法可以遵循这种模式。

莎拉和其他依赖Instagram的企业家害怕接受媒体采访。大多数专业的Instagram内容创作者担心Facebook的报复，形式是账户删除或影子禁令(这种做法是在用户不知情的情况下，将用户的帖子展示给他们的任何或很少的追随者)-这是对他们业务的死刑判决。

一位拥有约7万粉丝的年轻企业家表示，Instagram对她的业务“非常重要”，她特别告诉AlgorithmWatch，由于担心影子禁令，她不愿透露姓名。Ely Killeuse在记录中说，对她来说，有另一个收入来源是“头号条件”。她补充说，对Instagram的过度依赖意味着失去自由和理智。

2018年生效的《一般数据保护条例》(GDPR)和2020年7月12日起实施的《平台对企业(P2B)条例》已经为用户和专业人士提供了很多保障。特别是，GDPR规定，用户对自动决策有“解释权”，P2B法规将强制在线中介服务披露“决定[算法]排名的主要参数”。

欧洲议会内部市场和消费者保护委员会(Committee On The Internal Market And Consumer Protection)主席佩特拉·德·萨特(Petra De Sutter)表示，这项新措施不应迫使平台披露其算法的内部工作原理。她在给AlgorithmWatch的一封电子邮件中写道，阻止Instagram对用户的新闻源进行排序在法律上是不可行的。相反，P2B将带来的透明度应该允许稍后做出知情的政策决定，她补充道。至于对影子禁令的担忧，德萨特认为这是夸大其词。“一个问题从来不会招致报复，”她写道。

P2B可能有所不同，但在GDPR生效两年后，几位专家对非常空洞的实施感到遗憾。一个问题是，负责监管Facebook都柏林欧洲子公司的爱尔兰数据保护机构似乎人手严重不足，而且“似乎不理解GDPR”，正如一位平台工作专家向AlgorithmWatch表示的那样。另一个问题在于缺乏监管。在欧洲或成员国内部，没有任何机构拥有审计任何大型平台(包括Instagram)所需的权力或工具，导致GDPR的许多条款得不到执行。

虽然我们的结果显示，如果男性和女性内容创作者想要接触到他们的观众，他们被迫以类似的方式展示皮肤，但对女性的影响可能会更大，并被认为是对女性企业家的歧视。然而，尽管基于性别的歧视被欧盟基本权利宪章禁止，但Instagram用户没有法律途径提起法律诉讼。立法中没有考虑到社交媒体创业的具体内容。

维也纳经贸大学助理教授米里亚姆·库尔曼(Miriam Kullmann)在给AlgorithmWatch的信中表示，欧洲的反歧视立法几乎完全涉及雇佣关系。自雇人士，例如我们所监察的专业人士，是不受保障的。

一些团体确实在社交媒体上为独立创作者的权利而战。欧洲最大的工会IG Metall支持YouTubers的集体行动，要求谷歌(YouTube的所有者)在视频非货币化时提供更多公平和透明度。他们不打算将他们的计划扩展到Instagram或其他平台上的内容创作者。

由于从Instagram创建内容的欧洲企业家的数量可能在数千人之间，他们的帖子的影响是巨大的，因为他们经常吹嘘自己拥有数十万粉丝。Facebook声称，4月份有近1.4亿欧盟居民，即三分之一的人使用Instagram。

在18至24岁的年轻人中，Instagram在每个欧盟国家的普及率约为100%。与新冠肺炎疫情相关的家庭订单增加了在Instagram上花费的时间，数量惊人。Facebook向投资者报告称，在封锁的意大利，Instagram的浏览量在一周内比正常翻了一番。

近一个世纪前，英国著名作家弗吉尼亚·伍尔夫说，女性需要“一间自己的房间”，才能让她们的创造力蓬勃发展。她写道，听从外部权威的意见，就像邀请腐败在一个人的工作核心发展。

在Instagram上，听从构建新闻馈送算法的当局的意见并不是一种选择。拒绝展示身体部位会戏剧性地减少一个人的观众。男性和女性企业家如果想要有机会谋生，就必须遵守Facebook工程师制定的规则。

你专业地使用Instagram吗？您是否看到您的帖子或帐户被暂停、禁用或影子禁用？我们很乐意听到你的消息。安全地联系尼古拉斯·凯瑟-布里尔，电子邮件：[email protected]或Signal+491702875332。