意大利法院裁定，食品配送应用Deliveroo使用“可靠性指数”算法对骑手进行排名具有歧视性，下令向起诉方支付5万欧元

上周晚些时候，意大利一家法院裁定，流行的欧洲食品配送应用Deliveroo使用的算法对骑手进行排名和换挡是歧视性的，一些专家称这是演出经济的历史性决定。此案是由一群由意大利最大的工会CGIL支持的Deliveroo车手提起的。

首席法官基亚拉·佐皮（Chiara Zompi）撰写的一项非常详尽的法令仔细研究了演出平台用于微管理人员的许多通常秘密的算法之一，这可能会对他们的生计产生深远影响。

虽然机器学习算法是Deliveroo整个业务模型的核心，但据称，法院检查过的特定算法被用来确定骑手的“可靠性”。根据该法令，如果骑手在启动前至少24小时未能取消通过该应用程序预先预订的班次，则其“可靠性指标”将受到负面影响。由于首先被算法认为更可靠的骑手首先要在更繁忙的时间段内轮班，所以这实际上意味着，即使是由于严重的紧急情况或生病而无法做出轮班的车手，未来的工作机会也会减少。

法院认为，该算法未能考虑到取消原因，这会构成歧视，并以合法正当理由不合理处罚骑手。 Deliveroo被命令向起诉方支付50,000欧元（约合61,400美元）。

母板与之交谈的法律专家将这一决定描述为可能的转折点。他们说，重要的是，法院裁定，即使算法无意中歧视了受保护的团体，公司仍应承担责任并被迫支付赔偿金。

“这是一个具有里程碑意义的案例，”专门研究人工智能和劳动法规的鲁汶大学劳动法教授瓦莱里奥·德斯特凡诺（Valerio De Stefano）通过电话告诉母板。 “基本上，这表明，在法律层面上，您可以通过算法进行间接歧视，因此算法需要接受司法审查，您可以在法律上质疑这些算法的工作方式。我认为这很重要，因为人们常常会认为算法在客观上是中立的，而实际上总是存在歧视的可能性。”

在向主板的一份声明中，Deliveroo的发言人声称该公司不再使用该案例中概述的轮班预订系统。

发言人写道：“这项判决是指意大利的Deliveroo公司未使用过的具有历史意义的可选预订模式。”车手可以完全自由地选择何时，何地工作，时间长短或所需的时间。这意味着没有预订系统，也没有义务接受工作。”

＆＃34;我们提供自营职业，因为这为骑手提供了所需的灵活性，”他们继续说道。 “每项调查都表明，骑手绝大多数都将灵活性视为重中之重，在最新调查中，这一比例超过了80％。目前，Deliveroo每周都会收到成千上万的自雇骑手工作请求，而且我们在英国的骑手人数已增加了一倍-我们现在在英国与50,000名骑手一起工作，而去年是25,000名。

但AI领导女性网络的共同创始人，《人工革命》的作者伊万娜·巴托莱蒂（Ivana Bartoletti）表示，但是法院判决的后果可能远远超出了单一的预订系统或算法。

“即使不再使用这种特殊的轮班预订系统，我认为这一决定也会向像Deliveroo这样的公司表明，但当然还有其他公司，他们需要更加意识到解决和理解其潜在问题和不平等的可能性。算法会创建，否则可能会面临法律后果。” Bartoletti说。 “当然，仅凭这一点还不够，我们还需要监管和立法解决方案。但是，所有这些东西的结合可能是向前迈出的重要一步。”

该案还表明，代表欧洲大陆的监管机构，司法系统，工会和工人解决黑匣子算法的意愿有所增强，并且人们对这种算法可能被滥用以规避传统劳动保护的意识也日益增强。例如，在2020年7月，四名由App Drivers and Couriers Union支持的英国司机起诉Uber，以获取Uber使用的类似算法的访问权限。而且，三个月后，另一批Uber司机对该公司提起诉讼，指控该公司被平台使用的自动算法解雇，而没有获得上诉的机会。

签署VICE新闻通讯，即表示您同意接收来自VICE的电子通讯，其中有时可能包含广告或赞助内容。