激增定价，人工智能和责任感

在我2016年1月14日为Grab进行的第一次雅加达工作旅行中，多枚恐怖炸弹从我刚到达的GrabBike办公室爆炸了几英里。人们逃离了袭击现场附近的咖啡馆和餐馆。我的新同事们都为之动摇，为安全起见，很高兴寻求帮助。爆炸周围街区的预订请求激增，证实了街头有人试图逃脱的消息。我的同事们记得2002年的巴厘岛爆炸案，并且知道我们应该让人们散布开来。而且我们知道我们的算法会将其像高峰时段需求一样对待并激活激增定价。人们需要撤离，但如果留给自己的设备使用，我们的AI会以更高的价格劝阻他们。

我们应该在周边地区免费旅行，全体员工（包括首席执行官Anthony Tan）都明确表示了这一目标。我不知道设置了多少应用通知，车辆类型配置，价格设置，促销代码变通办法，驾驶员激励措施，新闻通讯员，但他们全都弄明白了，在少数几个地方就突然陷入了灾难响应状态分钟。而且有效。

在德克萨斯州，一场严峻的自然灾害发生一周后，我们听到客户被收取正常电价的75倍（平均电价为每千瓦时12分，最高价定为9美元）。按照这个价格，美国家庭平均每月要支付约8,000美元的电费。州政府或联邦政府提出了各种建议，以支付这些费用，以提供“灾难救济”，而不仅仅是取消此规定。或者，下一步可能是集体诉讼。

这不仅是政府缺乏计划，法规和激励机制的荒唐失败。这是私营部门从自己的无能中获利的co弱尝试。如果不是恶意的话，那就是问责制。

我在Grab上了解了更多有关浪涌算法的信息，部分原因是价格和折扣与我启动GrabShare的工作密切相关。作为数据科学家和工程师，我们有责任帮助使价格合理的乘客和驾驶员。主题包括非线性激增，地理平滑，每日时段，价格弹性，功能化和机器学习。这些都不是“子弹头”，而是系统中的工具，其中还包括许多人为监督的保障措施。这些保护措施包括基本知识，例如对涨价倍数的硬性限制-这些限制因城市而异，但从某种意义上讲，我们正在谈论的数字是2和3，而不是75或100。关于价格稳定性，我们有明确的规则和担保-如果我们报价10美元的乘车费用，则乘客可获得10美元的乘车费用。如果在此期间由于交通和需求增加且激增幅度更大，驾驶员的价格变得不公平，则系统混乱了，我们需要对其进行修复。在此期间，我们不会将费用（或帐单）转嫁给乘客。

公平定价不仅适用于一套已知的规则，而且是一种周到细心的勤奋做法。在AI中，这一点变得越来越重要，在AI中，每个人都有责任预见并防止意外后果。一个典型的例子—当然，我们想到了使用目的地作为预测可接受的暴涨价格的功能。这么多次提出这个建议，以至于一个假想的“医院例子”反复提醒我们-我们将永远不会建立一个可以“学习”目的地为医院的人愿意支付更高票价的系统。声称“没有人真正理解AI系统如何做出个人决定”是一个隐藏的谎言：当我们适当地停下来思考并在向机器学习算法中添加新功能时，我们通常可以提出假设以进行相当轻松的测试，包括必须避免的不良后果。

这些只是AI和机器学习中的一些道德考量，并且只是组织应对危机的一部分。在Grab的雅加达轰炸反应期间，自动定价激增算法刚刚关闭-我们知道这会造成伤害。在那几个小时内，一切照旧不再了，主要是财务，促销和驾驶员操作负责人争先恐后地凑合在一起。办公室从混乱变成了庆祝：高昂的拳头，因为我们听到了有关乘客逃离安全的第一批报道；媒体报道说，我们的竞争对手Go-Jek已加入我们的行列；那天我们都在一起工作，而且还在工作。当然，这激发了我对Grab的承诺是无法估量的。

与此相反，我们所听到的有关德克萨斯州电力供应商的信息。就在人们最需要生存的力量时，这一激增被允许飙升近100倍。有些人可能会争辩说“这就是市场力量的运作方式”，好像那是正确的结果而不是错误的设计。救护车驾驶员经常处在人们急需的情况下，但是“市场力量”并不符合道德原则，即向受伤人员收取救护车乘车费100倍的费用。可能有些人认为应该使用拍卖而不是医疗风险来为人们优先购买稀有疫苗。我们大多数人不同意。

因此，剩下的就是组织无助的借口。 “没有人想要这种方式，它只是发生了。”那是垃圾有人有一个数据库密码，可以立即取消这些离谱的账单。有些部门负责人可能会要求采取这种行动并对他们的首席执行官做出回应。能源公司的首席执行官可能在灾难的第一天就下令“我们提供人们赖以生存的基本服务：在安全的情况下，将取消账单，并在以后确定付款”。他们还没有做到这一点。取而代之的是，我们听到政客说他们正在设法解决问题，甚至包括使用disaster灾资金来填补这些公司的腰包。

醒醒，美国企业。这与“预防社会主义”或“市场力量的神圣性”无关。不要将您的客户当作人质。那是邪恶的，这样做的公司最终将失败。企业不仅是失控算法的强制执行者，所以不要假装我们是。如果有人阅读本文可以对所涉及的任何电力公司实施适当的补救措施：请抓住这次机会。您今天可以成为私营企业的英雄。