有缺陷的数据将残疾人带来风险

猫没有人是一个产品设计师，联合创始人和Stark的首席执行官 - 一个具有使世界软件可访问的使命的启动。她的焦点是带来生活的产品和技术，可以最大限度地获得世界最新创新。

2019年，AI动力送货机器人暂时阻止了一个轮椅使用者在穿过繁忙的道路时安全地访问路边。谈到这一事件，人们指出，“重要的是，技术的发展[不会把]残疾人在线作为抵押品。”

除其他少数民族群体外，残疾人长期以来一直受到缺陷的数据和数据工具的伤害。残疾是多种多样的，细致的和动态;它们不适用于AI的公式化结构，其被编程为找到模式和表单组。因为AI将任何异常值数据视为“噪音”并无视它，但往往的人往往被排除在其结论中。

举例说，伊莱恩赫尔兹伯格的案例是由2018年自驾动优秀的伊莱伯苏伯杀害。在碰撞时，赫尔茨贝格正在推动一辆自行车，这意味着优步的系统努力在标签之间分类和掠夺她作为“车辆”，“自行车”和“其他”。悲剧为残疾人提出了许多问题;轮椅上的人或踏板车是否有相同致命错误分类的风险？

我们需要一种新的收集和处理数据的方式。 “数据”范围从个人信息，用户反馈，恢复，多媒体，用户指标等等，并且不断使用它来优化我们的软件。然而，它没有通过理解它可以并在错误的手中使用的透明方式的频谱，或者当不适用于建筑物的每个接触点时。

我们的产品姗姗来迟地逾期，以确保数据与残疾人造成的人进行管理。如果不是，残疾人会面临更多的摩擦力，危险，在日常生活中越来越依赖数字工具。

缺乏可访问性的产品可能不会阻止残疾人离开家园，但他们可以阻止他们访问枢纽的生活点，如优质的医疗保健，教育和按需交付。

我们的工具是其环境的产物。他们反映了他们的创造者的世界观和主观镜头。对于太长，同一组的人已经监督了有错误的数据系统。这是一个闭环，其中底层偏差是长期的，并且已经看不见的群体仍然看不见。但随着数据的进展，该循环成为雪球。我们正在处理机器 - 学习模型 - 如果他们从足够长的是“不是X”（读：白色，能够的身体，Cisbered）意味着不“正常”，他们将通过在该基础上建立来发展。

数据以对我们不可见的方式互连。这还不足以说你的算法不会排除有注册残疾的人。偏差在其他数据集中存在。例如，在美国，拒绝某人抵押贷款是违法的，因为它们是黑色的。但通过基于信贷评分的大量进程 - 这对其对彩色人民的固有偏见进行了不利 - 银行间接排除了社会部门。

对于残疾人，间接偏见的数据可能是物理活动的频率或每周发布的小时数。这是一个具体的例子的偏见如何转化为软件：如果招聘算法研究候选人在视频面试期间的面部运动，那么具有认知残疾或流动性障碍的人将经历不同的障碍，而不是完全能够拥有的申请人。

该问题还源于残疾人士未被视为企业目标市场的一部分。当公司处于头脑风暴的早期阶段，人们的残疾往往不像表现不那么明显 - 精神健康疾病。这意味着用于迭代产品或服务的初始用户数据不会来自这些人。事实上，56％的组织仍然不经常在残疾人中测试他们的数字产品。

如果科技公司主动包括残疾人在其团队中，他们的目标市场更有可能是更具代表性的。此外，所有技术人员都需要了解其数据中可见和隐形的排除的和不可见的排他性。这不是一个简单的任务，我们需要合作。理想情况下，我们将有更频繁的对话，论坛和知识共享如何从我们每天使用的数据中消除间接偏见。

我们一直在测试我们的产品 - ON可用性，参与甚至徽标偏好。我们知道哪种颜色更好地转换付费客户，以及与人民最谐振的单词，那么为什么我们没有为数据伦理设置一个酒吧？

最终，创建道德技术的责任不仅仅是位于顶部。那些在日复一日铺设产品的砖砌的人也是责任的。它是大众工程师（不是公司首席执行官），他被派往监狱开发一个使能够逃避美国的汽车的设备。

工程师，设计师，产品经理;我们都必须承认我们面前的数据，并考虑为什么我们收集它以及我们如何收集它。这意味着解剖我们要求和分析我们的动机的数据。询问某人的残疾，性别或比赛是否总是有意义的？拥有这些信息如何使最终用户受益？

在Stark，我们开发了一个五分框架，在设计和建造任何类型的软件，服务或技术时运行。我们要解决：

模拟ifttt：“如果这，那就。”解释数据可以讽刺地使用数据和替代解决方案。例如，用户如何由尺度数据泄露影响？如果此私人信息成为其家人和朋友，会发生什么？

如果我们只能使用模糊术语和不明确的预期来解释我们的数据，或者通过伸展真相，我们不应该被允许拥有该数据。该框架迫使我们以最简单的方式分解数据。如果我们不能，它是因为我们还没有配备负责任地处理它。

复杂的数据技术一直进入新部门，从疫苗开发到Robotaxis。对这些行业残疾人的任何偏见都阻止他们访问最前沿的产品和服务。随着我们在我们生命的每个利基更依赖于技术的情况下，我们有更大的房间被排除在我们如何进行日常活动。

这一切都是关于前进思考和烘焙包装在您的产品中。金钱和/或经验不是限制在这里的因素 - 改变你的思想过程和开发之旅是自由的;它只是一个更好方向的有意识的枢轴。虽然前期成本可能是一个沉重的升力，但你丢失的利润从没有进入这些市场，或者因为你最终改装了你的产品，远远超过了初步费用。对于企业级公司来说，这尤其如此，这些公司将无法访问学术界或政府合同而不符合符合要求。

因此，早期的公司，将可访问性原则集成到您的产品开发中，并收集用户数据以不断加强这些原则。在您的船上分享数据，销售和设计团队将为您提供更完整的照片，您的用户遇到困难。后期公司应进行自我评估，以确定这些原则缺乏其产品，以及利用历史数据和新用户反馈来生成修复。

AI和数据的大修不仅仅是适应企业的框架。 我们仍然需要掌舵人的人更加多样化。 这些领域仍然是雄性和白色，在技术方面，有许多对残疾人的排除和偏见的第一手叙述。 直到团队策划数据工具本身就是更多样化，国家的增长将继续扼杀，残疾人将是一些最艰难的伤亡人员。