用Haben Girma,Mutale Nkonde和Safiya Noble在技术中解决深层偏见

2021-03-10 23:32:53

谈到识别技术偏见时,有两种方法可以进来:技术本身和将其工作的人。面部识别系统可以是种族主义本身(如用暗皮肤工作,或者在促进种族主义政策(如停止和时刻)。

nkonde:有技术问题是固有的种族主义者,或性别歧视,或者能力,因为哈夫所以精美地指出。但还有另一部分......对实际服务的技术的想象力。如果如果正在创造这些技术的科学家们没有经验的经验,我们就会坐在谷歌艾的一瞬间,其中米切尔和Timnit Gebru,他们都是技术学家来自,研究人员,来自小区的社区,他们正在考虑工具可以设计的新和不同方式...那么您可能没有看到它们来产品。我会说这两个人肯定结婚了。 (时间戳:3:00)

偏见不仅存在于面部识别等争议技术中。搜索引擎,算法新闻源以及我们倾向于理所当然的其他事情也可以包含有害偏见或为他们提供贡献。

高尚:我的担忧是我们可能认为只有平庸的技术,我们真正不再思考的东西,也将自己呈现出广泛的中立,有价值。当然这就是我对看谷歌搜索感兴趣的地方,因为谷歌自己的宣言,他们有兴趣组织所有世界知识,我认为是一个非常重要的索赔。我出于图书馆和信息科学领域,思考,我不知道,数千年的图书馆员,例如,世界各地,他们一直在组织世界的知识,以及它意味着什么有一个广告公司,坦率地坦率地,数据挖掘了我们的知识,也将其与伪造,宣传,明显虚假的信息和想法相似,并真正平息了我们理解知识和良好信息的能力。 (时间戳:5:13)

聋哑人和盲人的Haben Girma主张倡导获得哈佛法律的技能的可访问性。但缺乏可访问性比仅仅不正确的图像和其他小任务更深。

Girma:所以大多数建造的技术都没有想象残疾人,这令人沮丧......也绝对荒谬。技术在视觉形式中有很大的潜力,在听觉形式,触觉形式,甚至气味和味道。这取决于设计人员创建每个人都可以使用的工具。 (时间戳:0:56)

Tiktok的一种令人不安的病毒趋势最近质疑悲伤的图标Helen Keller的故事。怀疑她存在如描述或她所做的事情普遍存在平台上 - 而且因为Tiktok不是为可访问性设计的,除了作为虚假索赔的主题之外,凯勒等其他人也被排除在谈话中。

Girma:悲伤的人已经使用了很长一段时间,并且是技术的早期用户,包括设计师和工程师。我们在许多社交媒体平台上,推特上有盲人和聋哑人。 Tiktok不是设计的可访问性。

当你有一个空间,在那里有很少残疾人,能力的增长。 Tiktok上的人们质疑Helen Keller的存在,因为平台上的人们无法想象一个悲伤的人如何写一本书,或者在世界各地旅行。清楚地记录了Helen Keller的事情。还有很多关于盲人和聋人盲目的人今天在做这些事情,今天写书籍,今天使用技术的信息。所以当你有这些空间没有残疾人的空间,或者很少残疾人,能力和负面偏见的增长迅速。这是令人难以置信的有害,因为人们错过了有才华,多样化的声音。 (时间戳:12:16)

科技内的种族主义的翻盖是种族主义机构使用的普通技术。当执法雇用“目标”技术,如车牌读者或生物检查,他们带来了自己的系统偏见和令人不安的目标。

Nkonde:这是一个真正让我成为这一整个技术的事情之一,当安全部队或警方使用时,加强了对黑人社区的这些歧视性影响。因此,这可能是牌照读者被冰被识别汽车的方式,以及当他们拉过来时,他们会这样做这些额外的生物识别检查,无论是指纹还是虹膜读者,然后使用它将这些人定为刑事犯罪驱逐道路。 (时间戳:17:16)

当组合两种形式的偏见时,某些群体处于严重的缺点:

Nkonde:我们看到了所有这些技术如何自行,正在影响黑人生命,但是想象一下,当所有技术都在一起,想象一下,在纽约,我走到地铁乘火车,因为我有去上班。我的脸被一个闭路电视摄像头捕获,可能会错误地把我放在犯罪现场,因为它不承认我的人性,因为这些系统无法识别黑色面孔。这是一个非常古老的想法,真正让我们回到这个想法,因为黑人不是人,他们实际上是一个人类的三分之一,这是在这个国家的成立,对吧?但是我们通过技术再现了这个想法。 (时间戳:19:00)

虽然公司应该试图做正确的事情,但如果存在财务激励,它可能会有助于速度。越来越多地存在由于未能考虑这些问题而导致的真正责任。例如,如果您的公司生产的AI解决方案,发现被发现严重偏见,您不仅会失去业务,而且可能会发现自己是民事和政府诉讼的主题。

贵族:我认为首先,没有占据这些问题,有一个巨大的风险。我听说过风险管理简介,例如,在Facebook这样的公司,在伤害中,他们无法用软件和AI解决的东西,而且他们使用人类,坦率地排序,例如,他们面临的风险可能估计约20亿美元,对吧?

如果您正在谈论大约20亿美元的风险,我认为这是一个超出设计欲望和软件工程师的决定。 (时间戳24:25)

不仅仅是偏见,而且需要考虑意外后果,例如如何以创造者可能没有想到的方式滥用应用程序或服务。

高尚:我认为你必须思考远远超出,你知道,就像你能做的那样,与你应该做的事情,或者是什么道德和责任,我认为现在不能再避免这些对话。这是一个创始人,风险资本家,一切,山谷中的所有VC的地方都应该有一个负责思考他们可能投资的产品的不利影响的人。(时间戳:25:43)

倾向于“运输并修复它”而不是包括从地上的可访问性越来越多地受到倡导者和开发人员的质疑。事实证明,从长远来看,对每个人来说更好,并在第一次来做到这一点。

Girma:大多数这些问题的答案都是人们所涉及的人。 “没有我们的没有我们对我们毫无意义”是残疾司法运动中的谚语,所以如果这些海洋和公司正在考虑投资一个解决方案,他们认为对世界有利?问残疾司法倡导者,让我们参与其中。 (时间戳:29:25)

我们需要VCS还与残疾司法倡导者联系,并真正找到有可访问性和技术的知识和背景的人。任何公司都一样。所有公司都应该拥有,技术现有和技术在建造过程中,应该是可访问性的咨询。如果您为可访问性设计,而不是试图使其可以访问,更容易使用它。这就像在物理建筑中有电梯。您不构建结构,然后考虑添加电梯。您想在设计之前添加电梯。 (时间戳:30:55)

早期阶段是启动企业家和投资者的总理“如何为”活动。 您将听到第一手一些最成功的创始人和VCS建立业务,筹集资金并管理其投资组合。 我们将介绍公司建筑的各个方面:筹款,招聘,销售,产品市场合适,公关,营销和品牌建设。 每个会话还有内置受众参与 - 有充足的时间为受众问题和讨论。 在结账时使用代码“tcarticle以获得< a href =”http://techcrunch.com/events/tc-2-early-stage-2021-part-1?promo=tcarticle& amp; display=true“20%off票 就在这儿。