不要在这个人工智能耻辱上结束

当一个人在美国的车祸中死亡时，关于该事件的数据通常会向国家公路交通安全管理局报告。联邦法律要求民用飞机飞行员通知全国运输安全委员会的飞行安全委员会和其他一些事件。

严峻的注册管理机构旨在为当局和制造商提供更好地了解提高安全的方法。他们帮助激发了一个人工智能事件的众包储存库，旨在提高安全性，例如自治车辆和机器人等规范的区域。 AI事件数据库于2020年延迟启动，现在包含100个事件，包括＃68，谷歌的照片组织服务标记为“大猩猩”的照片组织服务标记为“大猩猩”。把它当作艾美的耻辱厅。

AI事件数据库由AI伙伴关系主办，该公司由大型技术公司创立的非营利组织，以研究该技术的缺陷。 Sean McGregor的卷曲卷起动，他们在语音处理器启动Syntiant中作为机器学习工程师工作。他说这是必要的，因为AI允许机器介入人们的生活中更直接，但软件工程文化不鼓励安全。

“经常我会和我的工程师交谈，他们会有一个非常聪明的想法，但你需要说'你想到了你是如何制作一个令人透模的？”“麦克雷戈说。他希望该事件数据库可以作为胡萝卜和坚持技术公司，通过提供一种鼓励公司留下清单的公共责任，同时帮助工程团队工艺oi部署不太可能出错。

“我的工程师将有一个非常聪明的想法，但你需要说'你想到了你是如何制作一个令人透模的？”

该数据库使用AI事件的广泛定义作为“造成的AI系统或几乎造成的现实世界伤害”的情况。数据库中的第一个条目会收集youtube孩子展示成人内容的指控，包括性明确语言。最近的＃100，涉及法国福利系统中的毛刺，可以错误地确定人们欠国家资金。在他们之间有自动车辆崩溃，如2018年的优步致命事件，并且由于自动翻译或面部识别的失败而被错误的逮捕。

任何人都可以向AI灾难的目录提交一个项目。 McGregor Approves Affects目前并具有一个大量的积压来处理，但最终希望数据库将成为自我维持和具有自己的社区和策策过程的开源项目。他最喜欢的事件之一是由中国宁波的脸部识别动力的杰秀检测系统是一个AI Blooper，这是一个错误地指责一名脸上出现在公共汽车一侧的广告中的女人。

到目前为止登录的100个事件包括16名涉及谷歌，超过任何其他公司。亚马逊有七，微软两个。 “我们知道数据库并完全支持合作伙伴关系的使命并旨在发布数据库，＃34;亚马逊在一份声明中说。 ＆＃34;收入和维护客户的信任是我们的最高优先级，我们设计了严格的流程，以不断改善我们的服务和客户的经验。“谷歌和微软没有回复评论请求。

Georgetown的安全和新兴技术中心正试图使数据库更强大。条目目前基于媒体报告，例如事件79，其引用关于估算肾功能的算法的有线报告，通过设计率为黑人患者疾病的严重较小。乔治城的学生正在努力创建一个包含事件的细节的伴侣数据库，例如伤害是否有意，以及问题算法是否自主或人体输入作用。

CSET战略总监Helen Toner表示，锻炼正在向AI事故的潜在风险提供信息。她也相信数据库显示了如何对立法者或监管机构的一个好主意，以考虑授权某种形式的事件报告，类似于航空。

欧盟和美国官员对规范AI的兴趣日益增长，但该技术如此多样化，并且广泛地应用于制作明确的规则，不会快速过时是一个艰巨的任务。欧盟最近的提案草案因评名为overrach，Techno-exteracal，并充满了漏洞。碳粉表示，需要报告AI事故可能有助于地政策讨论。 “我认为那些伴随着真实世界的反馈就是我们试图预防的东西以及什么类型的事情出现问题，这将是明智的，”她说。

Duke的人类和自动实验室主任Missy Cummings表示，数据库是一个好主意，但有所作为，需要更广泛的支持和认可，公司建立一个兴趣安全的公司。由于飞行员和其他船员的法律授权，一些航空事件数据库部分地实现了高质量和广泛的覆盖范围。其他人，如美国宇航局运营的航空安全报告系统，依靠维修人员和其他人的保密报告文化。对于AI事件数据库获得类似的Clout将需要时间，并且从行业推出高赌注AI项目，如自主车辆，也许是监管机构。

从人工智能和自驾车到改变城市和新初创公司，注册最新消息。

通过注册即表示您同意我们的用户协议和隐私政策＆amp; cookie声明

迄今为止，Cummings，之前是海军战斗机飞行员，迄今为止，迄今为止，资源和AI人才似乎太短暂，以适当地聘请更多在道路和空中的自治系统的危险。 联邦调查分为两个致命的波音737 Max Crashes建议联邦航空管理局更多地关注自主软件在突然将控制击回人类时如何混淆和压倒飞行员。 Cummings认为，努力自动化道路和航空运输的公司也应该以自己的利益来说，以协调自愿标准和安全议定书。 “这些行业都没有准备与这个鳄鱼搏斗，”她说。 🎧声音不对的东西？ 查看我们最喜欢的无线耳机，声栏和蓝牙音箱