深受深渊：保持AI诚实的医学，气候科学和愿景

本周我们有许多条目，旨在识别或确认机器学习系统中的偏见或作弊行为，或支持它们的数据中的失败。但首先是华盛顿大学的纯粹视觉上吸引人的项目在计算机愿景和模式识别会议上展示。

他们培训了一个系统，识别和预测照片中的水，云，烟雾和其他流体特征的流动，从单个静止图像动画。结果非常酷：

为什么？好吧，对于一件事，摄影的未来是代码，更好的相机了解他们所指出的世界，他们可以容纳或重新创造它。假河流不需要高，但准确地预测运动和常见照片特征的行为是。

在创建和应用程序的创建和应用中回答任何机器学习系统的重要问题是它是否实际上正在执行你想要的东西。 “ai”的历史与模型的例子串行，发现一种看起来像他们在没有实际做的事情的情况下表演任务 - 就像一个孩子在他们应该清洁房间时踢在床下的一切。

这是医学领域的一个严重问题，其中一个伪造它可能会产生可怕的后果。还有一个研究，也来自UW，发现文献中提出的模型有趋势，研究人员称之为“快捷学习”。这些快捷方式可能很简单 - 基于患者人口统计数据的风险，而不是图像中的数据，例如 - 或者更独特，例如依赖于医院的条件，其数据来自，使其无法概括到其他。

该团队发现，在与他们的培训不同的数据集上使用时，许多模型基本失败。他们希望机器学习透明度的进步（打开“黑匣子”）将使这些系统拖动规则时更容易。