Geoff Hinton 2021 –如何在神经网络中表示部分整体层次结构

下载PDF摘要：本文未描述工作系统。取而代之的是，它提出了一个关于表示的想法，该想法使几个不同的群体所取得的进步可以组合成一个称为GLOM的假想系统。这些进步包括变压器，神经场，对比表示学习，蒸馏和胶囊。 GLOM回答了这个问题：具有固定体系结构的神经网络如何将图像解析为部分整体的层次结构，而每个部分的结构都具有不同的结构？这个想法只是使用相同向量的孤岛来表示解析树中的节点。如果可以使GLOM正常工作，则当将其应用于视觉或语言时，应极大地提高类变压器系统产生的表示的可解释性

参考书目工具代码相关论文关于arXivLabs arXivLabs是一个框架，允许合作者直接在我们的网站上开发和共享新的arXiv功能。

与arXivLabs合作的个人和组织都接受并接受了我们的开放，社区，卓越和用户数据隐私价值。 arXiv致力于这些价值观，并且仅与遵守这些价值观的合作伙伴合作。

有一个可以为arXiv社区增加价值的项目的想法吗？了解有关arXivLabs以及如何参与的更多信息。