#模型
Deep Learning in Production Resource List(github.com)
2020-10-19 0:33
在这个存储库中，我将分享一些关于在生产中部署基于深度学习的模型的有用注释和参考。
将完整的ImageNet预训练模型从MXNet转换为PyTorch[非常棒，&；完整的ImageNet模型是指在约14M个图像上训练的模型]
2020-10-18 20:23
在此之前，我们采用了一个简单的视频管道，并在不牺牲Python运行时的灵活性的情况下使其尽可能快。你能走到9FPS到650FPS的程度是令人惊讶的，但我们没有达到完全的硬件利用率，流水线也没有线性扩展到单个GPU之外。有证据(使用gil_load衡量)表明，我们受到了一个基本的Python限制，即多线程争夺全局解释器......
How to put machine learning models into production(stackoverflow.blog)
2020-10-17 10:49
数据科学家擅长创建表示和预测真实世界数据的模型，但有效地部署机器学习模型更像是一门艺术，而不是科学。部署需要在软件工程和DevOps中更常见的技能。据Venturebeat报告，87%的数据科学项目从未投入生产，而redapt声称这一比例为90%。两者都强调了决定成败的一个关键因素是团队协作和迭代的能力。
构建机器学......
Gradient Boosted Decision Trees(www.simonwardjones.co.uk)
2020-10-7 15:2
本文是介绍基本机器学习算法的系列文章中的第五篇。每个帖子将被分成两部分。
理念和关键概念-大多数人应该能够阅读本节内容并了解算法是如何工作的。
数学-这是为感兴趣的读者准备的，将包括详细的数学推导，然后用Python实现。
在上一篇文章中，我们谈到了不适应、过度适应、偏见和变异。我们解释了随机森林如何使用多棵树的平均......
2020-10-7 14:56
LMU慕尼黑大学的一组科学家已经开发出模式开发训练(PET)，这是一种针对自然语言处理(NLP)模型的深度学习训练技术。使用PET，研究小组训练了一个具有223M参数的Transformer NLP模型，在Superglue基准上，该模型的性能比175B参数的GPT-3高出3个百分点以上。
博士生蒂莫·希克(Timo......
Storks Deliver Babies (p= 0.008)(www.researchgate.net)
2020-10-7 9:5
这篇文章表明，整个欧洲的鹳数量和人类出生率之间存在着高度统计上的显著相关性。虽然鹳可能不会生孩子，但对相关性和p值的不假思索的解释必然会得出不可靠的结论。
图1.在17个国家和地区存储k个位置的变量的编号(HOW WITH N BUMN BILRITS VARI WITH STORE K PO PUTURATION ......
Plan2Explore: Active Model-Building for Visual Reinforcement Learning(bair.berkeley.edu)
2020-10-7 8:39
为了在非结构化的开放世界环境中成功运行，自主智能Agent需要解决许多不同的任务，并快速学习新的任务。强化学习使人工智能体能够解决仿真和现实世界中的复杂任务。然而，它需要在环境中收集大量的经验，而代理只学习这一特定的任务，就像学生在不理解的情况下背诵讲座一样。自监督强化学习已经成为一种选择，在这种学习中，Agent只......
2020-9-26 6:35
Google今天发布了AI Platform Forecast in General Availability，这是一项让开发者在云中准备、构建、运行和共享机器学习模型的服务。它基于Google Kubernetes引擎后端，具有专为高可靠性、灵活性和低开销延迟而设计的架构。
IDC预测，2022年全球在认知和人工智......
Adventures in hill climbing with AI(karimfanous.substack.com)
2020-9-26 1:6
在上一篇文章中，我概述了我最近构建人工智能产品的经验以及它们与传统软件的区别。在本系列的第二部分中，我将进一步讨论AI产品(模型)是如何成为动态实体的，这些实体需要不断优化，以及这种现象的影响。
让我们设想一下，我们正在努力构建一款新型的人工智能产品。我们的产品将接收车祸图像作为输入，并生成输出决策：汽车是否完全损失......
Bringing the Mona Lisa Effect to Life with Tensorflow.js(blog.tensorflow.org)
2020-9-26 1:3
都市传说说，当你在房间里走来走去时，蒙娜丽莎的眼睛会跟着你。这就是众所周知的“蒙娜丽莎效应”。为了好玩，我最近编写了一个交互式数字肖像，通过你的浏览器和网络摄像头将这种现象栩栩如生地呈现出来。
该项目的核心利用了TensorFlow.js、深度学习和一些图像处理技术。大意是这样的：首先，我们必须生成蒙娜丽莎头部的一系......
Facebook details Dynabench, a platform for AI data collection and benchmarking that uses both humans and AI models to create challenging test data sets(venturebeat.com)
2020-9-25 1:4
Facebook今天推出了Dynabench，这是一个用于人工智能数据收集和基准测试的平台，它使用“循环中”的人和模型来创建具有挑战性的测试数据集。利用一种名为动态对抗性数据收集的技术，Dynabench衡量了人类欺骗人工智能的难度，Facebook认为，与目前的基准相比，人工智能是衡量模型质量的更好指标。
许多研究......
Advancing NLP with Efficient Projection-Based Model Architectures(ai.googleblog.com)
2020-9-24 10:4
2020年9月21日(星期一)
2020-9-23 23:32
我们很自豪地宣布，我们已经从头开始构建并发布了适用于以下语言的高质量(即与高级Google模型不相上下)语音到文本模型：
您可以在我们的存储库中找到我们的所有模型以及示例、质量和性能基准。此外，我们还投入了一些时间使我们的模型尽可能易于访问-您可以尝试我们的示例以及PyTorch、ONNX、TensorFlow检查点......
2020-9-23 22:51
#这假设您已经安装了正确版本的PyTorch dpip install-q torchaudio omegaconf soundfile。
导入TORCH导入ZIPFILE从GLOB导入TORCHUDIO导入GLOB#参见https://github.com/snakers4/silero-models了解实用程序和......
Computer Model Exposes Tardigrade Superpower(medium.com)
2020-9-23 4:1
迟滞症以其韧性而闻名，现在一个计算机模型表明了其dna保护技能的潜在机制。
迟滞，又名水熊或苔藓仔猪，是一群微小的动物(成年后大约0.5毫米长)。从南极的严寒到热带雨林的湿热，大约1300个已知物种随处可见。
然而，他们广泛的分布并不是他们成名的主要理由。实现这种分布的弹性是。迟滞是我们所知的最顽强的动物之一。
它们......
Microsoft says it will exclusively license OpenAI's GPT-3 language model, which will continue to be offered via the Azure-hosted API launched in June(venturebeat.com)
2020-9-23 0:47
微软今天宣布，它将从人工智能初创公司OpenAI独家授权GPT-3，这是世界上最强大的语言理解模型之一。在一篇博客文章中，微软执行副总裁凯文·斯科特(Kevin Scott)表示，新协议将允许微软利用OpenAI的技术创新为客户开发和交付人工智能解决方案，并创建利用自然语言生成能力的新解决方案。
斯科特写道：“我们认......
2020-9-20 2:57
“伟大的精神模型”第一卷和第二卷已经出版。单击此处了解有关该项目的更多信息。
本指南探讨了您需要了解的有关心理模型的所有内容。当你做完的时候，你会想得更好，犯的错误更少，而且会得到更好的结果。
心理模型是我们理解世界的方式。它们不仅塑造了我们的思维方式和理解方式，还塑造了我们所看到的联系和机会。心理模型是我们如何简化......
On “Learning to Summarize”(nostalgebraist.tumblr.com)
2020-9-13 3:52
这篇文章是我对OpenAI的新论文“学会从人类反馈中总结”的评论的延伸版本。
背景：这篇论文是OpenAI去年发表的关于使用人类偏好数据微调GPT-2的工作的直接延伸。我当时实际上并没有仔细阅读过这篇文章，但现在回头看了一下，所以这真的是对两者的评论。
在OpenAI的偏好学习工作中，有两个几乎互不相关的想法。
首先......
AutoML Library for Apache Spark(github.com)
2020-9-10 3:3
TransmogrifAI(发音为trăns-mŏgˈrə-fī)是一个运行在Apache Spark之上的用scala编写的automl库。它的开发重点是通过机器学习自动化和强制执行编译时类型安全性、模块性和重用的API来加速机器学习开发人员的工作效率。通过自动化，它实现了接近手动调整模型的精度，时间减少了近100......
2020-9-8 0:12
请查找评论以扩展Riley等人的重要且富有洞察力的论文。
Gaël Varoquaux，法国Inria研究主任-加拿大McGill大学客座教授Russell A.Poldrack，加利福尼亚州斯坦福大学教授Sylvain Arlot，法国巴黎萨克雷大学教授Yoshua Bengio，加拿大Mila魁北克算法研究所教授......
2020-9-7 22:17
纳西姆·塔勒布最出名的是他的书，特别是“黑天鹅”，但他也以令人难忘的表情而闻名。他们都很受人尊敬，他把他们都放进了一本书里。它们很短，通常是反向的，通常很有娱乐性。以下是几个例子：
你可以通过问一个人觉得他感兴趣的人来判断他有多无趣。
那些不认为就业是系统性奴隶制的人要么是盲人，要么是有工作的人。
罗马和奥斯曼帝国时......
Augmented reality could be the geology classroom’s killer app(arstechnica.com)
2020-9-6 23:6
地质学教学中最重要的挑战之一就是把外面的世界带入课堂。显然，在大流行期间，不能安全地将学生带进教室并不会让这件事变得更容易。幸运的是，数字工具可以提供新的方式来访问你所在的任何房间以外的世界。
地质学是一门非常空间的科学，可能需要大量的三维可视化。长期以来，简单的物理模型(更不用说岩石)一直被用来辅助教授断层或晶体矿......
Traffic Prediction with Advanced Graph Neural Networks(deepmind.com)
2020-9-6 10:32通过与谷歌合作，DeepMind能够将AI的好处带给全球数十亿人，从让一位言语受损的用户与他的原声重聚，到帮助用户发现个性化的应用，我们可以在谷歌规模上将突破性研究应用到迫在眉睫的现实世界问题上。今天，我们很高兴分享我们最新合作的成果，为使用谷歌地图的10亿多人带来真正的全球影响。
人们依赖谷歌地图来获得准确的交通预......
Effective testing for machine learning systems(www.jeremyjordan.me)
2020-8-31 23:51作为PyTorch Lightning的核心维护者，我对测试在软件开发中的价值有了强烈的认识。由于我在工作中一直在酝酿一个新项目，我已经花了相当多的时间来思考我们应该如何测试机器学习系统。几周前，我的一位同事给我寄来了一篇关于这个主题的有趣的论文，这激发了我深入挖掘，收集我的想法，并写下这篇博客文章。
在这篇博客文章......
2020-8-29 15:15
将gradio导入为grdef Recognition_Digit(Img)：#...。在输入数组#上实现数字识别模型...。返回标签字典和置信度gr.Interface(fn=Recognition_Digit，Input="；SketchPad"；，Output="；Label"；).La......
2020-8-28 4:42
生长神经元胞自动机展示了简单元胞自动机(CAS)如何学会在抵抗扰动的同时自组织成复杂的形状。这样的计算模型近似于生物学中一个悬而未决的问题的解决方案，即细胞如何合作创建一个复杂的多细胞解剖结构，并在受损时进行再生？该模型参数化细胞的规则是参数高效的，端到端可区分的，并说明了一种新的方法来模拟解剖内稳态的调节。在这项工......
Differentiable Control Problems(fluxml.ai)
2020-8-27 14:14我们已经讨论了可微编程的想法，即我们将现有的程序合并到深度学习模型中。本文展示了∂P可以为一些简单但经典的控制问题带来什么，在这些问题中，我们通常会使用黑盒强化学习(RL)。基于∂P的模型不仅学习更有效的控制策略，而且训练速度更快几个数量级。这些代码都可以自己运行--它们在任何笔记本电脑上都能在几秒钟内完成训练。
差......
2020-8-26 13:33
在产品中使用机器学习模型很困难。大多数公司未能从这些模型中提取价值，因为它们不能正确地操作模型。
我们已经擅长创建模型并对其进行迭代，但大多数公司仍然没有很好地使用它们。你可以使用的性能可以接受的模式比你不能使用的优秀模式要好。那么，为什么公司在利用它们时会遇到这么多问题呢？
在这篇博客文章中，我们展示了一些挑战类似......
Mental Model: Second Order Thinking(models.substack.com)
2020-8-26 13:17
1935年，当澳大利亚的甘蔗作物被甘蔗甲虫破坏时，政府惊慌失措，将甘蔗蟾蜍引入澳大利亚。考虑到当时的紧迫性和甘蔗作物是澳大利亚最大的收入来源之一，这似乎是一个快速而必要的解决方案。
几年过去了，甘蔗甲虫的数量并没有像预期的那样显着下降，但一个新的问题开始出现。是甘蔗蟾蜍。
由于其有毒的皮肤和没有天敌，甘蔗蟾蜍的数量迅......
Computability in Linear Algebra (2004)(www.sciencedirect.com)
2020-8-25 1:25
线性代数中的许多问题都可以用高斯消元法来解决。这个著名的算法适用于实数计算的代数模型，其中运算+、-、*/以及例如<；和==之类的测试假定是精确的。代数算法在实际数字计算机上的实现往往会导致数值不稳定，从而暴露出模型与现实之间的严重差异。
追溯到艾伦·图灵(Alan Turing)的另一种实数计算模型认为实数是有......