precision

2021-8-6 22:16
我刚刚向 Futhark 添加了半精度浮点数,如 f16 类型。这并不是特别困难(也许是一天的工作),但由于相当浅薄的技术原因,这很烦人,所以作为一点宣泄,这里有一篇关于我遇到的挑战的博客文章。首先,为什么我们甚至想要 16 位浮点数?它们的精度非常糟糕,最大的可表示值仅为 65504。显然 16 位浮点数在 80 ......
2020-10-13 19:44
这是一系列重现第一个微米的视频中的第一个。在我介绍这个项目之前,我先来看看精确度是从哪里来的。请喜欢,..。