Appearance
经常在训练或者推理过程中看到float, fp16,以及bf16,fp8等表示精度的术语. 对它们的了解一只停留在所占内存或者显存大小不一样，没有很详细了解具体的区别. 在这篇blog中通过对它们进行一个对比来剖析了解一下它们的具体区别.