PyTorch 源码浅析(四)

自动微分的算符库THNN和THCUNN 在不考虑自动微分的引擎的情况下,实际上想要实现简单的自动微分很简单。只要将不同的算符实现为具有forward方法,和bac…

PyTorch 源码浅析(三)

THC——基于CUDA的张量代数库 THC里实际上已经开始使用C++了,并不是一个像TH一样的纯C的库。这可能也是个人更偏爱mshadow的原因,有些地方写得像C有些地…

PyTorch 源码浅析(二)

TensorApply宏 如同作者注释所言,tensor apply系列的宏的机制如下 从最外部的角标开始,循环至第一个发生内存不连续的地址,然后将其记为张量A…

PyTorch 源码浅析(一)

CPU上的张量(多维数组)库 TH库的实现使用了用C语言的宏产生的泛型,并且通过命名规则来产生类似面向对象的效果。这部分我们在这一章后面介绍。 TH…

返回顶部