tinygrad：不到1000行代码的深度学习框架，天才黑客开源GitHub 2.3k+ stars

项目地址：https://github.com/geohot/tinygrad

本质上说，tinygrad就是一个可微的Tensor库，但是对于训练一个简单的神经网络它是足够了，项目也给一个简单的case：

from tinygrad.tensor import Tensor
import tinygrad.optim as optim
from tinygrad.utils import layer_init_uniform
 
 
class TinyBobNet:
  def __init__(self):
    self.l1 = Tensor(layer_init_uniform(784, 128))
    self.l2 = Tensor(layer_init_uniform(128, 10))
 
 
  def forward(self, x):
    return x.dot(self.l1).relu().dot(self.l2).logsoftmax()
 
 
model = TinyBobNet()
optim = optim.SGD([model.l1, model.l2], lr=0.001)
 
 
# ... and complete like pytorch, with (x,y) data
 
 
out = model.forward(x)
loss = out.mul(y).mean()
loss.backward()
optim.step()

另外tinygrad也支持GPU：

from tinygrad.tensor import Tensor(Tensor.ones(4,4).cuda() + Tensor.ones(4,4).cuda()).cpu()

另外，一个类似的项目是micrograd (https://github.com/karpathy/micrograd)，也可以比较一下。