LLM加速

预测token速度翻番!Transformer新解码算法火了,来自小羊驼团队|代码已开源

利用雅可比(Jacobi)迭代法首次打破自回归解码中的顺序依赖性