tfjgeorge /nngeometry
PyTorch 中的 {KFAC,EKFAC,Diagonal,Implicit} Fisher 矩阵与有限宽度 NTK
Python225
k-fac 话题在 GitHub 上没有填写简介,这里按 Star 数汇总最相关的热门仓库。
PyTorch 中的 {KFAC,EKFAC,Diagonal,Implicit} Fisher 矩阵与有限宽度 NTK
PyTorch implementation of influence functions with K-FAC for MLPs and Transformers. Find which training examples most affect model predictions.
面向 LLM 的几何神经可塑性:一个闭环自调节回路 — Fisher(K-FAC)-> 热力学门控 -> liquid-time SDE -> 自然梯度自适应 -> 漂移检测。诚实、审慎的研究。