技术文章与研究笔记
关于模型记忆、高效注意力与偏好优化的技术文章,以及早期阅读笔记与项目记录。
记忆结构、检索策略与主动上下文管理的技术演进。
从代码分析低秩投影、KV cache与矩阵吸收。
DPO理论、主要变体与偏好优化实践。