White Paper: Geometric Deconstruction and Dynamic Trajectory Analysis of Large Language Model Internal States
日期 / Date: December 24, 2025 作者 / Author: Eumi 主题 / Subject: 机械可解释性、高维语义空间、残差流动力学 / Mechanistic Interpretability, High-Dimensional Semantic Space, Residual Stream Dynamics 摘要 / Abstract CN: 本白皮书旨在探讨大语言模型(LLM)“黑箱”机制的本质及其解密路径。通过将高维向量(Embedding)重新定义为基础特征的线性组合,并结合对残差流(Residual Stream)的时间/深度切片分析,本文构建了一套从静态结构到动态演变的认知框架。该框架提出,通过“切片观测”与“因果插针(Intervention)”相结合的方法,可以将非线性的神经网络推理过程还原为可观测的几何轨迹与逻辑回路。 EN: This white paper aims to explore the nature of the "black box" mechanism in Large Language Models (LLMs) and the...
Dec 24, 20251