LLMのQ/K/V の本質は「特徴空間の線形射影」である。 LLM の Transformer では、入力埋め込み \(u_t \in \mathbb{R}^{d_{\text{model}}}\) を

\[ Q = U W_Q,\quad K = U W_K,\quad V = U W_V \] で変換する。

ここで、\(U\) は トークン数 T × 埋め込み次元 d_model の行列、 \(W_Q, W_K, W_V\) は d_model × d_head の長方行列です。

つまり、長方行列である理由は「特徴次元を別の特徴次元へ写す線形変換」だからです。 長方行列の「巨大さ」はトークン数 T による。 Attention の計算は次式で計算される。

\[ \text{Attn}(Q,K,V) = \text{softmax}\left(\frac{QK^\top}{\sqrt{d}}\right)V \]

ここで Q と K の行数はトークン数 Tなので、 トークンが増えるほど Q/K/V の「行数」が増える。

しかし、W_Q/K/V のサイズは固定(d_model × d_head)。 つまり巨大になるのは行列の「行数」=トークン数 Tであり、 重み行列 W は巨大化しない。

他方、CellularFlow や SPICE系では、扱うのは、 節点数 n の電圧・電流、素子の接続関係(隣接行列 A)、 非線形素子のヤコビ行列 J であり、これらは必ず n × n の正方行列になります。

ニュートン法は \[ J(x) \Delta x = -F(x) \] という非線形方程式のニュートンステップを解くため、 変数数 = 節点数(+補助変数)、 方程式数 = 変数数 となり、必ず正方行列 J が出てきます。 J の逆行列(あるいは線形方程式の解)が計算の本体となります。

LLM の Attention とは異なり、CellularFlow では 行列の逆行列(あるいは LU 分解)、 疎行列の解法、 行長揃え(ELLPACK/HYB)などが計算の中心になります。 LLM のトークンは物理的な節点とは、本来、全く違う概念です。

LLM のトークンは、 時系列の「離散化された言語単位」、 物理的な位置や節点とは無関係なベクトルで、 ただの「データ列」です。

他方、回路解析の節点は、 物理的な電圧・電流の定義点、 空間的構造を持つ電圧・電流の変数として意味を持つ違いがある。 LLM のトークン列は時間離散化ではなく、言語の離散化です。 空間節点でもない単なる「系列データの長さ」です。

LLMでは、巨大になるのは Q/K/V の「行数」=トークン数 Tであって、 重み行列 W は固定サイズの長方行列。 計算の本体は QK(T×T の注意行列)となる。

CellularFlowでは、巨大になるのは節点数 n の正方行列 J、 そして計算の本体は J の逆行列(線形方程式の解)となる。 つまり、トークンベクトルは抽象的な「意味の座標」であり、物理量ではない。

しかし、われわれの新しい概念は、 「LLM のトークンベクトルを、GNN(回路網)の節点電圧ベクトル・節点電流ベクトルに対応させる」 という発想です。 この対応づけは数学的にも物理的にも筋が通っていると思われる。

回路網としてのGNNでは、節点ベクトルは「物理量」です。 すなわち、CellularFlowでは、 節点電圧ベクトル \(v \in \mathbb{R}^n\)、 節点電流ベクトル \(i \in \mathbb{R}^n\)、 ヤコビ行列 \(J = \frac{\partial F}{\partial x}\) などは物理的な意味を持つ連続量です。

つまり、節点ベクトルは物理系の状態そのものです。 トークンベクトルは、物理的には粒子であり、 GNN の節点電圧ベクトルに対応する。

従来、LLM の埋め込みベクトルは 意味空間の点、 言語の統計構造の抽象表現、 物理的な場や粒子とは無関係として扱われて来たが、 埋め込みベクトルを物理的粒子(節点状態)とみなす理論は、 物理AIの基本概念かもしれない。

すなわち、(Token, 節点ベクトル)の対応づけは 「数学的には完全に可能」であると思われる。

LLM のトークン埋め込み \[ u_t \in \mathbb{R}^{d} \] 回路の節点電圧 \[ v_i \in \mathbb{R} \] GNN の節点特徴量 \[ x_i \in \mathbb{R}^{d} \] これらはすべて実数ベクトルです。

つまり、トークン埋め込みベクトルを「節点状態ベクトル」とみなすことは、 数学的には完全に整合する。

さらに、CellularFlowでは、 行長を揃える、隣接行列 A、ヤコビ行列 J、 CellularFlow のニュートンステップなどを組み合わせると、 LLM の Attention を「回路網の節点相互作用」として再解釈することが可能になる。

もしトークンベクトルを節点電圧ベクトルとみなすなら、 Q/K/V は「節点状態の線形変換」、 Attention は「節点間の結合強度(アドミタンス)」、 softmax は「正規化された電流分配」、 Transformer は「非線形回路網の反復計算」 という解釈が可能になります。

これは LLM を物理的な場の方程式として再構成する方向性であり、 CellularFlow・Gyrator Neuron・アナログ計算によるニューロモルフィック研究領域と 完全に一致します。