etlab がめざすもの ― 脳回路の実現による次世代 AI 基盤

etlab( \( Ensemble \) \( AI \) \( Technology \) \( Lab \) ) は、電力消費の小さい将来の AI を実現するためには、 シリコン上に脳回路を実現することが必須である という立場に立っています。現在の巨大なデジタル・ノイマン型計算機では、膨大な電力とメモリ帯域を必要とし、脳が示すようなエネルギー効率の高い知能とは本質的に異なる方式で動いています。

私たちが重視しているのは、アナログ計算方式による非ノイマン計算機の構築です。脳は、ニューロンの電位やシナプス結合の強度といった 連続値の重ね合わせを使って情報処理を行っています。これは、0/1 のビット列を前提とする従来のデジタル計算とは根本的に異なる「物理そのものを計算として用いる」アプローチです。

1. 序論：なぜ「脳回路の実現」なのか

脳は、膨大な数のニューロンとシナプスからなる動的なネットワークとして理解されつつあります。しかし、AIにおける膨大な電力問題を解決するためには、その「回路」をどのレベルで、どのような形で「実現」するのかは、依然として開かれた問いです。

本ページでは、計算論的モデル、ハードウェア実装、そして認知機能との対応という三つの観点から、脳回路の実現に向けた道筋を整理します。

2. 抽象度のレイヤー：どのレベルの脳を実現するのか

2.1 細胞レベルのモデル

単一ニューロンの電気生理学的性質を忠実に再現するモデル（Hodgkin Huxley 型など）は、生物学的妥当性が高い一方で、現状のデジタル逐次計算機では、計算コストが非常に大きくなります。

2.2 ネットワークレベルのモデル

スパイキングニューラルネットワーク（SNN）や、より抽象化されたレートモデルは、大規模ネットワークのダイナミクスを扱う上で有効です。ここでは、個々のニューロンの詳細よりも、結合パターンと活動の時間発展が主役になります。

2.3 機能レベルのモデル

認知機能や行動レベルの現象を説明するために、脳回路を「情報処理モジュール」として捉える立場もあります。たとえば、ワーキングメモリ、注意、意思決定などを、抽象的な計算グラフとして表現するアプローチです。

3. 実装の方向性：ソフトウェアとハードウェア

3.1 シミュレーション環境

Python や C++ を用いたシミュレーション環境（例：Brian2、NEURON、NEST など）は、モデルの検証や仮説のテストに適しています。ここでは、柔軟性と再現性が重要なキーワードになります。

3.2 ニューロモルフィックハードウェア

近年、アナログ化、スパイキング化のニューラルネットワークをハードウェアで実装する試み（ニューロモルフィックコンピューティング）が進んでいます。これは、エネルギー効率とリアルタイム性の観点から、脳回路の実現に非常に近いアプローチといえます。

3.3 ハイブリッドなアプローチ

デジタルとアナログのハイブリット化を含め、一部の回路を詳細モデルで、他の部分を抽象モデルで表現する「マルチスケール」な実装も現実的です。研究目的や応用目的に応じて、どの部分にどれだけの計算資源を割くかを設計することが求められます。

4. 認知機能とのブリッジ

脳回路の実現は、それ自体が目的というよりも、認知機能の理解や 人工知能との接続を目指すプロセスとして位置づけられます。

記憶：シナプス可塑性とネットワーク再構成のメカニズム
学習：誤差伝搬法の拡張、あるいは、誤差逆伝播ではない学習則の探索
意識・自己：グローバルワークスペース仮説などとの対応

これらのテーマは、単なる「計算機上の再現」を超えて、脳回路とは何かという問いに直結しています。

5. 今後の展望と問い

脳回路の実現に向けた研究は、神経科学、情報科学、工学、哲学が交差する領域です。どのレベルの抽象化を採用し、どのような指標で「実現された」とみなすのか?　その基準づくり自体が、これからの重要な課題となるでしょう。

最後に、次のような問いを開いたままにしておきます。

完全な写像は必要か：生物学的脳と 1 対 1 に対応する回路は本当に必要なのか。
機能的同値とは何か：入力と出力が同じであれば、それを「同じ脳」と呼べるのか。
倫理と社会：脳回路の実現が社会にもたらす影響を、どのように評価すべきか。

重ね合わせ計算という共通の視点

etlab は、将来の低消費電力 AI を考えるうえで、次のような「重ね合わせ計算」の違いを重要な視点として捉えています。

アナログ計算機：電圧・電流などの 連続値の線形結合 によって計算を行う。脳回路のモデルに最も近い物理的表現であり、非ノイマン型の In-memory 計算と親和性が高い。
光計算：光の振幅や位相の 波の干渉（重ね合わせ） を用いて、行列演算や最適化を物理的に実行する。高速かつ並列な処理が可能だが、脳の回路構造との対応付けが課題となる。なお、光回路の Gyrator-Neuron モデルに統合する場合、光は「電圧・電流」 \( v/i \) ではなく進行波（ \( a \) ）と反射波（ \( b \) ）を扱い、素子モデルは S行列（Scattering Matrix）で記述します。 Hebb 則の「重み更新」は、位相ではなく、非揮発性の光学的減衰量＝光学的コンダクタンスに相当する量となります。
量子計算：量子状態の 複素振幅の重ね合わせ によって計算を行う。ユニタリ演算と測定による確率的な出力が特徴であり、古典的な脳回路とは異なるが、線形代数的な構造という点で共通性を持つ。なお、量子コンピュータの基本構成要素であるユニタリ演算、ジョセフソン接合を含む超伝導 LC 回路、複素振幅の干渉は、いずれも SPICE 系の回路シミュレーションで記述可能である。したがって、量子デバイスのアナログ的振る舞いは SPICE 的手法で再現できる。

これらはすべて「1 と 0 だけに依存しない重ね合わせ」を利用する計算方式ですが、 etlab が焦点を当てるのは、脳の連続値・回路構造に最も近いアナログ非ノイマン計算機です。脳回路をグラフ構造として捉え、その結合パターンとダイナミクスをシリコン上で再現することで、エネルギー効率の高い知能の基盤を構築することを目指しています。

etlab のミッション

etlab のミッションは、次の 3 点に要約されます。

脳回路の物理的原理に基づく計算モデルの探究
ニューロン・シナプス・ネットワークの振る舞いを、連続値の重ね合わせとして理解し、数理モデルと回路設計に落とし込む。
アナログ非ノイマン計算機アーキテクチャの設計
メモリと計算を分離しない In-memory 計算、メモリスタなどの素子を用いた疎行列処理などにより、脳に近いエネルギー効率を持つ計算機構を構築する。
将来の AI と脳科学の橋渡し
脳回路の理解と工学的実装を往復させることで、生物学的な脳と人工システムのあいだに新しい共通基盤をつくる。

現状では、GPU のDigital worldが強すぎる。しかし、内積はオーム則でできる、 softmax はアナログでできる、 attention は物理現象で実装できる、などを考慮すると、物理世界の方が計算に向いているとも言える。 etlab は、脳回路の実現を通じて、「電力消費の小さい将来の AI 化」を支える新しい計算機のかたちを探究していきます。デジタル・ノイマン型計算機の延長ではなく、 アナログ計算方式による非ノイマン計算機こそが、次世代の知能基盤として最も重要になると考えています。

研究開発

CellularFlow

脳は回路である。回路は節点と枝からなるグラフ構造から成り、キルヒホッフの法則とオーム則を満たす物理現象を起こすGNN(Graph Neural Networks)である。この現象は、たったひとつの節点\( n_i \)に凝縮され、単なる\( i=Gv \)の式で表現される。隣接する他の節点\( n_j \)からの枝電流は枝電圧\( v_{ij} \)にコンダクタンス\( G_{ij} \)を掛けたもので、その枝電流を節点\( n_i \)に与えることになる。隣接節点\( n_j \)からの全ての電流和\( \sum i_{ij} \)としてその節点\( n_i \)に与えることになる。節点\( n_i \)とアース間に１Ωの抵抗があれば、その電流和\( \sum i_{ij} \)は節点電圧vにかわる。これが節点に起こる物理現象である。

電流iは、世界を表現するフローFである。コンダクタンスGは、フローFの世界を構造の表現モデルとして記憶するメモリスタ（可塑性抵抗）である。節点電圧v を求める処理、すなわち、フローFを構造に変換する計算処理を1と0のデジタルで行うと膨大な電力と時間が必要となる。デジタル処理は、大きなビジネスを生むので重要である。

しかし、節点に起こる物理現象の処理は、物理法則を満たすように計算する必要があり、分離構造になっている記憶と処理の伝送に膨大な浪費が存在する。われわれが提案したCellularFlow（IEEECAS 2022/12）は、理想的なメモリスタからなるジャイレータ集合である。ジャイレータ素子(相互作用のi=Gv)は、それだけて、順伝搬（推論）と逆伝搬（学習）を実行する。そして、その集合は、アナログの加減乗除処理を In-Memory操作で実行するシステムである。

ジャイレータ集合の回路シミュレータは、C++言語において、メモリ上の住所（アドレス）を保持する所有権変数を基本として構成されている。所有権は、脳に社会をつくる。 CellularFlowは、フローFを回路構造に変換する機械である。非ノイマン型計算機である。

なぜジャイレータか、なぜHebb則か

AutoEncoderの基本動作は、入力変数（電流）を潜在変数（電圧）に変換し、その入力に漸近する出力（電流）に変換して復元することである。この変換を行うのがジャイレータである。電流電圧変換は抵抗素子R（コンダクタンスGの逆数）の処理であり、電圧電流変換はコンダクタンスGの処理である。CellularFlowでは電圧電流変換のジャイレータを使用する。電圧電流変換のジャイレータの逆処理を行う電流電圧変換のジャイレータは、回路解析の結果として暗に使用される。すなわち、コンダクタンス行列を係数行列とする節点方程式を解くことが、CellularFlowのEncoder処理となる。電圧電流変換のジャイレータの双対概念を使用すれば電流電圧変換も可能である。インダクタLは双対であるコンデンサCを使って疑似的に構成が可能となる。

ジャイレータ内部のコンダクタンスGをHebb則で学習する。Hebb 則は「一緒に発火する前ニューロンと後ニューロンの結合が強くなる」ことによる学習則である。現状のAIの基本処理はTransformer の Attentionである。このAttentionをHebb 則の「重要な結合を強調する仕組み」の拡張版として数学的に定義することはできない。 Hebb 則は結合そのものを学習する規則であり、 Attention は結合を計算する規則であって学習則ではないからである。しかし、類似している入力同士が強く関連しているかを強調する意味、あるいは、ネットワーク内の「結合の強さ」を表す意味では共通の概念かもしれない。 Attention の重みは Softmax関数の値で決まるが、これは類似度が高いものが低エネルギー状態になる物理モデルと類似している。Softmax関数はむしろanalog素子の方が構成しやすい。

Attention の重みは、 Mean-field 的な相互作用モデルとして質問Q と記憶K の内積で定義される。そのため、「粒子（回路では節点）間の相互作用強度」となっているとも言える((to QKV)。 同期現象との類似性とも関係し、 Attention の重みが特定のトークンに集中する様子は、「位相が揃う」ようにも見える。 Hebb 則の「相関が高いほど結合が強くなる」、 Hopfield の「エネルギーが低いペアが強く結びつく」あるいは、 Ising モデルの「相互作用が強いスピンが揃う」などとも深く関係し、お互いに、物理的構造が似ている。

2020年の重要論文 “Modern Hopfield Networks and Attention” では、Attention を Hopfield ネットのエネルギー最小化として完全に同一視している点は興味深い。 Hopfield ネットの結合行列は Hebb 則で作られるので、 Attention = Hebb 則の連続時間・確率化・正規化バージョンという解釈が数学的に成立しているようだ。「粒子間の近さを強調する原理として Hebb 則があるのではないか？」と思う。Softmax は Hebb 則の「強い結合はさらに強くする」という性質を “指数的に増幅する” ことで実現しているようだ。 Softmax は Hebbian 強調の“過激版（指数的強調）”ではないか? Hebbian Attention 行列なる言葉もあるようだ。ジャイレータ・ニューロンは最も小さいTranformer素子かな。

CellularFlow回路記述言語とGraph Neural Networkによる脳回路表現

ここででは、CellularFlowの回路記述言語を用いて、 Hodgkin-Huxley（HH）モデルと 任意の非線形計算グラフを統合し、 Graph Neural Network（GNN）として脳回路を表現できる という考え方を簡単に説明します。

1. Hodgkin-Huxleyモデルの回路表現

CellularFlowでは、ニューロンの電気的ダイナミクスを表す Hodgkin-Huxleyモデルを、内部節点とGyrator要素からなる回路として記述します。例えば次のような形です。

\( HH( n_1, n_2, n_3, n_4; 0, G_{12}, G_{21}, 0 ) \)

ここで \( n_1, n_2, n_3, n_4 \) は4つの内部節点を表し、 \( G_{12}, G_{21} \) は電圧と電流の双対性を担う Gyrator要素です。これにより、ニューロン膜電位やイオンチャネルのダイナミクスが 物理回路として直接シミュレーション可能になります。

2. 任意の非線形計算グラフの回路表現

CellularFlowでは、ニューロン内部やシナプスで行われる任意の非線形計算も、回路として記述できます。そこで用いるのが FUNCM です。

\( FUNCM(n_1, n_2, n_3, n_4; "f(a,b)": mode) \)

ここで \( "f(a,b)" \) は2変数 \( a, b \) を入力とする任意の非線形関数（計算グラフ）を表し、 \( mode \) はその動作モード（例：電圧出力・電流出力の扱いなど）を指定します。この記述により、ニューラルネットワークで用いられる活性化関数や複雑な非線形変換を、回路グラフとして直接組み込むことができます。

3. 回路グラフとしてのGraph Neural Network

HHモデル（HH(...)）と非線形計算グラフ（FUNCM(...)）を組み合わせることで、CellularFlowの回路記述は ノード（節点）とエッジ（接続）からなるグラフ構造になります。各ノードはニューロンや局所回路を表し、各エッジはシナプス結合やエネルギー流・情報流を表します。

このような回路グラフは、そのまま Graph Neural Network（GNN）の計算グラフとして解釈できます。つまり、脳回路そのものをグラフ構造として捉え、そのダイナミクスをGNNとして学習・解析することが可能になります。

4. 脳回路と機械学習の統合的な視点

CellularFlowの特徴は、SPICE系の回路シミュレーションと 機械学習の計算グラフを同じ枠組みで扱える点にあります。 HHモデルは生体ニューロンの物理的ダイナミクスを、 FUNCMは抽象的な非線形計算を表し、それらが 一つの回路グラフとして統合されます。

この統合により、

生体脳回路の構造とダイナミクスを尊重しつつ、
Graph Neural Networkとしての学習・推論を行う

という新しいタイプの「脳回路ベース機械学習」が実現可能になります。

5. まとめ

CellularFlowの回路記述言語では、 \( HH(n_1,n_2,n_3,n_4;0,G_{12},G_{21},0) \) による Hodgkin-Huxleyモデルと、 \( FUNCM(n_1,n_2,n_3,n_4;"f(a,b)":mode) \)による任意の非線形計算グラフを組み合わせることで、 脳回路をGraph Neural Networkとして表現することができます。

これにより、物理回路・生体モデル・機械学習が一体となった新しい計算枠組みを、 https://www.etlab.jp のHTML言語上で記述・共有することが可能になります。

現状において、Python DSLがある。その役割は、モデル構造を簡潔に書く、節点番号を自動生成する、接続関係を自動生成する、Softmax / Attention のマクロ展開を行う、ことである。１つの課題として、次のManual情報をPython DSL化することである。 to Manual