補遺: Hopfield模型とレプリカ法

Hopfield模型は、神経回路網をIsing模型として読むための、たいへんよくできた入口です。各ニューロンは発火するかしないかを表す2値変数で、統計力学の言葉ではスピンです。記憶したいパターンは相互作用 $J_{ij}$ に焼き込まれ、状態はエネルギーを下げるように動きます。途中まで欠けた画像や少し壊れたパターンから、もとの記憶へ戻っていきます。これが連想記憶です。

この模型のよいところは、物語が直感的でありながら、計算がすぐに本格的な統計力学へ入っていくことです。Hebb則で結合を作ると、ハミルトニアンはスピングラスに見えます。分配関数を計算しようとすると、Hubbard--Stratonovich変換、鞍点法、秩序変数、自己無撞着方程式が自然に現れます。記憶容量を問うと、レプリカ法が必要になります。さらに横磁場を入れると、量子Hopfield模型を通じて量子アニーリングの発想へ進みます。

1. 連想記憶をエネルギー最小化として見る

スピンを

$${\sigma }_i=\pm 1,i=1,\dots ,N$$

とします。$N$ はニューロン数です。発火する、しないを $\pm 1$ で書いているだけなので、ここでは神経回路網の状態とIsingスピン配位を同一視します。

記憶したいパターンを

$${\mathit{\xi }}^{\mu }=({\xi }_1^{\mu },{\xi }_2^{\mu },\dots ,{\xi }_N^{\mu }),{\xi }_i^{\mu }=\pm 1,\mu =1,\dots ,P$$

と書きます。$\mu$ はパターン番号、$P$ は記憶させるパターン数です。たとえば白黒画像なら、各画素を $\pm 1$ にして一つのパターンにします。

Hopfield模型のハミルトニアンは

$$H(\mathit{\sigma })=-\frac{1}{2}\sum _{i,j=1}^N{J}_{ij}{\sigma }_i{\sigma }_j$$

です。係数の規格化にはいくつかの流儀があります。記憶容量の議論へつなげやすい標準的な書き方では、Hebb則を

$$J_{ij}=\frac{1}{N}\sum _{\mu =1}^P{\xi }_i^{\mu }{\xi }_j^{\mu },J_{ii}=0$$

と置きます。$J_{ii}=0$ は自分自身との結合を除く約束です。大きな $N$ では自己結合を入れても、エネルギーの定数差や $1/N$ の差に吸収されることが多いです。

この結合は、パターン ${\mathit{\xi }}^{\mu }$ の中で同じ符号を持つニューロン同士を同じ向きにし、逆符号を持つニューロン同士を逆向きにしようとします。つまり、パターンごとの相関を結合に焼き込んでいます。

状態 $\mathit{\sigma }$ がパターン $\mu$ とどれだけ似ているかは、overlap

$$m_{\mu }(\mathit{\sigma })=\frac{1}{N}\sum _{i=1}^N{\xi }_i^{\mu }{\sigma }_i$$

で測ります。$\mathit{\sigma }={\mathit{\xi }}^{\mu }$ なら $m_{\mu }=1$、完全に反転していれば $m_{\mu }=-1$、無関係なら大きな $N$ でほぼ0です。

自己結合による定数を無視すれば、ハミルトニアンは

$$H(\mathit{\sigma })=-\frac{N}{2}\sum _{\mu =1}^P{m}_{\mu }(\mathit{\sigma }{)}^2$$

と書けます。ここでHopfield模型の意味が一気に見えます。エネルギーを下げるには、どれかの $m_{\mu }^2$ を大きくすればよいです。つまり、状態は記憶パターンのどれかへ近づこうとします。連想記憶とは、エネルギー地形の谷を、記憶パターンの近くに作ることです。

コラム 2024大学院講義 第15回 0:05:00-0:11:00

ハバスト祭りから始まる最終回

第15回は、Hopfield模型そのものに入る前からHubbard--Stratonovich変換、つまりハバードストラトノビッチ変換の空気で始まります。長い名前なので、講義では親しみを込めて「ハバスト」と省略します。研究室や分野の中では、こうした計算手法の名前が短い符丁になり、それを聞いただけで「あ、今日はあの計算をやるんだ」と身体が反応することがあります。

講義の冒頭では、ハバードとストラトノビッチを「手元に用意して」、合図があったら変換を打つ、という冗談から始まります。正確には「ハバスト法」という正式な名前があるわけではありません。それでも、スピングラスやレプリカ法の計算に慣れた界隈では、二乗が出てくると自然にこの変換を打ちたくなる、という研究文化が語られます。

もちろん、名前の軽さに対して中身はまじめです。二乗を一次へほどき、離散的なスピン和を取りやすくします。Hopfield模型はこの変換の威力が見えやすい題材なので、最終回にふさわしい「ハバスト祭り」になります。

2. ランダムパターンの直交性

パターンが独立にランダムに作られているとします。各 ${\xi }_i^{\mu }$ は等確率で $\pm 1$ をとり、異なる $i,\mu$ で独立です。このとき異なる二つのパターンの重なりは

$$\frac{1}{N}\sum _{i=1}^N{\xi }_i^{\mu }{\xi }_i^{\nu }\underset{N\to \mathrm{\infty }}{\overset{}{\to }}{\delta }_{\mu \nu }$$

になります。$\mu =\nu$ なら各項は $({\xi }_i^{\mu }{)}^2=1$ なので1です。$\mu \ne \nu$ なら、${\xi }_i^{\mu }{\xi }_i^{\nu }$ は独立な $\pm 1$ の乱数で、足し合わせると平均0へ近づきます。

この直交性があると、記憶パターン同士が互いに邪魔をしにくくなります。逆に、よく似たパターンをたくさん入れると、別々の記憶の谷が重なり、検索の途中で混ざった状態へ落ちやすくなります。実験的にHopfieldネットワークを動かして「思ったほどきれいに想起しない」ときは、パターンの直交性や相関を疑うのが第一歩です。

局所場を

$$h_i(\mathit{\sigma })=\sum _{j=1}^N{J}_{ij}{\sigma }_j$$

と書くと、スピン ${\sigma }_i$ を反転したときのエネルギー変化は

$$\mathrm{\Delta }{E}_i=2{\sigma }_i{h}_i$$

です。したがって

$${\sigma }_i\leftarrow \mathrm{sgn}{h}_i$$

と更新すると、エネルギーは上がりません。これが非同期Hopfield更新の基本です。全体を一気に動かすのではなく、一つのスピンを選び、その場所で局所場にそろえる。すると系は少しずつエネルギーの谷へ下っていきます。

有限温度で少し揺らぎを入れるなら、熱浴型に

$$Pr({\sigma }_i=1)=\frac{1}{2}[1+\tanh (\beta h_i)]$$

とすればよいです。$\beta \to \mathrm{\infty }$ では符号更新へ戻ります。$\tanh$ は、低温で急な符号関数になり、高温で柔らかい確率的更新になります。

大学院講義2024板書 p.47: Hopfield模型、Hebb則、直交性、分配関数の入口

大学院講義2024板書 p.48: HS変換、鞍点法、自己無撞着方程式

コラム 2024大学院講義 第15回 0:17:00-0:21:00

係数を合わせるのも物理である

Hopfield模型の係数には、最初に見たときには細かすぎるように感じる因子が入ります。講義では、前回の板書に残っていた係数をその場で直しながら、なぜ $N$ や $P$ の入り方を気にするのかが説明されます。

理由は、エネルギーがスピン数に比例するようにしたいからです。$i,j$ の二重和はおよそ $N^2$ 個の項を持ちます。そこへHebb則の $1/N$ が入り、全体としてハミルトニアンが $O(N)$ になるように係数を整える。これがエネルギーの示量性です。

情報科学の問題には、もともと物理的なエネルギーがあるわけではありません。それでもエネルギー関数を作るなら、要素数を2倍にしたときに自由エネルギーも2倍になるような、熱力学的に自然なスケールへ整える必要があります。こういう地味な係数合わせが、あとで鞍点法を使える形を作ります。

3. 分配関数とHubbard--Stratonovich変換

平衡状態を調べるには分配関数

$$Z=\sum _{\mathit{\sigma }}\exp [-\beta H(\mathit{\sigma })]$$

を計算します。上のoverlap表示を使えば

$$Z=\sum _{\mathit{\sigma }}\exp [\frac{\beta N}{2}\sum _{\mu =1}^P{m}_{\mu }(\mathit{\sigma }{)}^2]$$

です。難しさは、$m_{\mu }^2$ にあります。$m_{\mu }$ は全スピンの和なので、その二乗は多くのスピンを互いに結びます。そこで、Hubbard--Stratonovich変換を使います。

正の定数 $a$ に対して

$$\exp \left(\frac{a}{2}{x}^2\right)=\sqrt{\frac{a}{2\pi }}{\int }_{-\mathrm{\infty }}^{\mathrm{\infty }}dz\exp [-\frac{a}{2}{z}^2+azx]$$

が成り立ちます。右辺の $x$ は一次でしか出てきません。二乗を消す代わりに、補助変数 $z$ を一つ増やすわけです。

各パターン $\mu$ に補助変数 $z_{\mu }$ を入れると、

$$Z\propto \int \prod _{\mu =1}^{P}d{z}_{\mu }\exp [-\frac{\beta N}{2}\sum _{\mu =1}^P{z}_{\mu }^2]\prod _{i=1}^N\sum _{{\sigma }_i=\pm 1}\exp \left[\beta {\sigma }_i\sum _{\mu =1}^P{z}_{\mu }{\xi }_i^{\mu }\right]$$

となります。ここで決定的なのは、スピンについて一次になったことです。${\sigma }_i$ ごとの和が取れるので、

$$\sum _{{\sigma }_i=\pm 1}\exp \left[\beta {\sigma }_i\sum _{\mu =1}^P{z}_{\mu }{\xi }_i^{\mu }\right]=2\cosh \left[\beta \sum _{\mu =1}^P{z}_{\mu }{\xi }_i^{\mu }\right]$$

です。したがって

$$Z\propto \int \prod _{\mu =1}^{P}d{z}_{\mu }\exp [-\beta Nf(\mathit{z})]$$

とまとめられます。ただし

$$-\beta f(\mathit{z})=-\frac{\beta }{2}\sum _{\mu =1}^P{z}_{\mu }^2+\frac{1}{N}\sum _{i=1}^N\log 2\cosh \left[\beta \sum _{\mu =1}^P{z}_{\mu }{\xi }_i^{\mu }\right]$$

です。$N$ が大きいと、積分は鞍点で支配されます。つまり、積分を正面から実行する代わりに、$f(\mathit{z})$ の停留点を探せばよいです。

$$\frac{\partial f}{\partial z_{\mu }}=0$$

から

$$z_{\mu }=\frac{1}{N}\sum _{i=1}^N{\xi }_i^{\mu }\tanh \left[\beta \sum _{\nu =1}^P{z}_{\nu }{\xi }_i^{\nu }\right]$$

を得ます。これは自己無撞着方程式です。右辺に現在の $\mathit{z}$ を入れると、新しい $\mathit{z}$ が出ます。その固定点が、熱力学極限で実現する状態の候補になります。

ランダムパターンについて平均的な性質を見たいなら、経験平均を期待値に置き換えて

$$z_{\mu }={\mathbb{E}}_{\mathit{\xi }}[{\xi }^{\mu }\tanh \left(\beta \sum _{\nu =1}^P{z}_{\nu }{\xi }^{\nu }\right)]$$

と書きます。ここで ${\mathbb{E}}_{\mathit{\xi }}$ は、各成分が独立な $\pm 1$ 乱数であるパターンについての平均です。

コラム 2024大学院講義 第15回 0:23:00-0:35:00

積分するように見せて、最後は微分する

Hubbard--Stratonovich変換は、積分を増やすので一見すると遠回りです。けれども、離散スピンの全列挙より、連続変数の積分のほうが扱いやすい場面があります。微分できる、複素積分の道具が使える、そして大きな $N$ では鞍点法が使えるからです。

講義では、ガウス積分を普通に左から右へ実行するのではなく、右から左へ読む、と説明されます。計算済みの積分公式を逆向きに使うことで、二乗項を補助変数に線形結合した形へ置き換える。スピン和を取りたい今の目的から見ると、積分を一つ増やしてでも二乗をほどく価値があります。

ここでの作戦は、二乗を一次にほどき、スピン和を取り、指数の肩を $N$ 倍の形にそろえ、最後に鞍点を探すことです。積分を持ち込んだのに、熱力学極限では微分して代入するだけになります。この少しずるい感じが、統計力学の計算を軽くしてくれます。

4. Hopfield更新式が出てくる

自己無撞着方程式の意味を見ます。右辺の

$$\tanh \left[\beta \sum _{\nu =1}^P{z}_{\nu }{\xi }_i^{\nu }\right]$$

は、サイト $i$ の平均スピンです。補助変数 $z_{\nu }$ は、パターン $\nu$ をどれだけ強く思い出しているかを表す係数として働きます。したがって

$$\sum _{\nu =1}^P{z}_{\nu }{\xi }_i^{\nu }$$

は、複数の記憶パターンを重み付きで足し合わせた、サイト $i$ にかかる有効場です。

低温極限 $\beta \to \mathrm{\infty }$ では

$$\tanh (\beta x)⟶\mathrm{sgn}(x)$$

なので、自己無撞着方程式は

$$z_{\mu }=\frac{1}{N}\sum _{i=1}^N{\xi }_i^{\mu }\mathrm{sgn}\left(\sum _{\nu =1}^P{z}_{\nu }{\xi }_i^{\nu }\right)$$

になります。これは、現在の状態がどの記憶パターンに近いかを測り、その重みを更新する式です。Hopfieldの非同期更新は、スピンそのものを局所場にそろえる形で書かれますが、熱力学的な鞍点方程式からも同じ連想記憶の構造が見えます。

一つのパターンだけが凝縮している、つまり $z_1=m$、$z_{\mu >1}=0$ と仮定すると、

$$m=\tanh (\beta m)$$

を得ます。これは平均場Ising模型と同じ形です。$T=1/\beta$ が高いと $m=0$ だけが安定で、どの記憶も思い出していない状態になります。低温では $m\ne 0$ の解が現れ、ある記憶パターンに相関した状態が安定になります。

複数の $z_{\mu }$ が同時に非零になると、混合状態が出ます。たとえば三つのパターンを少しずつ混ぜた状態が局所安定になることがあります。これは、連想記憶としては望ましくない偽の記憶です。Hopfield模型は単純ですが、エネルギー地形には記憶の谷だけでなく、混合状態やスピングラス的な谷も現れます。

コラム 2024大学院講義 第15回 1:09:00-1:15:00

HopfieldからTransformerを覗く

Hopfield模型の更新式は、「いまの状態がどの記憶に近いか」を測り、その記憶を強める計算です。この見方を少し現代的に言い換えると、queryが現在の状態、keyが記憶パターン、valueが取り出したい内容に対応する、と読むことができます。

低温極限で $\tanh$ が符号関数に近づくと、更新式は「どのパターンを思い出しかけているか」を選び、対応する重みを強める式になります。講義では、この $z_\mu$ をvalue、パターン $\xi^\mu$ をkey、現在の状態をqueryとして読むと、self-attentionの感覚が見えてくる、とつながれます。

もちろん、1982年のHopfield模型がそのままTransformerだった、という話ではありません。ただ、たくさんの候補の中から重みをつけて取り出し、自己強化しながら状態を更新するという本質は、現代のattention機構へつながる直感を与えてくれます。古い模型が、いまの大きな模型を見るためのレンズにもなるわけです。

5. 記憶容量とレプリカ法

ここまでの計算では、記憶パターン数 $P$ が有限、あるいは少なくとも追跡できる程度に少ない場合を考えました。しかし本当に知りたいのは、$N$ 個のニューロンに対して何個のパターンを記憶できるかです。そこで

$$P=\alpha N$$

と置きます。$\alpha$ は負荷率、あるいは記憶容量密度です。この極限では、秩序変数 $m_{\mu }$ が $\alpha N$ 個もあります。すべてを個別に追うのは、もはやよい方法ではありません。

さらに難しいのは、パターン ${\mathit{\xi }}^{\mu }$ がquenched disorderだという点です。結合 $J_{ij}$ は、ネットワークを作った時点で固定されます。したがって物理量として欲しいのは、分配関数そのものの平均ではなく、自由エネルギーの平均です。

$$-\beta f=\underset{N\to \mathrm{\infty }}{lim}\frac{1}{N}{\mathbb{E}}_{\xi }[\log Z(\xi )]$$

$\log Z$ の平均は直接扱いにくいです。ここでレプリカ法の有名な恒等式を使います。

$${\mathbb{E}}_{\xi }[\log Z]=\underset{n\to 0}{lim}\frac{{\mathbb{E}}_{\xi }[Z^n]-1}{n}$$

$n$ が正の整数なら、$Z^n$ は同じ系を $n$ 個コピーしたものです。その $n$ 個のコピーをレプリカと呼びます。整数 $n$ で計算し、最後に $n\to 0$ へ解析接続します。この手つきが、最初に見るとかなり大胆です。

レプリカを $a=1,\dots ,n$ と書くと、

$$Z^n=\sum _{\{{\mathit{\sigma }}^a\}}\exp \left[\frac{\beta }{2N}\sum _{\mu =1}^P\sum _{a=1}^n{\left(\sum _{i=1}^N{\xi }_i^{\mu }{\sigma }_i^a\right)}^2\right]$$

です。このあとパターン平均を取り、サイト方向の和を整理すると、レプリカ間の重なり

$$q_{ab}=\frac{1}{N}\sum _{i=1}^N{\sigma }_i^a{\sigma }_i^b(a\ne b)$$

が自然に出ます。$q_{ab}$ は、二つのレプリカがどれだけ似た状態にいるかを測る量です。スピングラスでは、この量が状態空間の複雑さを教えてくれます。

一つの記憶パターンを想起している相では、そのパターンとの重なり

$$m_a=\frac{1}{N}\sum _{i=1}^N{\xi }_i^1{\sigma }_i^a$$

も必要です。$m_a$ は記憶を思い出している強さ、$q_{ab}$ はレプリカ同士が同じ谷にいる度合いを表します。

もっとも単純な仮定は、レプリカのラベルによらない解を考えることです。

$$m_a=m,q_{ab}=q(a\ne b)$$

これをレプリカ対称解と呼びます。この仮定のもとでは、Hopfield模型の記憶相を記述する自己無撞着方程式は、代表的に

$$m=\int Dz\tanh \left[\beta (m+\sqrt{\alpha r}z)\right]$$

$$q=\int Dz{\tanh }^2\left[\beta (m+\sqrt{\alpha r}z)\right]$$

$$r=\frac{q}{{[1-\beta (1-q)]}^2}$$

と書けます。ただし

$$Dz=\frac{dz}{\sqrt{2\pi }}\exp (-\frac{z^2}{2})$$

です。

この式はよくできています。$m$ は思い出したいパターンの信号です。$\sqrt{\alpha r}z$ は、ほかの多数の記憶パターンが作るクロストークノイズです。記憶数が増えて $\alpha$ が大きくなると、ノイズが強くなり、$m\ne 0$ の安定解が壊れていきます。

零温での古典Hopfield模型では、記憶相が保たれる上限は

$${\alpha }_c\simeq 0.138$$

です。つまり、ランダムなパターンなら、おおよそ $0.14N$ 個程度までは連想記憶として働く、というのが統計力学的な容量解析の代表的な結論です。

コラム 2024大学院講義 第15回 1:32:00-1:36:00

対称性を仮定し、破れたら戻ってくる

量子系をTrotter分解すると、同じ系のコピーが虚時間方向に並びます。横磁場の効果は、隣り合うTrotterスライス間の相互作用として現れます。そのため、量子Hopfield模型は、コピーが並んだ古典的なランダム場Ising模型として読めます。

ここで静的近似を入れると、補助変数 $z_{\mu,t}$ は虚時間 $t$ に依存しない、と仮定されます。ランダム系のレプリカ法でも、同じ系のコピーを用意し、まずレプリカ番号によらない解を考えます。コピーを導入する理由は違いますが、「コピーの添字によらない解をまず仮定する」という姿勢はよく似ています。

もちろん、仮定は仮定です。レプリカ対称性や静的近似がいつでも正しいわけではありません。少しずらして安定性を調べ、破れが見えたら、より細かい構造へ戻ります。この往復が、スピングラスの計算を単なる形式操作で終わらせないための態度になります。

6. 量子Hopfield模型

Hopfield模型に横磁場を入れると、量子Hopfield模型になります。スピンをPauli行列へ置き換え、

$$\hat{H}=-\frac{1}{2}\sum _{i,j=1}^N{J}_{ij}{\hat{\sigma }}_i^z{\hat{\sigma }}_j^z-\mathrm{\Gamma }\sum _{i=1}^N{\hat{\sigma }}_i^x$$

とします。第一項は記憶パターンを焼き込む古典的なHopfield相互作用、第二項は各スピンを反転させる横磁場です。$\mathrm{\Gamma }$ が大きいと、${\hat{\sigma }}^z$ の上向き・下向きが重ね合わされた状態になりやすいです。$\mathrm{\Gamma }$ を小さくすると、最終的には古典的な $\pm 1$ の記憶状態へ近づきます。

分配関数は

$$Z=\mathrm{Tr}\exp (-\beta \hat{H})$$

です。${\hat{\sigma }}^z$ の相互作用と ${\hat{\sigma }}^x$ の横磁場は可換ではないので、そのまま古典的な確率重みにはなりません。そこでSuzuki--Trotter分解を使います。

$$Z\simeq \sum _{\{{\sigma }_{i,t}\}}\exp [\frac{\beta }{2M}\sum _{t=1}^M\sum _{i,j}{J}_{ij}{\sigma }_{i,t}{\sigma }_{j,t}+K\sum _{i=1}^N\sum _{t=1}^M{\sigma }_{i,t}{\sigma }_{i,t+1}]$$

ここで $t=1,\dots ,M$ はTrotter方向の添字で、周期境界条件 ${\sigma }_{i,M+1}={\sigma }_{i,1}$ を入れます。横磁場は、Trotter方向に隣り合う古典スピンの結合

$$K=\frac{1}{2}\log \coth \left(\frac{\beta \mathrm{\Gamma }}{M}\right)$$

に変わります。

この形にすると、量子Hopfield模型は「虚時間方向に $M$ 枚並んだHopfield模型」として読めます。各Trotterスライスには同じ記憶パターンが入っており、横磁場の効果は隣り合うスライスをそろえようとする結合になります。

古典Hopfield模型と同じように、各スライスに補助変数 $z_{\mu ,t}$ を入れると、

$$Z\propto \int \prod _{\mu ,t}d{z}_{\mu ,t}\exp [-\frac{\beta N}{2M}\sum _{\mu ,t}{z}_{\mu ,t}^2]\sum _{\{{\sigma }_{i,t}\}}\exp [\frac{\beta }{M}\sum _{\mu ,t}{z}_{\mu ,t}\sum _i{\xi }_i^{\mu }{\sigma }_{i,t}+K\sum _{i,t}{\sigma }_{i,t}{\sigma }_{i,t+1}]$$

となります。ここで静的近似

$$z_{\mu ,t}=z_{\mu }$$

を置くと、Trotter方向に依存しない有効場だけが残ります。すると、Suzuki--Trotter分解を逆向きに読むことができ、各サイト $i$ は

$${\hat{h}}_i=-h_i(\mathit{z}){\hat{\sigma }}_i^z-\mathrm{\Gamma }{\hat{\sigma }}_i^x,h_i(\mathit{z})=\sum _{\mu =1}^P{z}_{\mu }{\xi }_i^{\mu }$$

という一スピン問題になります。$2\times 2$ 行列なので、固有値は

$${\lambda }_{\pm }=\pm \sqrt{h_i(\mathit{z}{)}^2+{\mathrm{\Gamma }}^2}$$

です。したがって、自由エネルギーは

$$-\beta f_{\mathrm{\Gamma }}(\mathit{z})=-\frac{\beta }{2}\sum _{\mu =1}^P{z}_{\mu }^2+\frac{1}{N}\sum _{i=1}^N\log 2\cosh \left[\beta \sqrt{h_i(\mathit{z}{)}^2+{\mathrm{\Gamma }}^2}\right]$$

になります。鞍点方程式は

$$z_{\mu }=\frac{1}{N}\sum _{i=1}^N{\xi }_i^{\mu }\frac{h_i(\mathit{z})}{\sqrt{h_i(\mathit{z}{)}^2+{\mathrm{\Gamma }}^2}}\tanh \left[\beta \sqrt{h_i(\mathit{z}{)}^2+{\mathrm{\Gamma }}^2}\right]$$

です。$\mathrm{\Gamma }=0$ と置けば古典Hopfield模型の式へ戻ります。$\mathrm{\Gamma }$ があると、$\tanh$ の中に $\sqrt{h_i^2+{\mathrm{\Gamma }}^2}$ が現れ、さらに $h_i/\sqrt{h_i^2+{\mathrm{\Gamma }}^2}$ という因子がかかります。横磁場は、古典的な符号決定を丸め、重ね合わせを通じて状態を揺らします。

大学院講義2024板書 p.49: 量子Hopfield模型、Trotter分解、静的近似

大学院講義2024板書 p.50: 量子版の自由エネルギー

7. 量子アニーリングへの接続

量子Hopfield模型では、横磁場 $\mathrm{\Gamma }$ を大きくしておくと、状態は一つの記憶パターンへすぐには固まりません。そこから $\mathrm{\Gamma }$ を下げると、重ね合わせの揺らぎを使いながら、最終的に古典的な連想記憶の谷へ落ちていきます。この見方は、量子アニーリングの基本形そのものです。

$$\hat{H}(t)={\hat{H}}_{\mathrm{m}\mathrm{e}\mathrm{m}}-\mathrm{\Gamma }(t)\sum _i{\hat{\sigma }}_i^x,\mathrm{\Gamma }(t)\downarrow 0$$

ここで ${\hat{H}}_{\mathrm{m}\mathrm{e}\mathrm{m}}$ は、記憶パターンを持つ目的ハミルトニアンです。最適化問題なら ${\hat{H}}_{\mathrm{m}\mathrm{e}\mathrm{m}}$ が目的関数を表し、Hopfield模型なら記憶の谷を表します。横磁場は、$\pm 1$ の間で迷う自由度を与えます。最後に横磁場を切れば、古典的な答えが読み出されます。

Nonomura--Nishimoriの量子Hopfield模型では、横磁場の強さと温度が巨視的性質に似た役割を果たすことが示されます。熱ゆらぎを下げることで記憶へ落ちる古典的な絵と、横磁場を下げることで記憶へ落ちる量子的な絵が、相図の水準でよく対応します。この対応が見えると、量子アニーリングは単に「量子版の最適化法」というだけでなく、情報統計力学の中から自然に生まれた方法として読めます。

コラム 2024大学院講義 第15回 1:23:00-1:36:00 / 1:41:00-1:57:00

横磁場を連想記憶にかける

Hopfield模型に横磁場を入れる発想は、いま見ると自然に見えるかもしれません。けれども、連想記憶を量子力学の重ね合わせで動かしてみる、という発想には、当時ならではの勢いがあります。プラスかマイナスかで迷うスピンを、横磁場で本当に迷わせて、その揺らぎを情報処理に使うわけです。

講義では、Nonomura--Nishimoriの量子Hopfield模型が、量子アニーリングの源流の一つとして語られます。古典スピンをPauli行列へ置き換え、横磁場を入れ、重ね合わせ状態から連想記憶を行わせる。アイデアは軽やかに見えますが、その解析はレプリカ法とスピングラスの計算でどっしり支えられています。

期待されたほど記憶容量が劇的に増えたわけではありません。それでも、横磁場が単なる邪魔なノイズではなく、探索や連想記憶に使える制御パラメータだと見えたことが大きいです。シミュレーテッドアニーリングの温度と、量子アニーリングの横磁場が、同じ数理の中で並んで見えてきます。

新しい研究は、いきなり巨大な一般論から出てくるとは限りません。一スピン、二スピン、有限個のパターン、そして熱力学極限へ進みます。その積み上げの先に、量子アニーリングのような分野の入口が開きます。

8. 反強磁性横相互作用による相転移の制御

横磁場を入れた量子Hopfield模型では、$\mathrm{\Gamma }$ を下げることで記憶の谷へ近づく、という見方ができます。ここからさらに一歩進むと、「横磁場だけで揺らす必要はあるのか」という問いが出ます。p-spin模型で見たように、横方向に反強磁性的な相互作用を加えると、自由エネルギー地形そのものが変わり、一次相転移を避けられる場合があります。Seki--Nishimoriは、この機構が連想記憶模型でも働くかを調べました。

まず、$k$ 体相互作用を持つ一般化Hopfield模型を考えます。記憶パターンを ${\xi }_i^{\mu }=\pm 1$ とし、パターン $\mu$ との重なりを

$$m_{\mu }=\frac{1}{N}\sum _{i=1}^N{\xi }_i^{\mu }{\sigma }_i^z$$

とします。このとき目的ハミルトニアンは

$${\hat{H}}_0^{(k)}=-N\sum _{\mu =1}^P{\left(\frac{1}{N}\sum _{i=1}^N{\xi }_i^{\mu }{\hat{\sigma }}_i^z\right)}^k$$

です。$k=2$ なら通常のHopfield模型に戻り、$k>2$ では記憶の谷がより鋭い多体相互作用になります。反強磁性横相互作用を含めた量子アニーリングのハミルトニアンは

$$\hat{H}(s,\lambda )=-s\lambda N\sum _{\mu =1}^P{\left(\frac{1}{N}\sum _i{\xi }_i^{\mu }{\hat{\sigma }}_i^z\right)}^k+s(1-\lambda )N{\left(\frac{1}{N}\sum _i{\hat{\sigma }}_i^x\right)}^2-(1-s)\sum _i{\hat{\sigma }}_i^x$$

です。最後は $s=\lambda =1$ へ行くので、記憶したいハミルトニアンは変わりません。途中だけ、横磁場と反強磁性XX項の比率を変えます。

計算の流れは、この補遺で何度も見てきたものと同じです。各Trotterスライス $t$ に、記憶との重なりと横磁化を置きます。

$$m_{\mu ,t}=\frac{1}{N}\sum _i{\xi }_i^{\mu }{\sigma }_{i,t}^z,m_t^x=\frac{1}{N}\sum _i{\sigma }_{i,t}^x$$

そしてデルタ関数とフーリエ積分表示で、

$$1=\int d{m}_{\mu ,t}d{\tilde{m}}_{\mu ,t}\exp [-{\tilde{m}}_{\mu ,t}(N{m}_{\mu ,t}-\sum _i{\xi }_i^{\mu }{\sigma }_{i,t}^z)]$$

$$1=\int d{m}_t^{x}d{\tilde{m}}_t^x\exp [-{\tilde{m}}_t^x(N{m}_t^x-\sum _i{\sigma }_{i,t}^x)]$$

を挿入します。こうすると、全結合相互作用は $m_{\mu ,t}$ と $m_t^x$ の関数に押し込まれ、サイトごとの自由度は一体問題になります。静的近似で $m_{\mu ,t}\to m_{\mu }$、$m_t^x\to m^x$ と置き、零温極限を取ると、有限個の記憶パターンに対する擬自由エネルギーは

$$\begin{array}{rl}f(s,\lambda ;\{m_{\mu }\},m^x)& =(k-1)s\lambda \sum _{\mu }(m_{\mu }{)}^k-s(1-\lambda )(m^x{)}^2\\ & -{\left[\sqrt{{\{ks\lambda \sum _{\mu }(m_{\mu }{)}^{k-1}{\xi }^{\mu }\}}^2+{\{1-s-2s(1-\lambda )m^x\}}^2}\right]}_{\xi }\end{array}$$

になります。角括弧 $[\cdots {]}_{\xi }$ は、記憶パターンの乱れに関する平均です。ここでも横方向の有効場は

$$h_x=1-s-2s(1-\lambda )m^x$$

であり、反強磁性XX項が横磁化を押し返す形で入ります。

鞍点方程式は

$$(m_{\mu }{)}^{k-1}={\left[\frac{ks\lambda (\sum _{\nu }(m_{\nu }{)}^{k-1}{\xi }^{\nu })(m_{\mu }{)}^{k-2}{\xi }^{\mu }}{\sqrt{\{ks\lambda \sum _{\nu }(m_{\nu }{)}^{k-1}{\xi }^{\nu }{\}}^2+h_x^2}}\right]}_{\xi }$$

$$m^x={\left[\frac{h_x}{\sqrt{\{ks\lambda \sum _{\nu }(m_{\nu }{)}^{k-1}{\xi }^{\nu }{\}}^2+h_x^2}}\right]}_{\xi }$$

です。式だけを見ると重く見えますが、意味は単純です。縦方向では、記憶パターンとどれだけ重なっているかを測ります。横方向では、量子ゆらぎがどれだけ残っているかを測ります。その二つの釣り合いを、自由エネルギーの最小点として決めています。

記憶を一つだけ取り出す相では、ある一つの $m_{\mu }$ だけが非零になります。この retrieval 相を $l=1$ の対称解として見ると、擬自由エネルギーはp-spin強磁性模型の強磁性相と同じ形になります。したがって、p-spin模型で一次転移を避けた経路は、有限個の記憶パターンを持つ一般化Hopfield模型でも、そのまま記憶相へ向かう経路として働きます。Seki--Nishimoriの解析では、有限個のパターンでは $k=3$ では一次転移を避けられない一方、少なくとも奇数の $5\le k\le 21$ で、反強磁性横相互作用により一次転移を避ける経路が見つかっています。

多数の記憶パターンを入れると、事情が少し変わります。$P=\alpha N$ の通常Hopfield模型では、思い出したい一つの記憶以外のパターンがクロストークノイズになります。このノイズをレプリカ法で平均すると、重なり $m$ だけでなく、スピングラス秩序変数 $q$ が現れます。零温での代表的な自己無撞着方程式は

$$m=\int Dz\frac{s\lambda m+\sqrt{\alpha \tilde{q}}z}{\sqrt{(s\lambda m+\sqrt{\alpha \tilde{q}}z{)}^2+h_x^2}}$$

$$q=\int Dz\frac{(s\lambda m+\sqrt{\alpha \tilde{q}}z{)}^2}{(s\lambda m+\sqrt{\alpha \tilde{q}}z{)}^2+h_x^2}$$

のように書けます。$Dz=dz{e}^{-z^2/2}/\sqrt{2\pi }$ です。$\sqrt{\alpha \tilde{q}}z$ が、他の記憶が作るガウス的なノイズです。ここでは、反強磁性XX項は横磁化を通じて $h_x$ に入り、記憶の信号 $m$ とクロストークノイズ $q$ の競争の中に組み込まれます。

この多数パターンの場合、$k=2$ ではスピングラス相が強く効き、反強磁性横相互作用を入れても一次転移を避けるのは難しいです。$k=3$ でも一次転移は残ります。一方、一般化Hopfield模型で $k=4,5$ といった多体相互作用を考えると、スピングラス解があっても自由エネルギーの最小相としては retrieval 相や量子常磁性相が主役になり、一次転移線が消える領域が現れます。

この結果は、Hopfield模型の見方を少し変えます。横磁場を入れるだけなら、熱ゆらぎと量子ゆらぎを比べる量子版連想記憶です。反強磁性XX項まで入れると、記憶の谷へどう近づくかを設計するハミルトニアン工学になります。記憶容量だけを増やす話ではありません。自由エネルギー地形をなめらかにし、途中で大きな壁をまたがない道を作れるかどうかを見る話です。

参考文献: [1], [2]。

9. 読み終えるための整理

Hopfield模型を、レプリカ法の例として読むと、次の流れが見えます。

1. 記憶パターン ${\mathit{\xi }}^{\mu }$ をHebb則で結合 $J_{ij}$ に焼き込む。
2. 状態と記憶の重なり $m_{\mu }$ を秩序変数にします。
3. ハミルトニアンを $m_{\mu }^2$ の形に直し、記憶がエネルギーの谷になることを見ます。
4. Hubbard--Stratonovich変換で二乗を一次にほどき、スピン和を取ります。
5. $N$ が大きい極限で鞍点法を使い、自己無撞着方程式を得ます。
6. $P=\alpha N$ では、自由エネルギー平均のためにレプリカ法を使います。
7. レプリカ対称解から、記憶信号 $m$ とクロストークノイズの競争を見ます。
8. 横磁場を入れると、Suzuki--Trotter分解、静的近似、量子アニーリングへの接続が現れます。
9. 反強磁性横相互作用を入れると、記憶の谷へ向かう途中の自由エネルギー地形を設計できます。

この流れは、単にHopfield模型だけの計算ではありません。Boltzmann machine、誤り訂正符号、圧縮センシング、量子モンテカルロ、量子アニーリング、そして現代的なattention機構まで、情報を持つ多数自由度系を統計力学で見るときの基本姿勢になっています。難しい問題を前にしたとき、まず秩序変数を探し、二乗をほどき、大きな $N$ の支配的な状態を見ます。その手順を、Hopfield模型はとてもよい形で見せてくれます。

参考文献

1. Yuya Seki, Hidetoshi Nishimori, “Quantum annealing with antiferromagnetic transverse interactions for the Hopfield model,” Journal of Physics A: Mathematical and Theoretical 48, 335301 (2015). 出典

2. Yuya Seki, Hidetoshi Nishimori, “Quantum annealing with antiferromagnetic fluctuations,” Physical Review E 85, 051112 (2012). 出典

3. J J Hopfield, “Neural networks and physical systems with emergent collective computational abilities,” Proceedings of the National Academy of Sciences 79, 2554–2558 (1982). 出典

4. Daniel J. Amit, Hanoch Gutfreund, H. Sompolinsky, “Spin-glass models of neural networks,” Physical Review A 32, 1007–1018 (1985). 出典

5. Daniel J. Amit, Hanoch Gutfreund, H. Sompolinsky, “Storing Infinite Numbers of Patterns in a Spin-Glass Model of Neural Networks,” Physical Review Letters 55, 1530–1533 (1985). 出典

6. Hidetoshi Nishimori, Yoshihiko Nonomura, “Quantum Effects in Neural Networks,” Journal of the Physical Society of Japan 65, 3780–3796 (1996). 出典

7. Hubert Ramsauer, Bernhard Schäfl, Johannes Lehner, Philipp Seidl, Michael Widrich, Lukas Gruber, et al., “Hopfield Networks Is All You Need,” International Conference on Learning Representations (ICLR) (2021). 出典