補遺: ボルツマンマシン、フリーズ現象と量子アニーリングによる温度の設計

画像を一枚だけ覚えるのではなく、手書き数字に共通する特徴を覚え、新しい数字を生成する。そのためには、データを一つの最適解として扱うだけでは足りません。「どの状態が、どれくらいの頻度で現れるか」という分布を学ぶ必要があります。ボルツマンマシンは、この分布を統計力学のエネルギーで表します。

本補遺では、学習則を分配関数の微分から導き、量子アニーラを学習用サンプラにする際のフリーズ現象を説明します。その上で、Gilhan Kimらによる非断熱量子アニーリング（diabatic quantum annealing、DQA）の研究を扱います。中心となるのは、有効逆温度と相互作用の補正係数を、時間依存摂動論から求める考え方です。量子力学の位相が、測定確率の中で統計力学の重みへ変わる。その変換を自分で計算できることが、この方法の物理としての魅力です。

隠れ変数が多体相互作用を作る仕組み、温度のずれが学習に与える影響、四状態で追う学習例、拡散モデルとの接続も順に扱います。

出発点となる論文は、Gyhm・Kim・Kwon・Baekの理論研究 [1]と、Kim・Gyhm・Parkのボルツマンマシン学習への応用 [2]です。「パラメータ推定」には、データから重みを学ぶこと、装置の有効温度を推定すること、時間波形から分布の係数を予測すること、という異なる問題があります。以下ではこの三つを区別します。

生成モデル全体の歴史と応用研究は、続く生成モデルの歴史と量子アニーリングで扱います。VAE・GAN・拡散モデルの学習則と、量子アニーラが担当する計算を比較できます。

1. エネルギーを学ぶとはどういうことか

まず、すべての変数が観測できる場合を考えます。スピンを $s_i\in \{-1,+1\}$ とし、磁場 $b_i$ と結合 $W_{ij}$ をまとめて $\theta$ と書きます。本補遺では、正の結合が同じ向きのスピンを好む符号規約を用います。

$$E_{\theta }(\mathit{s})=-\sum _i{b}_i{s}_i-\sum _{i<j}{W}_{ij}{s}_i{s}_j,p_{\theta }(\mathit{s})=\frac{e^{-\beta E_{\theta }(\mathit{s})}}{Z_{\theta }},Z_{\theta }=\sum _{\mathit{s}}{e}^{-\beta E_{\theta }(\mathit{s})}.$$

$\beta$ は、このエネルギーの単位に対応する逆温度です。学習では $\beta =1$ に固定し、$\beta b_i$ と $\beta W_{ij}$ を学習パラメータとして扱うことも一般的です。温度と全係数を同時に自由にすると、その積しか分布から決まらないことに注意してください。

データ集合 $\mathcal{D}=\{{\mathit{s}}^{(a)}{\}}_{a=1}^M$ の平均対数尤度を

$$\ell (\theta )=\frac{1}{M}\sum _{a=1}^M\log p_{\theta }({\mathit{s}}^{(a)})=-\beta ⟨E_{\theta }{⟩}_{\mathcal{D}}-\log Z_{\theta }$$

とします。これを大きくすれば、データに高い確率を与えるモデルになります。ただし、すべての状態のエネルギーを下げるだけでは分布は改善しません。そのような操作を打ち消す役目を持つのが、規格化項 $\log Z_{\theta }$ です。

${\partial }_{W_{ij}}E=-s_i{s}_j$ を使うと、

$$\frac{\partial \log Z_{\theta }}{\partial W_{ij}}=\frac{1}{Z_{\theta }}\sum _{\mathit{s}}\beta s_i{s}_j{e}^{-\beta E_{\theta }(\mathit{s})}=\beta ⟨s_i{s}_j{⟩}_{p_{\theta }}$$

です。したがって学習則は

$$\begin{array}{rl}\frac{\partial \ell }{\partial W_{ij}}& =\beta (⟨s_i{s}_j{⟩}_{\mathcal{D}}-⟨s_i{s}_j{⟩}_{p_{\theta }}),\\ \frac{\partial \ell }{\partial b_i}& =\beta (⟨s_i{⟩}_{\mathcal{D}}-⟨s_i{⟩}_{p_{\theta }}),\\ W_{ij}& \leftarrow W_{ij}+\eta \frac{\partial \ell }{\partial W_{ij}}\end{array}$$

となります。データ中で二つのスピンが同じ向きに現れる頻度が、モデルの予想より高ければ、その結合を強めます。学習が行っているのは、データとモデルの磁化・相関を一致させることです。これは逆Ising問題でもあります。負の対数尤度やKLダイバージェンスを最小化する場合は、勾配の符号が逆になります。

ボルツマンマシンの古典的な学習則については、Ackley・Hinton・Sejnowskiの研究 [3]が基本文献です。Hopfield模型の補遺と合わせると、記憶するエネルギー地形から、分布そのものを学ぶ模型への移行が見えます。

2. 隠れ変数と制限ボルツマンマシン

観測できる可視変数を $v_i$、観測しない隠れ変数を $h_a$ と書きます。隠れ変数は、複数の画素に共通する特徴などを表す自由度です。制限ボルツマンマシン（restricted Boltzmann machine、RBM）は、可視層と隠れ層の間だけに結合を持ちます。

$$E_{\theta }(\mathit{v},\mathit{h})=-\sum _i{a}_i{v}_i-\sum _a{c}_a{h}_a-\sum _{i,a}{W}_{ia}{v}_i{h}_a,p_{\theta }(\mathit{v})=\sum _{\mathit{h}}{p}_{\theta }(\mathit{v},\mathit{h}).$$

以下も $v_i,h_a\in \{-1,+1\}$ です。0/1変数を用いる文献とは、磁場と結合の変換が必要です。可視層を固定すると隠れ変数同士は独立になるので、$u_a=c_a+\sum _i{W}_{ia}{v}_i$ と置けば

$$p(h_a=+1\mid \mathit{v})=\frac{e^{\beta u_a}}{2\cosh (\beta u_a)}=\frac{1}{1+e^{-2\beta u_a}},⟨h_a\mid \mathit{v}⟩=\tanh (\beta u_a).$$

逆に隠れ層を固定した可視層も、同じ形で独立に更新できます。「制限」の意味は、この条件付き独立性にあります。両層の同時分布が独立という意味ではありません。

隠れ変数の和は積に分解できるので、可視分布は自由エネルギーで書けます。

$$\begin{array}{rl}{p}_{\theta }(\mathit{v})& =\frac{e^{-\beta F_{\theta }(\mathit{v})}}{Z_{\theta }},\\ F_{\theta }(\mathit{v})& =-\sum _i{a}_i{v}_i-\frac{1}{\beta }\sum _a\log [2\cosh \left(\beta (c_a+\sum _i{W}_{ia}{v}_i)\right)].\end{array}$$

もとのエネルギーが二次式でも、隠れ変数を消した $F(\mathit{v})$ は一般に二次式にはなりません。この非線形性が、可視変数の複雑な相関を表現します。

可視データの尤度を微分すると、重みの更新に必要なのは

$$\frac{\partial \ell }{\partial W_{ia}}=\beta [\frac{1}{M}\sum _{m=1}^M{v}_i^{(m)}\tanh \left(\beta (c_a+\sum _j{W}_{ja}{v}_j^{(m)})\right)-⟨v_i{h}_a{⟩}_{p_{\theta }}]$$

です。第一項を正相、第二項を負相と呼びます。正相ではデータを固定して隠れ層だけを平均します。負相では、可視・隠れの両方を自由に動かしたモデル分布の平均が必要です。量子アニーラに期待する役割は、主としてこの負相のサンプリングです。

2.1 隠れ変数を消すと、多体相互作用が現れる

可視スピン4個と隠れスピン1個を取り、磁場をゼロにします。$u=\sum _{i=1}^4{w}_i{v}_i$ とすれば、隠れスピンを足し上げた重みは $2\cosh (\beta u)$ です。$|\beta u|\ll 1$ の領域で展開すると、

$$F(\mathit{v})=-\frac{\log 2}{\beta }-\frac{\beta }{2}{\left(\sum _i{w}_i{v}_i\right)}^2+\frac{{\beta }^3}{12}{\left(\sum _i{w}_i{v}_i\right)}^4+O({\beta }^5{u}^6).$$

二乗の中の $v_i^2=1$ は定数となり、異なる添字の組は二回ずつ現れます。したがって二体項は、最低次で $-\beta \sum _{i<j}{w}_i{w}_j{v}_i{v}_j$ です。一方、四乗には添字がすべて異なる項が $4!=24$ 回現れるので、四体項の係数は $2{\beta }^3{w}_1{w}_2{w}_3{w}_4$ になります。

$$F=C-\sum _{i<j}{J}_{ij}^{\mathrm{e}\mathrm{f}\mathrm{f}}{v}_i{v}_j-K_{1234}^{\mathrm{e}\mathrm{f}\mathrm{f}}{v}_1{v}_2{v}_3{v}_4,J_{ij}^{\mathrm{e}\mathrm{f}\mathrm{f}}=\beta w_i{w}_j+O({\beta }^3\parallel w{\parallel }^4),K_{1234}^{\mathrm{e}\mathrm{f}\mathrm{f}}=-2{\beta }^3{w}_1{w}_2{w}_3{w}_4+O({\beta }^5\parallel w{\parallel }^6).$$

この式の左辺は4スピン・ゼロ磁場の場合の厳密な展開形式で、右辺の係数評価が弱結合近似です。四乗の添字が重複する項も捨てたわけではありません。$v_i^2=1$ によって定数や二体項へ戻り、$J^{\mathrm{e}\mathrm{f}\mathrm{f}}$ の補正を作ります。隠れ磁場がゼロなら $F(-\mathit{v})=F(\mathit{v})$ なので奇数体項は消えますが、隠れ磁場を入れると一般には奇数体項も生じます。

展開に頼らず確かめるには、16個の可視状態を列挙し、$F(\mathit{v})v_1{v}_2{v}_3{v}_4$ の一様平均を取ります。異なるスピン積の直交性により、この平均が四体項の係数 $-K_{1234}^{\mathrm{e}\mathrm{f}\mathrm{f}}$ を直接取り出します。たとえば $\beta =1$、すべての $w_i=0.1$ では最低次の予測は $0.0002$ であり、重みを小さくするほど厳密値との相対差が縮みます。

これは統計力学で一部の自由度を和に取り、残った自由度の有効相互作用を求める操作と同じです。RBMの表現力を「隠れ層が多体相関を作る」と読むことができます。ただし、通常のRBM学習が、そのまま空間的な粗視化や繰り込み群の変換になっているとは限りません。何を残し、どの長さ尺度を粗視化するかは別途指定する必要があります。

3. 最適化装置を、そのままサンプラにはできない

最低エネルギーの状態だけを大量に返す装置は、最適化には有用でも、有限温度の負相を正しく計算するとは限りません。たとえば、二つの状態のエネルギー差が $\mathrm{\Delta }E$ なら、その頻度比は $e^{\beta \mathrm{\Delta }E}$ でなければなりません。低エネルギー状態の発見率だけでは、この比を検証できません。

古典的なRBMでは、隠れ層と可視層の条件付き分布から交互にサンプルするGibbs法を使えます。データを出発点に少数回だけ更新するcontrastive divergence（CD）は計算を短くしますが、有限回で止めた負相は一般に平衡平均ではありません。persistent CD（PCD）は前回の鎖を次回へ持ち越します。学習が分布を変える速さと鎖の混合時間の兼ね合いが問題になります。HintonのCD論文 [4]が、この方法の出発点です。

SAの補遺で扱った釣り合い条件は、固定温度で何を定常分布にするかを定めます。SAで温度を下げ続けたときの最終出力が、任意の指定温度での平衡サンプルになるわけではありません。同様に、QAの出力についても分布の検証が必要です。

4. フリーズ現象――温度が止まるのではなく、分布が追従できなくなる

装置の時間を $t$、全アニーリング時間を $t_a$、進行度を $s=t/t_a$ とします。物理的なエネルギー単位を持つ横磁場係数を $A(s)$、問題のエネルギースケールを $B(s)$ と書き、

$$\hat{H}(s)=-A(s)\sum _i{\hat{X}}_i+B(s){\hat{E}}_{\theta }(\hat{\mathit{Z}})$$

と定義します。ここでは ${\hat{E}}_{\theta }$ の係数を無次元とし、装置仕様に現れる $1/2$ などは $A,B$ に吸収します。冷凍機・QPUの物理温度を $T_{\mathrm{p}\mathrm{h}\mathrm{y}\mathrm{s}}$ とします。

環境との遷移が十分速ければ、占有確率は瞬間的な熱平衡へ近づきます。しかし横磁場が減少すると、トンネル振幅や環境が誘起する遷移の行列要素が小さくなり、状態間の移動が遅くなる場合があります。障壁と多数スピンの集団的な反転も効きます。アニーリングの残り時間に比べて再分配が遅くなると、確率分布は変化する平衡分布についていけません。

その境目を $s_{\ast }$ と呼ぶ粗い目安は

$${\tau }_{\mathrm{r}\mathrm{e}\mathrm{l}\mathrm{a}\mathrm{x}}(s_{\ast })\sim t_a(1-s_{\ast }),{\tau }_{\mathrm{r}\mathrm{e}\mathrm{l}\mathrm{a}\mathrm{x}}(s)\gg t_a(1-s)(s>s_{\ast })$$

です。これは普遍的な等式ではなく、残り時間との比較による近似的な診断です。より精密には、平衡分布が変わる時間尺度と、各緩和モードの時間尺度を比較します。異なるモードが異なる時刻に凍るなら、一つのフリーズ点で全分布を表すこと自体が近似になります。

フリーズとは物理温度がゼロになることでも、波動関数のすべての時間発展が停止することでもありません。ここで問題にしているのは、主に状態間の占有確率の再分配です。Aminの準静的QAの解析 [5]は、この描像を理解する基本文献です。

4.1 フリーズ点から有効温度を読む

フリーズ直前まで熱平衡に近く、そこで横磁場の影響が小さく、その後の読み出しが分布をほぼ保存すると仮定します。このとき

$$p_{\mathrm{o}\mathrm{u}\mathrm{t}}(\mathit{s})\simeq \frac{\exp [-{\beta }_{\mathrm{e}\mathrm{f}\mathrm{f}}{E}_{\theta }(\mathit{s})]}{Z({\beta }_{\mathrm{e}\mathrm{f}\mathrm{f}})},{\beta }_{\mathrm{e}\mathrm{f}\mathrm{f}}=\frac{B(s_{\ast })}{k_{\mathrm{B}}{T}_{\mathrm{p}\mathrm{h}\mathrm{y}\mathrm{s}}}.$$

重要なのは $B(1)$ ではなく $B(s_{\ast })$ が現れることです。もし最終ハミルトニアン $H_f=B(1)E_{\theta }$ を基準に温度を定義すれば

$$T_{\mathrm{e}\mathrm{f}\mathrm{f}}^{(f)}=T_{\mathrm{p}\mathrm{h}\mathrm{y}\mathrm{s}}\frac{B(1)}{B(s_{\ast })}$$

となります。$B$ が増加する通常の区間では、最終ハミルトニアンに対する有効温度は物理温度より高くなります。「非常に低い有効温度」という記述を読む際にも、どのエネルギー単位に対する温度なのかを確認する必要があります。

4.2 横磁場が残ったまま凍る場合

フリーズ点で横磁場が無視できなければ、瞬間的な量子Gibbs状態は

$${\rho }_{\ast }\simeq \frac{e^{-\hat{H}(s_{\ast })/(k_{\mathrm{B}}{T}_{\mathrm{p}\mathrm{h}\mathrm{y}\mathrm{s}})}}{\mathrm{Tr}{e}^{-\hat{H}(s_{\ast })/(k_{\mathrm{B}}{T}_{\mathrm{p}\mathrm{h}\mathrm{y}\mathrm{s}})}}$$

です。そこで直ちにZ測定する理想化では $p(\mathit{s})=⟨\mathit{s}|{\rho }_{\ast }|\mathit{s}⟩$ ですが、これは一般に古典エネルギー $E_{\theta }$ のGibbs分布ではありません。さらに、その後に固有状態が変われば読み出し基底への写り方も変わります。温度を一個合わせるだけで、この違いを必ず取り除けるわけではありません。

Marshall・Rieffel・Henは温度の異なる実機を比較 [6]し、フリーズ描像とノイズの影響を調べました。また途中で休止する実験 [7]は、十分な遷移が残る位置で待つことが分布を変えうると示しています。すでに緩和が極端に遅くなった位置で長く待つこととは区別しましょう。

5. 温度を推定する基本――縮退度とエネルギーの尺度

エネルギー $E_0,E_1$ の二準位を持ち、各準位の縮退度が $g_0,g_1$ なら、準位全体の確率 $P_0,P_1$ は

$$\frac{P_0}{P_1}=\frac{g_0}{g_1}{e}^{\beta (E_1-E_0)},\hat{\beta }=\frac{\log (P_0/P_1)-\log (g_0/g_1)}{E_1-E_0}$$

を満たします。単独の二状態または等縮退の二準位では、縮退度の項は消えます。有限サンプルで一方の観測数がゼロなら、対数比をそのまま計算できません。尤度に基づく区間推定や、明示した擬似カウントなどが必要です。

多数準位のエネルギーヒストグラムでは

$$P_{\beta }(E)=\frac{g(E)e^{-\beta E}}{Z_{\beta }}$$

なので、$\log P(E)$ の傾きをそのまま $-\beta$ と読むと、状態数 $g(E)$ を温度と取り違えます。二つの分布の比なら、同じエネルギー分類を使う限り $g(E)$ を消せます。

$$\log \frac{P_{{\beta }_1}(E)}{P_{{\beta }_2}(E)}=-({\beta }_1-{\beta }_2)E+\log \frac{Z_{{\beta }_2}}{Z_{{\beta }_1}}.$$

ただし、これが直接決めるのは逆温度の差です。絶対値を求めるには既知の基準やエネルギースケール変換との関係が必要です。Benedettiらの有効温度推定 [8]は、RBM学習において問題ごとの温度を調べる重要性を示した研究です。

学習すべき $W$ と装置の ${\beta }_{\mathrm{e}\mathrm{f}\mathrm{f}}$ が混同されると、負相が別のモデルから計算されてしまいます。Goto・Ohzekiのオンライン較正 [9]は、学習用サンプルを装置パラメータの推定にも使う方向です。以下のKimらのDQAは、それに加えて、時間波形から予測できる物理的な基準を与えます。

6. 急停止極限からの非断熱摂動

横磁場の基底状態を $|+{⟩}^{\otimes N}$ とします。ここで $X|+⟩=|+⟩$ であり、前節と同じく横磁場ハミルトニアンにはマイナス符号を付けます。横磁場を瞬時に切ってZ測定すると、すべてのスピン配置が等確率になります。

$$p_0(\mathit{s})=|⟨\mathit{s}|+{⟩}^{\otimes N}{|}^2=2^{-N}.$$

これは、古典分布としては $\beta =0$、すなわち無限温度です。では、少しだけ相互作用を働かせながら横磁場を切ると、等確率の分布にどんな偏りが生まれるでしょうか。

比較対象となるGibbs分布を、高温で展開します。$\bar{E}=2^{-N}\sum _{\mathit{s}}E(\mathit{s})$ とすれば

$$p_{\beta }(\mathit{s})=2^{-N}[1-\beta (E(\mathit{s})-\bar{E})+O({\beta }^2)].$$

有限系の固定したエネルギー関数に対する展開です。定数項を除いたIsing多体項の一様平均はゼロなので、以下では $\bar{E}=0$ です。量子発展で生じる確率の一次補正が $-\beta E$ と一致すれば、逆温度を時間発展の係数から読めます。

この段階では環境による熱化を仮定しません。ユニタリー発展後の純粋状態が、熱的混合状態そのものになるのでもありません。比較するのは、Z測定によって得られる古典確率分布です。

7. 時間依存摂動論を、一段ずつ計算する

ここから $\hslash =1$ とし、$A(t),B(t)$ はその単位系で書きます。実機の周波数表示を使う場合、$h$ と $\hslash$ の違いによる $2\pi$、ハミルトニアンの $1/2$、時間単位を先に統一してください。

摂動の次数を追うために $\lambda$ を導入します。

$$\begin{array}{rl}\hat{H}(t)& ={\hat{H}}_0(t)+\lambda B(t){\hat{E}}^{\mathrm{p}\mathrm{r}\mathrm{o}\mathrm{g}},{\hat{H}}_0(t)=-A(t)\sum _i{X}_i,\\ {\hat{E}}^{\mathrm{p}\mathrm{r}\mathrm{o}\mathrm{g}}& =\sum _{n\ge 1}{\hat{E}}_n^{\mathrm{p}\mathrm{r}\mathrm{o}\mathrm{g}},{\hat{E}}_n^{\mathrm{p}\mathrm{r}\mathrm{o}\mathrm{g}}=-\sum _{|S|=n}{J}_S^{\mathrm{p}\mathrm{r}\mathrm{o}\mathrm{g}}\prod _{i\in S}{Z}_i,\\ \mathrm{\Phi }(t)& ={\int }_t^{\tau }A(u)du.\end{array}$$

$n$ は、その項が含むスピンの個数です。磁場なら $n=1$、通常の結合なら $n=2$ です。$\lambda$ は計算上の小さい係数で、最後に実際の結合強度に戻します。横磁場による回転を厳密に扱い、問題ハミルトニアンを弱い摂動として扱います。

7.1 横磁場だけの時間発展

$H_0(t)$ は異なる時刻でも可換なので、時刻 $t$ から測定時刻 $\tau$ までの発展は

$$U_0(\tau ,t)=\exp [i\mathrm{\Phi }(t)\sum _i{X}_i]$$

です。この回転でZ演算子は

$$U_0(\tau ,t)Z_i{U}_0(\tau ,t{)}^{†}=Z_i\cos [2\mathrm{\Phi }(t)]+Y_i\sin [2\mathrm{\Phi }(t)]$$

へ移ります。$Y|+⟩=-iZ|+⟩$ なので、初期状態に作用させると

$$(Z_i\cos 2\mathrm{\Phi }+Y_i\sin 2\mathrm{\Phi })|+{⟩}_i=e^{-2i\mathrm{\Phi }}{Z}_i|+{⟩}_i$$

です。したがって、$n$ 個のZを含む相互作用は $e^{-2in\mathrm{\Phi }(t)}$ という位相を得ます。一体項と二体項の違いは、ここで生まれます。

7.2 Dyson展開の一次項

$E_n^{\mathrm{p}\mathrm{r}\mathrm{o}\mathrm{g}}(\mathit{s})=⟨\mathit{s}|{\hat{E}}_n^{\mathrm{p}\mathrm{r}\mathrm{o}\mathrm{g}}|\mathit{s}⟩$ とします。全体位相を $e^{i{\phi }_0}$ と書けば、一次までの振幅は

$$⟨\mathit{s}|\psi (\tau )⟩=\frac{e^{i{\phi }_0}}{2^{N/2}}[1-i\lambda \sum _n{E}_n^{\mathrm{p}\mathrm{r}\mathrm{o}\mathrm{g}}(\mathit{s}){\int }_0^{\tau }B(t)e^{-2in\mathrm{\Phi }(t)}dt+O({\lambda }^2)].$$

これは $U(\tau ,0)=U_0(\tau ,0)-i\lambda {\int }_0^{\tau }{U}_0(\tau ,t)B(t)E^{\mathrm{p}\mathrm{r}\mathrm{o}\mathrm{g}}{U}_0(t,0)dt+\cdots$ に、直前の回転公式を代入したものです。

振幅を $1+\delta$ と書くと、確率の一次補正は $2\mathrm{Re}\delta$ です。$-i{e}^{-ix}$ の実部が $-\sin x$ であることから

$$\begin{array}{rl}{p}_{\mathrm{D}\mathrm{Q}\mathrm{A}}(\mathit{s})& =2^{-N}[1-\lambda \sum _n{K}_n{E}_n^{\mathrm{p}\mathrm{r}\mathrm{o}\mathrm{g}}(\mathit{s})+O({\lambda }^2)],\\ K_n& =2{\int }_0^{\tau }B(t)\sin [2n{\int }_t^{\tau }A(u)du]dt.\end{array}$$

が得られます。位相の実部・虚部を計算するだけで、エネルギーに比例する確率の偏りが出ました。これを高温展開の $-\beta E$ と比較するのが核心です。原著の横磁場を $+\sum _i{X}_i$、初期状態を $|-{⟩}^{\otimes N}$ とする規約でも、同じ確率の式になります。Gyhmら、導出節 [1]を参照してください。

ここでの $O({\lambda }^2)$ は、有限時間・有限系・有界なハミルトニアンを固定した摂動展開を意味します。熱力学極限や無限時間極限と自由に交換できる誤差評価ではありません。高次項を計算すればあらゆる低温へ進める、という保証もありません。

8. 一体項と二体項の温度をそろえる

欲しい分布を $p_{\ast }(\mathit{s})\propto e^{-{\beta }_{\ast }{E}_{\ast }(\mathit{s})}$、$E_{\ast }=\sum _n{E}_{\ast ,n}$ とします。以下は一次精度の対応であり、実際に用いる係数は弱結合条件を満たすものとします。$\lambda$ を係数に吸収すると、必要な入力は

$$E_n^{\mathrm{p}\mathrm{r}\mathrm{o}\mathrm{g}}=\frac{{\beta }_{\ast }}{K_n}{E}_{\ast ,n},b_i^{\mathrm{p}\mathrm{r}\mathrm{o}\mathrm{g}}=\frac{{\beta }_{\ast }}{K_1}{b}_i^{\ast },W_{ij}^{\mathrm{p}\mathrm{r}\mathrm{o}\mathrm{g}}=\frac{{\beta }_{\ast }}{K_2}{W}_{ij}^{\ast }.$$

$K_n=0$ に近い波形では、この逆変換が不安定になります。有限の入力範囲と弱結合条件を守れる波形を選ぶ必要があります。

磁場を基準に ${\beta }_{\ast }=K_1$ と取るなら、

$$c_n=\frac{K_n}{K_1},E_n^{\mathrm{p}\mathrm{r}\mathrm{o}\mathrm{g}}=\frac{E_{\ast ,n}}{c_n},c_2=\frac{{\int }_0^{\tau }B(t)\sin [4\mathrm{\Phi }(t)]dt}{{\int }_0^{\tau }B(t)\sin [2\mathrm{\Phi }(t)]dt}.$$

となります。$c_2$ を有効な相互作用の倍率と定義したなら、入力する結合は $1/c_2$ 倍です。 この向きを逆にすると、狙った分布からかえって離れます。

磁場のない、二体結合だけのRBMなら、一体項に合わせる必要はなく ${\beta }_{\mathrm{i}\mathrm{n}\mathrm{t}\mathrm{e}\mathrm{g}\mathrm{r}\mathrm{a}\mathrm{l}}=K_2$ と読めます。Kim・Gyhm・Parkの非断熱サンプリングの解析 [2]で現れる正弦の引数が $4\int A$ なのは、そのためです。磁場も使う一般のRBMでは、$K_1$ と $K_2$ を両方扱います。

8.1 線形に横磁場を切るとFresnel積分が出る

解析的な例として $A(t)=r(\tau -t)$、$B(t)=1$ を考えます。$r>0$ は掃引速度です。$\mathrm{\Phi }(t)=r(\tau -t{)}^2/2$ なので、$u=\tau -t$ と変数を変えると

$$K_n=2{\int }_0^{\tau }\sin (nr{u}^2)du\simeq \sqrt{\frac{\pi }{2nr}},K_1\simeq \sqrt{\frac{\pi }{2r}},c_2\simeq \frac{1}{\sqrt{2}}.$$

最後は $\tau \sqrt{r}\gg 1$ として積分上限を延ばした近似です。用いた公式は ${\int }_0^{\mathrm{\infty }}\sin (a{u}^2)du=\sqrt{\pi /(8a)}$ です。したがって磁場をそのまま入力し、${\beta }_{\ast }=K_1$ を狙うこの規約では、二体結合を $\sqrt{2}$ 倍して入力します。これは上の係数対応から直接確かめられます。

ここには、位相が速く回るほど積分の相殺が強くなり、確率の偏りが小さくなるという物理があります。速い掃引は小さな逆温度へ対応します。$\sqrt{r}$ とFresnel積分が現れる点はLandau-Zener遷移を思わせますが、ここで求めたのは最終測定分布の一次応答です。

この線形波形は解析用で、D-Waveの実際の波形と同一ではありません。実機で常に $c_2=1/\sqrt{2}$ になるわけではなく、実際の $A,B$ を積分し直します。

9. 理論から予測する係数と、実機で測る補正係数

時間波形から計算した $K_n$ は、仮定した閉鎖系のダイナミクスについての予測です。実機では環境、制御誤差、波形の差などによって分布がずれます。Kimらは小さな較正問題で得た頻度比と、同じ問題のユニタリー発展の予測を比較し、温度のずれを結合の再スケーリングに利用しました。Kimら、温度較正節 [2]

論文の倍率をここでは ${\alpha }_{\mathrm{c}\mathrm{a}\mathrm{l}}$ と書きます。線形波形の掃引速度 $r$、学習率 $\eta$ と区別します。

$${\alpha }_{\mathrm{c}\mathrm{a}\mathrm{l}}=\frac{{\beta }_{\mathrm{d}\mathrm{e}\mathrm{v}\mathrm{i}\mathrm{c}\mathrm{e}}}{{\beta }_{\mathrm{u}\mathrm{n}\mathrm{i}\mathrm{t}\mathrm{a}\mathrm{r}\mathrm{y}}},E^{\mathrm{c}\mathrm{o}\mathrm{r}\mathrm{r}\mathrm{e}\mathrm{c}\mathrm{t}\mathrm{e}\mathrm{d}}=\frac{E^{\mathrm{d}\mathrm{e}\mathrm{s}\mathrm{i}\mathrm{g}\mathrm{n}\mathrm{e}\mathrm{d}}}{{\alpha }_{\mathrm{c}\mathrm{a}\mathrm{l}}}.$$

なぜ割るのでしょうか。装置が設計より ${\alpha }_{\mathrm{c}\mathrm{a}\mathrm{l}}$ 倍大きい逆温度でサンプルすると仮定すれば、${\beta }_{\mathrm{d}\mathrm{e}\mathrm{v}\mathrm{i}\mathrm{c}\mathrm{e}}(E/{\alpha }_{\mathrm{c}\mathrm{a}\mathrm{l}})={\beta }_{\mathrm{u}\mathrm{n}\mathrm{i}\mathrm{t}\mathrm{a}\mathrm{r}\mathrm{y}}E$ となるからです。$c_2$ は一体・二体で異なる量子応答を合わせる倍率、${\alpha }_{\mathrm{c}\mathrm{a}\mathrm{l}}$ は実機と理想発展の差を合わせる倍率で、由来が違います。

この補正が成り立つには、較正点の近くで装置のずれがほぼ乗法的であることが必要です。磁場の加法的オフセット、結合ごとのばらつき、多体の歪みまで、一つの倍率で消えるとは限りません。また、小規模な較正が大規模な学習模型へ移せるかは別途確かめます。

実験論文では1984量子ビットの疎なRBMを用い、MNISTとFashion-MNISTで較正前後やPCDと比較しています。報告された改善は、その結合グラフ・装置・古典実装・誤差指標に対する結果です。アニーリングそのもののナノ秒という時間と、読み出しやプログラムを含む一サンプルの所要時間を混同しないことが、比較の前提になります。

10. 「摂動」と「パラメータ推定」を別の角度から眺める

前節までのKimらの議論は、時間依存する量子発展の摂動論です。これとは別に、平衡分布のパラメータを少し変え、その応答から係数を推定する古典的な考え方もあります。両者を混同しないために、後者も短く導きます。

$E_{\theta }=-\sum _{\mu }{\theta }_{\mu }{T}_{\mu }$ と書きます。$T_{\mu }$ は $s_i$ や $s_i{s}_j$ などの十分統計量です。規格化も含めて $⟨T_{\mu }⟩$ を微分すると

$$\frac{\partial ⟨T_{\mu }⟩}{\partial {\theta }_{\nu }}=\beta (⟨T_{\mu }{T}_{\nu }⟩-⟨T_{\mu }⟩⟨T_{\nu }⟩)=\beta C_{\mu \nu }.$$

磁場に対する磁化の応答が磁化の揺らぎで決まる、という揺動応答関係の一般形です。有限系のGibbs分布を直接微分した恒等式なので、特定の装置の性質を仮定していません。

小さなパラメータ変化に対して $\delta \mathit{m}\simeq \beta C\delta \mathit{\theta }$ なので、データとの相関差を埋めるには、形式的には共分散行列を逆に使えます。ただし零固有値や小固有値があると不安定なので、独立な統計量の選択や正則化が必要です。完全観測の負の対数尤度のHessianも ${\beta }^{2}C$ になります。

この見方の美しさは、学習の曲率が統計力学の揺らぎであり、同時にFisher情報でもあることです。一方、Kimらの $K_n$ は、位相の時間積分です。平衡の揺らぎから応答を読む式と、量子の位相から確率応答を読む式が、どちらも「入力を少し変えたら分布がどう変わるか」を記述しています。 この対応は理解の助けになりますが、この揺動応答の式をKimら固有の提案として扱うべきではありません。

11. 小さな例で、温度と補正方向を検算する

まず磁場のない二スピン $E=-W{s}_1{s}_2$ を考えます。同じ向きの状態が二つ、逆向きの状態が二つあり、それぞれのエネルギーは $-W,+W$ です。

$$Z=4\cosh (\beta W),⟨s_1{s}_2⟩=\tanh (\beta W),W=\frac{\mathrm{artanh}⟨s_1{s}_2⟩}{\beta }.$$

たとえばデータの相関が0.6なら、$\beta W=\mathrm{artanh}(0.6)\simeq 0.6931$ です。相関だけから $W$ と $\beta$ を別々には決められません。

次に、計算練習用の一定横磁場パルス $A(t)=a>0,B(t)=1$ を時間 $\tau$ だけかけ、直後にZ測定します。これは実機標準アニーリングを模したものではなく、積分が手でできる有限時間の例です。$|+{⟩}^{\otimes N}$ を準備して問題項を弱く加えると

$$K_n=2{\int }_0^{\tau }\sin [2na(\tau -t)]dt=\frac{1-\cos (2na\tau )}{na}.$$

$a=1,\tau =0.3$ の単位系では $K_1\simeq 0.174664$、$K_2\simeq 0.318821$ です。${\beta }_{\ast }=K_1$ を狙うなら、二体結合の入力倍率は $K_1/K_2\simeq 0.547844$ になります。線形掃引の $\sqrt{2}$ とは違います。必要な補正は、相互作用の次数と波形の両方で変わることが分かります。

二スピンで磁場と結合をともに入れ、四状態の確率を厳密なシュレーディンガー発展で計算すると、弱い結合ほど上の一次式に近づくことを確かめられます。結合を半分にして一次式との差が概ね四分の一になるかを見ると、符号や倍率だけでなく、展開の次数も検証できます。

11.1 温度がずれると、何を学んでしまうのか

目標逆温度を ${\beta }_{\ast }$、装置の実際の逆温度を ${\beta }_{\mathrm{d}}$ とします。二スピンのデータ相関を $c_{\mathcal{D}}$ とすると、目標尤度の勾配と、装置の負相をそのまま入れた更新方向は

$$g_{\ast }(W)={\beta }_{\ast }[c_{\mathcal{D}}-\tanh ({\beta }_{\ast }W)],\tilde{g}(W)={\beta }_{\ast }[c_{\mathcal{D}}-\tanh ({\beta }_{\mathrm{d}}W)].$$

です。装置の温度が違えば、目標分布についての尤度勾配にはなりません。一定の ${\beta }_{\mathrm{d}}>0$ なら、この単純な完全観測模型では装置温度での尤度勾配を定数倍したものと解釈できます。その停止点は

$$W_{\mathrm{s}\mathrm{t}\mathrm{o}\mathrm{p}}=\frac{\mathrm{artanh}{c}_{\mathcal{D}}}{{\beta }_{\mathrm{d}}},⟨s_1{s}_2{⟩}_{{\beta }_{\ast }}=\tanh \left(\frac{{\beta }_{\ast }}{{\beta }_{\mathrm{d}}}\mathrm{artanh}{c}_{\mathcal{D}}\right).$$

$c_{\mathcal{D}}=0.6,{\beta }_{\ast }=1,{\beta }_{\mathrm{d}}=2$ なら、$W_{\mathrm{s}\mathrm{t}\mathrm{o}\mathrm{p}}=0.346574$ です。装置上では相関0.6を再現しますが、目標温度で評価すると相関は $1/3$ になり、同方向の各状態の確率は $0.4$ でなく $1/3$ になります。学習が温度誤差を重みへ吸収したのです。同じ装置・同じ温度で生成するだけなら分布を再現できても、重みの物理的解釈や別の温度への移植には影響します。

RBMでは、正相の隠れ変数の条件付き平均にも温度が入ります。正相を ${\beta }_{\ast }$、負相を ${\beta }_{\mathrm{d}}$ で計算すると、一般にはどちらの温度のRBM尤度勾配でもありません。装置のずれが全係数に共通する一定倍率なら、入力エネルギーを ${\beta }_{\ast }/{\beta }_{\mathrm{d}}$ 倍して両相の温度を合わせられます。磁場と結合で応答が違う場合や、学習中に温度が変わる場合には、この一個の倍率では足りません。ここで第8・9節の係数補正と較正が必要になります。

11.2 四状態の頻度から、学習を最後まで追う

まず隠れ変数のない二スピンBMで、100件のデータを次のように与えます。サンプリング誤差と学習則を分けて理解するため、負相も四状態の厳密和で計算します。

状態 $(s_1,s_2)$	件数	データ確率	積 $s_1{s}_2$
$(+1,+1)$	40	0.4	1
$(+1,-1)$	10	0.1	−1
$(-1,+1)$	10	0.1	−1
$(-1,-1)$	40	0.4	1

正相の磁化はともに0、相関は $(40-10-10+40)/100=0.6$ です。磁場を0に固定し、$\beta =1$、初期結合 $W_0=0$、学習率 $\eta =0.5$ とします。各段階で正相は0.6、負相は $\tanh W_k$ なので、

$$W_{k+1}=W_k+0.5(0.6-\tanh W_k),p_k(++)=p_k(--)=\frac{1+\tanh W_k}{4},p_k(+-)=p_k(-+)=\frac{1-\tanh W_k}{4}.$$

初回は負相が0なので、更新量は $0.5\times 0.6=0.3$ です。次回は負相が $\tanh 0.3=0.291313$ となり、更新量は $0.154344$ に減ります。

| 段階 $k$ | $W_k$ | 負相 | 次の更新量 | 各同方向状態の確率 | 各逆方向状態の確率 | $D_{mKL}(p_{\mathcal{D}}\parallel p_k)$ | | --- | ---: | ---: | ---: | ---: | ---: | ---: | | 0 | 0.000000 | 0.000000 | 0.300000 | 0.250000 | 0.250000 | 0.192745 | | 1 | 0.300000 | 0.291313 | 0.154344 | 0.322828 | 0.177172 | 0.057086 | | 2 | 0.454344 | 0.425463 | 0.087269 | 0.356366 | 0.143634 | 0.019986 | | 3 | 0.541612 | 0.494207 | 0.052896 | 0.373552 | 0.126448 | 0.007794 | | 4 | 0.594509 | 0.533130 | 0.033435 | 0.383283 | 0.116717 | 0.003236 | | 5 | 0.627943 | 0.556634 | 0.021683 | 0.389159 | 0.110841 | 0.001396 | | 6 | 0.649626 | 0.571418 | 0.014291 | 0.392855 | 0.107145 | 0.000617 |

表の更新量は、その行の $W_k$ に加えて次の行へ進む値です。対称性により、磁場の勾配は全段階で0になります。停止点は $\tanh W_{\mathrm{\infty }}=0.6$、すなわち $W_{\mathrm{\infty }}=\log 2$ で、四状態の確率はデータの頻度に一致します。この例では分布がモデル族に含まれますが、一般のデータで完全一致が保証されるわけではありません。

QAを使う場合、置き換えるのは負相の列です。装置から得た $L$ 個の標本について $L^{-1}\sum _{\ell =1}^L{s}_1^{(\ell )}{s}_2^{(\ell )}$ を求めます。独立標本なら、この平均の標準誤差は $\sqrt{(1-c^2)/L}$ です。相関のある標本では有効標本数が減ります。表の厳密値との差を、有限標本の揺らぎと温度・装置の系統誤差に分けて調べられます。

RBMに進む際には、正相0.6をそのまま可視・隠れ結合へ流用しません。各可視データから正相の式の条件付き平均を計算します。また、全結合と全隠れ磁場を0にすると結合の勾配も0になるため、隠れ層の対称性を破る小さな非ゼロの初期値が必要です。

12. 実際の学習の手順と、分布を確かめる指標

実装の流れは次のようになります。

1. 学習するRBMのグラフ、スピンの0/1または±1規約、目標の ${\beta }_{\ast }$ を決めます。
2. 使用する時間波形と単位を確定し、$K_1,K_2$ を計算します。二体項だけなら $K_2$ で温度を定義できます。
3. 小規模問題の厳密な時間発展で、弱結合近似が有効な範囲を調べます。
4. 同じ設定の実機サンプルで、温度のずれと磁場・結合の系統誤差を確認します。
5. データから正相を計算し、較正したQAサンプルから負相を計算して重みを更新します。
6. 重みが大きくなったり分布が変わったりしたら、温度と分布の一致を再確認します。
7. 学習に使わないデータで性能を測り、同じグラフの古典サンプラと比較します。

小規模模型では全状態を列挙して

$$D_{\mathrm{T}\mathrm{V}}(p,q)=\frac{1}{2}\sum _{\mathit{s}}|p(\mathit{s})-q(\mathit{s})|,D_{\mathrm{K}\mathrm{L}}(p\parallel q)=\sum _{\mathit{s}}p(\mathit{s})\log \frac{p(\mathit{s})}{q(\mathit{s})}$$

を測れます。大規模模型では磁化、二点相関、エネルギー、必要に応じて高次相関や独立な検証問題を併用します。同じエネルギーの状態に偏りがあっても、エネルギーヒストグラムには現れません。再構成誤差が小さいだけで、尤度や生成分布が正しいとも言えません。

理想的な再初期化の下では各QA試行は独立に扱えますが、実機のドリフトや試行間の記憶は別問題です。サンプルの相関、較正の頻度、読み出し・プログラム・通信時間も記録します。高温で動く理論を、スピングラスの低温領域にそのまま外挿しないことも大切です。

13. 拡散モデルへの橋――分布の勾配を学ぶ

ここだけは変数を連続値 $\mathit{x}\in {\mathbb{R}}^d$ に変え、規格化可能で滑らかな密度 $p_{\theta }(\mathit{x})=e^{-\beta E_{\theta }(\mathit{x})}/Z_{\theta }$ を考えます。「スコア」はこの節ではパラメータ微分でなく、入力座標についての対数密度の勾配です。

$${\mathit{s}}_{\theta }(\mathit{x})={\mathrm{\nabla }}_{\mathit{x}}\log p_{\theta }(\mathit{x})=-\beta {\mathrm{\nabla }}_{\mathit{x}}{E}_{\theta }(\mathit{x}).$$

$Z_{\theta }$ は $\theta$ に依存しますが、$\mathit{x}$ には依存しないため微分で消えます。尤度学習の ${\partial }_{\theta }\log Z_{\theta }$ が負相を生んだこととの違いは、何について微分しているかにあります。スコアは、確率密度が局所的に増える向きを表します。

13.1 未知の分布の勾配を、データから学ぶ

データ密度を $q$ とし、スコアの二乗誤差を最小化すると考えます。$q$ とモデルが十分滑らかで、部分積分の境界項が消える条件の下では、

$$\begin{array}{rl}J(\theta )& =\frac{1}{2}{\mathbb{E}}_q[\parallel {\mathit{s}}_{\theta }-\mathrm{\nabla }\log q{\parallel }^2]\\ & ={\mathbb{E}}_q[\frac{1}{2}\parallel {\mathit{s}}_{\theta }{\parallel }^2+\mathrm{\nabla }\cdot {\mathit{s}}_{\theta }]+C_q.\end{array}$$

交差項に $q\mathrm{\nabla }\log q=\mathrm{\nabla }q$ を使って部分積分すれば、この形を導けます。$C_q$ は学習パラメータに依存しません。右辺なら未知の $\mathrm{\nabla }\log q$ を計算せず、データ点でモデルを評価して学習できます。これがHyvärinenのスコアマッチング [10]の基本です。エネルギーのパラメータを学ぶ場合でも、最尤法とは別の目的関数を選ぶことで、学習中の負相サンプリングを避けられます。

13.2 ノイズ除去を学ぶと、スコアが得られる

データ ${\mathit{x}}_0$ にGaussianノイズを加え、${\mathit{x}}_t={\alpha }_t{\mathit{x}}_0+{\sigma }_t\mathit{ϵ}$、$\mathit{ϵ}\sim \mathcal{N}(0,I)$ とします。${\sigma }_t>0$ なら条件付き分布は既知で、そのスコアも計算できます。

$${\mathrm{\nabla }}_{{\mathit{x}}_t}\log q({\mathit{x}}_t\mid {\mathit{x}}_0)=-\frac{{\mathit{x}}_t-{\alpha }_t{\mathit{x}}_0}{{\sigma }_t^2}=-\frac{\mathit{ϵ}}{{\sigma }_t},\mathcal{L}={\mathbb{E}}_{t,{\mathit{x}}_0,\mathit{ϵ}}[\lambda (t){\Vert {\mathit{s}}_{\theta }({\mathit{x}}_t,t)+\frac{\mathit{ϵ}}{{\sigma }_t}\Vert }^2].$$

$\lambda (t)>0$ は時刻ごとの重みです。二乗誤差の最適予測は条件付き平均なので、十分な表現力と理想的な学習の下で、

$${\mathit{s}}_{\mathrm{o}\mathrm{p}\mathrm{t}}({\mathit{x}}_t,t)=\mathbb{E}[-\frac{\mathit{ϵ}}{{\sigma }_t}|{\mathit{x}}_t]={\mathrm{\nabla }}_{{\mathit{x}}_t}\log q_t({\mathit{x}}_t).$$

最後の等号は $q_t({\mathit{x}}_t)=\int q_0({\mathit{x}}_0)q({\mathit{x}}_t\mid {\mathit{x}}_0)d{\mathit{x}}_0$ を微分し、$q_t$ で割ると確かめられます。一つの汚れた画像から実際に加えたノイズを完全に言い当てるのではなく、条件付き平均を通じて、ノイズを加えた分布全体のスコアを学びます。ノイズ除去とスコア学習の関係はVincentの論文 [11]で説明されています。

拡散モデルでは複数のノイズ水準のスコアを学び、生成時にそれを用いてノイズからデータへ戻る過程を数値的に進めます。Songらの研究 [12]は、この関係を逆時間の確率微分方程式で定式化しています。ノイズ水準 ${\sigma }_t$ を、量子アニーラの物理温度や有効温度と同一視することはできません。

観点	BMの最尤学習	ノイズ除去によるスコア学習
学ぶ対象	エネルギーの係数から定まる分布	ノイズ水準ごとの対数密度の勾配
学習信号	正相と負相の相関差	加えたノイズから作る教師信号
学習中のモデル平衡標本	負相を評価するために必要	上の目的関数では不要
生成時	学んだ分布からサンプリング	学んだスコアで逆過程などを進める

学習で負相を使わなくても、生成時の計算が不要になるわけではありません。また、自由なベクトル出力のネットワークは、近似誤差があると厳密なスカラーエネルギーの勾配にならない場合があります。${\mathit{s}}_{\theta }=-\beta \mathrm{\nabla }{E}_{\theta }$ と構成すれば勾配場であることは保証できますが、表現と計算の選択が変わります。

本補遺の±1スピンには通常の座標微分が定義されないため、上の連続値の式を直接適用することはできません。離散状態では、一スピン反転状態 ${\mathit{s}}^{(i)}$ との対数確率比 $\log [p({\mathit{s}}^{(i)})/p(\mathit{s})]=-\beta [E({\mathit{s}}^{(i)})-E(\mathit{s})]$ にも分配関数が現れませんが、それを使う学習法や離散拡散過程は別途定義する必要があります。

14. 研究の流れと、次に読む文献

年	原著	本補遺との関係
1985	[3]	相関差による学習の出発点
2002	[4]	短いサンプリング鎖を使った学習
2015	[5]	準静的な発展とフリーズ点の描像
2016	[8]	問題依存の有効温度推定と学習
2017	[6]	実機の熱化・フリーズ・ノイズの検証
2018	[13]	横磁場を模型自体に残す量子ボルツマンマシン
2019	[7]	アニーリング途中の休止と熱化
2021	[14]	画像生成としての評価
2025	[9]	学習と装置パラメータのオンライン較正
2026	[1]	時間依存摂動論による温度と多体項の係数対応。
2026	[2]	DQAを用いたRBM学習と実機温度の補正。
2026	[15]	ボルツマン事前分布を持つVAEへの展開

文献情報は2026年9月6日時点で確認しました。DQAで古典BMの負相を計算することと、横磁場を含む量子Gibbs状態そのものを学習する量子ボルツマンマシンは、異なる課題です。またBOCS・FMの補遺では二次代理モデルを最小化しますが、本補遺では同じ二次エネルギーの分布を利用します。

学習するエネルギー、装置が実現するエネルギー、測定後に見える有効エネルギー。この三つを式でつなぐと、量子アニーラの較正は単なる調整作業ではなく、量子ダイナミクスと統計推論の接点として読めます。

15. 理解を確かめる問題

1. $E=-bs$ の一スピンについて分配関数と磁化を求め、磁場に対する応答が $\beta (1-⟨s{⟩}^2)$ になることを示してください。

2. 可視1個・隠れ1個で $a=c=0$ のRBMを考えてください。相関は変わっても、可視変数単独の分布が一様なままであることを示してください。

3. $B(s_{\ast })=B(1)/2$ のフリーズを仮定したとき、最終ハミルトニアンを基準にした有効温度は物理温度の何倍でしょうか。

4. $K_1\ne K_2$ の場合、磁場と二体結合を同じ倍率で変えるだけでは、一般に指定した分布を作れないことを説明してください。

5. 一定横磁場パルスで $K_2=0$ だが $K_1\ne 0$ となる時間を一つ挙げてください。その点で二体項の逆設計が不安定になる理由を説明してください。

6. 二スピン模型で磁化・相関・四状態の確率を比較し、温度一個を合わせても分布のすべてが一致するとは限らない例を考えてください。

7. 隠れ1個・可視4個のゼロ磁場RBMで、四体項の係数に24が現れる理由を説明してください。

8. 第11.1節で ${\beta }_{\mathrm{d}}={\beta }_{\ast }/2$ とすると、目標温度での相関はどうなりますか。

9. 第11.2節の最初の更新を学習率0.25で計算してください。

10. 一次元Gaussian $q(x)\propto e^{-x^2/(2u^2)}$ のスコアを求め、式033との一致を確かめてください。

解答の手掛かり

1. $Z=2\cosh (\beta b)$、$⟨s⟩=\tanh (\beta b)$ を微分します。

2. 隠れ変数の和が $2\cosh (\beta Wv)=2\cosh (\beta W)$ となり、$v$ に依存しません。

3. $T_{\mathrm{e}\mathrm{f}\mathrm{f}}^{(f)}=2T_{\mathrm{p}\mathrm{h}\mathrm{y}\mathrm{s}}$ です。

4. 指数の係数はそれぞれ $K_1{b}^{\mathrm{p}\mathrm{r}\mathrm{o}\mathrm{g}}$ と $K_2{W}^{\mathrm{p}\mathrm{r}\mathrm{o}\mathrm{g}}$ なので、異なる二条件を同時に満たす必要があります。

5. $a\tau =\pi /2$ なら $K_1=2/a$、$K_2=0$ です。二体相関が一次では応答せず、割り算による補正ができません。

6. 読み出し誤差や磁場オフセットを加え、同じエネルギーの二状態の確率を非対称にしてみてください。

7. 異なる4添字の順列が $4!=24$ 通りあり、$24/12=2$ です。エネルギーを $-K_4{v}_1{v}_2{v}_3{v}_4$ と書く規約では $K_4$ に負号が付きます。

8. $\tanh [2\mathrm{artanh}(0.6)]=15/17\simeq 0.882353$ です。

9. $W_1=0.15$、負相は $\tanh 0.15\simeq 0.148885$ です。

10. スコアは $-x/u^2$ です。$E=x^2/(2\beta u^2)$ と置けば $-\beta {\partial }_{x}E=-x/u^2$ になります。

参考文献

1. Ju-Yeon Gyhm, Gilhan Kim, Hyukjoon Kwon, Yongjoo Baek, “Boltzmann sampling by diabatic quantum annealing,” Physical Review E 113, 065302 (2026). 出典

2. Gilhan Kim, Ju-Yeon Gyhm, Daniel K. Park, “Diabatic quantum annealing for training energy-based generative models,” Physical Review E 113, 035302 (2026). 出典

3. David H. Ackley, Geoffrey E. Hinton, Terrence J. Sejnowski, “A Learning Algorithm for Boltzmann Machines,” Cognitive Science 9, 147–169 (1985). 出典

4. Geoffrey E. Hinton, “Training Products of Experts by Minimizing Contrastive Divergence,” Neural Computation 14, 1771–1800 (2002). 出典

5. Mohammad H. Amin, “Searching for quantum speedup in quasistatic quantum annealers,” Physical Review A 92, 052323 (2015). 出典

6. Jeffrey Marshall, Eleanor G. Rieffel, Itay Hen, “Thermalization, Freeze-out, and Noise: Deciphering Experimental Quantum Annealers,” Physical Review Applied 8, 064025 (2017). 出典

7. Jeffrey Marshall, Davide Venturelli, Itay Hen, Eleanor G. Rieffel, “Power of Pausing: Advancing Understanding of Thermalization in Experimental Quantum Annealers,” Physical Review Applied 11, 044083 (2019). 出典

8. Marcello Benedetti, John Realpe-Gómez, Rupak Biswas, Alejandro Perdomo-Ortiz, “Estimation of effective temperatures in quantum annealers for sampling applications: A case study with possible applications in deep learning,” Physical Review A 94, 022308 (2016). 出典

9. Takeru Goto, Masayuki Ohzeki, “Online Calibration Scheme for Training Restricted Boltzmann Machines with Quantum Annealing,” Journal of the Physical Society of Japan 94, 034002 (2025). 出典

10. Aapo Hyvärinen, “Estimation of Non-Normalized Statistical Models by Score Matching,” Journal of Machine Learning Research 6, 695–709 (2005). 出典

11. Pascal Vincent, “A Connection Between Score Matching and Denoising Autoencoders,” Neural Computation 23, 1661–1674 (2011). 出典

12. Yang Song, Jascha Sohl-Dickstein, Diederik P. Kingma, Abhishek Kumar, Stefano Ermon, Ben Poole, “Score-Based Generative Modeling through Stochastic Differential Equations,” arXiv:2011.13456 (2020). 出典

13. Mohammad H. Amin, Evgeny Andriyash, Jason Rolfe, Bohdan Kulchytskyy, Roger Melko, “Quantum Boltzmann Machine,” Physical Review X 8, 021050 (2018). 出典

14. Takehito Sato, Masayuki Ohzeki, Kazuyuki Tanaka, “Assessment of image generation by quantum annealer,” Scientific Reports 11, 13523 (2021). 出典

15. Gilhan Kim, Daniel K. Park, “Multi-Mode Quantum Annealing for Generative Representation Learning with Boltzmann Priors,” arXiv:2604.00919v2 (2026). 出典