ニューラルネットワーク

ニューラルネットワーク（neural network、人工神経網）とは、脳の神経回路を単純化した数理モデルであり、多数の「ニューロン」と呼ばれる計算素子を層状に結合し、素子間の結合の重み（重み係数）をデータから学習することで入出力間の複雑な非線形関係を近似する手法である。核融合研究においては、診断データからの物理量推定、計算コストの高いシミュレーションコードの高速な代替（サロゲートモデル）、プラズマディスラプションの予測と制御など、実験データ解析と数値シミュレーションの双方にわたって広く応用されており、とりわけリアルタイム性が求められるプラズマ運転支援においてその価値が大きい。本項では、核融合プラズマ研究におけるニューラルネットワークの代表的な使われ方を、その原理とあわせて解説する。

ニューラルネットワークの原理と関数近似器としての性質

ニューラルネットワークの基本構造は、入力層、隠れ層、出力層からなる。各ニューロンは入力の重み付き和を取り、非線形の活性化関数を通して次層へ伝える。層を深く、幅を広くとるほど表現能力が増し、十分なパラメータ数があれば任意の連続関数を近似できるという普遍近似定理が成り立つ。この性質により、ニューラルネットワークは「入力から出力への多変数の非線形写像」をデータから獲得する関数近似器として機能する。

図は、入力層と出力層の間に2つの隠れ層を持つ基本的なネットワーク構造を示したものである。入力層の多数のノードが隠れ層1、隠れ層2を経て出力層の単一ノードへ全結合でつながっており、各結合に重みが割り当てられている。

学習は、訓練データ（入力とそれに対応する正解出力の組）を与え、出力と正解の誤差を表す損失関数を定義し、その値を重み空間で最小化する（誤差逆伝播法と勾配法を用いる）ことで行われる。重みの更新には アダム（Adam）などの確率的勾配降下法の変種が用いられる。訓練に用いたデータ範囲の外では精度が保証されない（外挿が苦手である）ため、訓練データが対象とする物理パラメータ空間をどれだけ網羅しているかが性能を本質的に左右する。この点は後述のサロゲートモデル構築において特に重要である。

ネットワークの構造には、全結合の多層パーセプトロン（MLP）のほか、空間的なパターンを抽出する畳み込みニューラルネットワーク（CNN）、時系列を扱う再帰型ネットワーク（RNN）、低次元の潜在空間への圧縮を学習する自己符号化器（オートエンコーダ）や変分自己符号化器（VAE）などがあり、扱うデータの性質（グリッドデータか、時系列か、スペクトルか）に応じて使い分けられる。

高コストなシミュレーションのサロゲートモデル

核融合研究では、詳細な数値シミュレーションの計算コストが膨大になることがしばしばある。例えば、三次元の周辺プラズマ輸送コードの一回のシミュレーションは、スーパーコンピュータ上で数千コア時に及ぶことがある。このようなコードの入出力関係を事前に計算したデータセットから学習したニューラルネットワークで置き換える「サロゲートモデル」の構築が活発に進められている。サロゲートモデルがあれば、パラメータ掃引や実験中の制御室からのフィードバック判断が現実的な時間で可能になる。

サロゲートモデルの構築例として、三次元磁気流体平衡計算コード VMEC の高速化が挙げられる。VMEC の一回の平衡計算は高ベータの炉心プラズマでは数十分のオーダーを要するが、ニューラルネットワークによるサロゲートでは最大で6桁程度の高速化が報告されている。また、周辺輸送コードの出力（プラズマ密度や熱流束の分布）を学習する場合、出力が高次元の分布になるため、単純な MLP では精度が足りないことがある。この対策として、オートエンコーダで出力を低次元の潜在ベクトルに圧縮し、入力からその潜在ベクトルへの写像を MLP で学習したうえで両者を連成して再調整するという構成が有効であることが示されている。これは、出力空間の次元を減らすことで学習すべき写像を単純化する発想であり、分布を出力とするサロゲートモデルで広く使われる手法である。

サロゲートモデルの精度は訓練データの質と量に支配される。訓練データは、対象とする運転領域を偏りなく覆うようにサンプリングする必要があり、ベイズ最適化によるハイパーパラメータ探索や、能動学習によって効率的にデータを追加する手法も研究されている。また、不確実性を推定できるネットワーク構成を用い、モデルが「自分がどれだけ信用できるか」を予測とともに出力させる試みも行われている。

平衡再構成とプロファイル推定への応用

トカマクプラズマの磁気平衡再構成は、外部磁気探測器や干渉計などの測定値からグラード＝シャフラノフ（Grad–Shafranov）方程式の解を求める逆問題であり、プラズマの状態把握と制御の基盤である。従来の EFIT などの平衡再構成コードは計算に時間がかかり、運転中のリアルタイム処理には不向きであった。ニューラルネットワークを用いれば、診断信号を入力として磁束面形状やプラズマ内部の運動学的プロファイル（温度・密度分布）を直接出力する高速な推定器が得られる。DIII-D では、運動学的プロファイルを含む平衡再構成（kinetic EFIT）のデータベースから学習した MLP が実運転に展開されており、どの診断を入力に含めるかが推定精度に与える影響の系統的な評価も行われている。

分光診断への応用も進んでいる。X線結晶分光器で測定した不純物（アルゴン、タングステン）のスペクトルから電子温度プロファイルを推定する問題では、従来の衛星線強度比を用いる手法が高温プラズマ（電子温度が3 keV を超える領域）では成立しなくなるため、CNN を用いて規格化スペクトルから電子温度プロファイルを直接推定する枠組みが開発されている。この種のモデルは、ガウス過程回帰による前処理と組み合わせることで、実験データと輸送コードによる合成データの両方で検証されている。

また、ヘリカル（スタセレータ）装置である W7-X では、磁場の三次元構造に起因する複雑な熱負荷分布や磁気配置を、モデル化されたデータからニューラルネットワークで再構成する研究が行われており、二次元トカマクとは異なる三次元平衡の高速推定への適用が進められている。

ディスラプション予測とリアルタイム制御

ディスラプション（プラズマの急激な閉じ込め喪失）は、炉心のエネルギーが一挙に第一壁へ放出される深刻な事象であり、ITER のような大型装置では回避・緩和が必須である。ニューラルネットワークは、診断信号の時系列からディスラプションの予兆を学習する分類器として早くから研究されてきた。入力として、プラズマ電流、位置、放射、温度・密度プロファイルのピーク化係数などの正規化パラメータを用い、ディスラプションまでの一定の警告時間内のデータを「ディスラプティブ」としてラベル付けして訓練する。

初期の研究では、単純な単層パーセプトロンに少数の正規化パラメータを入力する構成でも、同一装置内のテストで8〜9割程度のディスラプションを事前に検出できることが示された。さらに、ある装置で訓練したネットワークを別の装置に適用する「装置間汎化」の検討も行われており、JET で訓練したモデルが ASDEX Upgrade のディスラプションの約7割を検出できるなど、単純なネットワークほど装置間の転移に強い傾向が報告されている。この性質は、訓練データが限られる ITER のような将来装置でディスラプション予測系を立ち上げるうえで重要である。

近年では、診断データの多次元性を活かす深層学習の導入が進んでいる。電子温度・密度・放射のプロファイルを時空間データとして CNN に入力することで、0次元のピーク化係数では失われる空間情報（例えば、コアの放射増大に伴う中空温度プロファイルと、エッジ冷却に伴う電流分布の収縮の違い）を学習できる。JET の10年分の放電データを用いた評価では、CNN による予測器が従来の機械学習手法と同等以上の性能を示すことが報告されている。図は、CNN 予測器の警告時間に対するディスラプション検出率の累積分布を、訓練データとテストデータで比較したものである。縦軸が検出できたディスラプションの累積割合、横軸が警告時間（秒）であり、警告時間を短くとるほど検出率が上がるというトレードオフの構造が読み取れる。

ディスラプション予測の先には回避制御がある。変分自己符号化器（VAE）を用いると、複数の診断信号を低次元の潜在空間へ写像し、放電の軌跡をその空間上の経路として表せる。訓練データから潜在空間上の運転境界を特定しておけば、放電の軌跡が境界に近づいた時点で警報を出すだけでなく、どの物理的要因（例えば密度限界か、位置制御の不安定化か）に近いかを推定でき、対応するアクチュエータを動作させて軌道を安全側へ逸らすという回避制御につなげられる。この枠組みは小型トカマクでの概念実証が行われており、予測と回避を一つのデータ駆動型の枠組みで統合する方向性を示している。

訓練データ、解釈性、物理情報を組み込んだネットワーク

ニューラルネットワークの実用上の課題は、性能そのものより、(1) 十分な訓練データの確保、(2) モデルの解釈性、(3) 物理との整合性にある。ディスラプション予測のような教師あり学習では、モデルが「なぜその予測をしたか」が分からないブラックボックス問題が古くから指摘されてきた。前節の VAE のように、低次元の潜在空間に物理的な意味を持たせることで解釈性を確保する試みや、学習した特徴がどの物理量に対応するかを可視化する試みが行われている。

訓練データの構築も重要な設計要素である。実験データは運転領域に偏りがあり、そのままでは学習データとテストデータの分布のずれ（共変量シフト）が生じる。この対策として、物理的な知見（例えばプラズマプロファイルをガウス過程でモデル化し、既知の物理制約を仮想観測として埋め込む）を訓練データ生成に組み込む手法が用いられる。また、能動学習によってモデルが不確実だと自覚する領域を優先的にサンプリングし、限られた計算資源で効率的にデータセットを拡張する手法も研究されている。

物理法則を学習過程に直接組み込む枠組みとして、物理情報ニューラルネットワーク（physics-informed neural network、PINN）がある。PINN は、ネットワークの出力が満たすべき偏微分方程式（例えば磁気流体力学方程式）の残差を損失関数に加えることで、データだけでは学習できない物理的制約を訓練に反映させる。これにより、観測データが疎な領域でも物理的に妥当な解に正則化され、汎化性能が向上する。トカマク平衡再構成への応用では、干渉計・偏光計の測定を高精度にモデル化した物理項を損失に組み込むことで、磁場・密度・温度の分布を一つのネットワークで同時に再構成する手法が開発されている。図は、PINN による平衡再構成の構成を示したものである。(a) はネットワークの出力（ポテンシャルのフーリエ係数、密度、温度など）から物理層を経て磁場ベクトルや圧力を計算する構造、(b) は測定値とコリケーション点（物理残差を評価する格子点）を入力に、物理損失と境界損失の和を損失としてアダムで重みを更新する一連の訓練ループを表している。

PINN は従来の数値ソルバーの単純な代替ではなく、格子生成を必要としないメッシュレスな解法、実験データと物理モデルの混在、複数の物理過程の連成扱いといった特徴を持つ。一方で、損失の重み付けの調整、物理項のハード制約とソフト制約の使い分け、活性化関数や事前学習の効果など、アーキテクチャと訓練の設計が性能を大きく左右することも系統的なパラメータ研究で示されており、手法としてまだ発展途上にある。核融合プラズマ研究におけるニューラルネットワークは、単一の手法というより、診断・シミュレーション・制御をつなぐ共通の関数近似基盤として位置づけられており、今後の大型装置でのリアルタイム運転においてその役割はさらに拡大すると見込まれる。