In the fusion community, the use of high performance computing (HPC) has been mostly dominated by heavy-duty plasma simulations, such as those based on particle-in-cell and gyrokinetic codes. However, there has been a growing interest in applying machine learning for knowledge discovery on top of large amounts of experimental data collected from fusion devices. In particular, deep learning models are especially hungry for accelerated hardware, such as graphics processing units (GPUs), and it is becoming more common to find those models competing for the same resources that are used by simulation codes, which can be either CPU- or GPU-bound. In this paper, we give examples of deep learning models—such as convolutional neural networks, recurrent neural networks, and variational autoencoders—hat can be used for a variety of tasks, including image processing, disruption prediction, and anomaly detection on diagnostics data. In this context, we discuss how deep learning can go from using a single GPU on a single node to using multiple GPUs across multiple nodes in a large-scale HPC infrastructure.
核融合コミュニティにおいて、高性能計算（HPC）の利用は、主に粒子インセル法やジャイロ運動論コードに基づく大規模プラズマシミュレーションによって支配されてきた。しかし近年、核融合装置から収集される大量の実験データに対して、機械学習を用いた知識発見への関心が高まっている。特に、深層学習モデルは、グラフィックス処理ユニット（GPU）などの高速化ハードウェアを強く要求するものであり、シミュレーションコード（CPUバウンドまたはGPUバウンドのいずれか）と同一の計算資源をめぐって競合するケースが増えつつある。本論文では、畳み込みニューラルネットワーク、リカレントニューラルネットワーク、変分オートエンコーダなどの深層学習モデルの例を示し、これらが画像処理、ディスラプション予測、診断データの異常検出など多様なタスクに適用可能であることを述べる。さらに、このような文脈において、深層学習が単一ノード上の単一GPUから、大規模HPCインフラストラクチャ上の複数ノードにわたる複数GPUへとスケールアップする方法について議論する。