バナー

初めてのGPU 内部回路の研究


NVIDIA Ampere技術資料から

FPU/積和演算器からワープ・スケジューラまで

図1　GA100の内部には複数のストリーミング・マルチプロセッサ（SM）が組み込まれており，それぞれが複数のCUDAコアやテンソル・コアを含む．CUDAには整数演算や浮動小数点演算を担当する．画像クリックで動画を見る．または記事を読む．［提供・著］善養寺 薫（Kaoru Zenyouji）．
詳細：［VOD/KIT/data］Jetson Nanoキットで学ぶ NVIDIA CUDAプログラミング入門

GPU内部構造とCUDAコアのしくみ

NVIDIAのGPUアーキテクチャ「Ampere」を備えるGPUコア“GA100”には多くの技術が組み込まれています．

このアーキテクチャの心臓部は「CUDAコア」です．整数演算や浮動小数点演算を担当し，これにより高度な計算処理が可能です．Ampereでは，CUDAコアの他にも，積和演算器（FMA）やテンソル・コアなどが追加され，行列演算を高速に処理する機能が備わっています．

ストリーミング・マルチプロセッサ（SM）の役割

GA100には複数のストリーミング・マルチプロセッサ（SM）が組み込まれており，それぞれが複数のCUDAコアやテンソル・コアを含んでいます．

各SMはINT32やFP32，FP64に対応したコアをもち，それぞれが32ビット整数や32/64ビット浮動小数点の計算を効率的に行います．テンソル・コアは行列演算を高速に処理するために特化されており，機械学習の推論や訓練に大きな効果を発揮します．各SM内のコアが並列に処理を行うことで，Ampereアーキテクチャは膨大なデータ量の処理に対応しています．

ワープ・スケジューラと並列処理の最適化

GA100の並列処理を支えるもう1つの重要な要素がワープ・スケジューラです．

ワープ・スケジューラは，32スレッド（ワープ）を1クロックあたりで処理し，各スレッドが効率よく実行されるように，コアへ割り当てを行います．このしくみにより，処理が途切れなく続けられ，CPUとは異なるスケーラビリティを発揮します．ワープ・スケジューラはスレッドの切り替えや待機状態の管理を自動で行い，GPU全体の効率を最大化します．

FP32とFP64の役割と違い

FP32とFP64はそれぞれ，32ビットと64ビットの浮動小数点演算を指し，GPU内で異なる計算精度を提供します．

FP32は主にゲームやビジュアル処理で使用される標準的な計算精度であり，軽量で高速な計算が可能です．FP64は高精度の計算を必要とする科学技術分野や金融モデリングでの利用が主で，計算負荷は大きいですが精密な結果が求められる場面で活躍します．Ampereでは，FP32とFP64を使いわけることで，効率と精度のバランスを保っています．

テンソル・コアによる行列演算の高速化

テンソル・コアは，AI分野において重要な役割を果たします．

このコアは行列積和演算（FMA）に特化して設計されており，特に畳み込み演算が必要なニューラル・ネットワークの計算効率を大幅に向上させます．

テンソル・コアを活用することで，GA100は通常のコアよりも高速に大量のデータを並列処理することが可能になり，AIの学習や推論における計算速度が劇的に向上します．〈著：ZEPマガジン〉

動画を見る，または記事を読む

著者紹介

  • 2010年　沼津工業高等専門学校　専攻科　卒業
  • 2010年　FA機器/ハード・ディスク製造装置設計業務に従事．その後ベンチャーにて半導体検査/医科学用電子顕微鏡，半導体製造装置，理化学機器の研究開発設計に従事
  • 2020年　静岡県創業者育成施設審査通過し，個人事業として独立
  • 2022年　株式会社ディスクリテック設立，現在に至る

著書

  1. ［VOD/KIT/data］実験キットで学ぶ 電源・アナログ回路入門，ZEPエンジニアリング株式会社．
  2. ［VOD］動画で一緒にプリント基板開発 KiCad超入門【KiCad 6対応 完全マニュアル】，ZEPエンジニアリング株式会社．
  3. ［VOD］動画で一緒にプリント基板開発 KiCad超入門【KiCad 6対応 プロの仕上げ技101】，ZEPエンジニアリング株式会社．
  4. ［VOD/KIT］すぐ動く！BM83 Bluetoothスタータキット，ZEPエンジニアリング株式会社．
  5. ［VOD/Pi KIT］MATLAB/Simulink×ラズパイで学ぶロボット制御入門，ZEPエンジニアリング株式会社．
  6. ［VOD/KIT］MATLAB/Simulink×ラズパイで学ぶロボット制御入門
  7. 一人で始めるプリント基板作り，トランジスタ技術Special No.127， CQ出版社
  8. 商用利用OK！噂の完全フリー基板作成ツール KiCad，トランジスタ技術2015年3月号，CQ出版社．
  9. 1枚100円も！世界のプリント基板ネット通販メーカ，トランジスタ技術2016年7月号，CQ出版社．
  10. 部品の足にジャストフィット!フットプリント作成，トランジスタ技術2017年5月号，CQ出版社．
  11. コネクタなどの特殊部品のフットプリントを高速自作!CQ FootprintTracer，トランジスタ技術2017年10月号，CQ出版社．
  12. はじめてみませんか？プリント基板ネット通販生活，トランジスタ技術2018年2月号，CQ出版社．
  13. 工作実験室で活躍中！高コスパ電子工作ツール一覧，トランジスタ技術2018年12月号，CQ出版社．
  14. 成功間違いなし!　BGA配線 10の基本ルール，トランジスタ技術2020年5月号，CQ出版社．

参考文献

  1. ［VOD/Pi3A KIT］ラズパイ・キットで学ぶLinux I/Oボードの作り方・探し方・動かし方，ZEPエンジニアリング株式会社．
  2. ［VOD/Pi KIT］ラズベリー・パイで学ぶLinux＆Pythonプログラミング超入門，ZEPエンジニアリング株式会社．
  3. ［VOD/PiZero KIT］Python×ラズパイで初めての量子コンピュータ，ZEPエンジニアリング株式会社．
  4. ［VOD/Pi400 KIT］SLAMロボット＆ラズパイ付き！ROSプログラミング超入門，ZEPエンジニアリング株式会社．
  5. ［VOD/Pi KIT］ラズパイ×Pythonで動かして学ぶモータ制御入門，ZEPエンジニアリング株式会社．