コンピューティングを高速化する画期的な同時・異種マルチスレッディング技術

AppleやGoogleといったテック大手の新しいデバイスは、バッテリー寿命の一桁増加、プロセッサのナノメートル数の1削減（製造業者にとって最適な歩留まりはまだ得られていない）、あるいは数メガピクセルの増加といった漸進的な改善しかないが、次の疑問が浮かぶ: そのような控えめな向上で本当に十分なのか？ハードウェアを増やすことが解決策なのか？

カリフォルニア大学リバーサイド校（UCR）電気・コンピュータ工学部のツェン准教授（Hung-Wei Tseng）によれば: 

「新しいプロセッサを追加する必要はありません、既にそれらがあるからです。」

ツェン教授は研究チームと共に、新しい並列処理用ソフトウェアフレームワークを開発しました（Simultaneous and Heterogeneous Multi-threading、略称SHMT）です。初期結果によると、SHMTは現在のパーソナルコンピュータ、携帯電話、その他のデバイスに搭載されたプロセッサの潜在能力を活用することで、処理速度を大幅に向上させ、消費電力を削減できると期待されています。

テックコミュニティから「画期的」と称賛されているSHMTは、データフローのボトルネックを取り除き、多数の処理ユニットがシームレスに協調できるようにすることを目指しています。このブレークスルーは、個人向け電子機器だけでなく、データセンターやその他の大規模並列コンピューティングにも影響を与える可能性があります。

クリックして、先進的なフォトニクスがどのようにより優れたスマートフォンの構築を可能にするかをご覧ください。

ボトルネックの解消

同時・異種マルチスレッディングで実現可能な全容を探求する前に、まず現在のコンピューティングシステムの制限を理解しましょう。

ほとんどのデバイスでは、CPU（中央処理装置）、GPU（グラフィックス処理装置）、TPU（テンソル処理装置）などのさまざまなコンポーネントが情報を個別に処理します。データはある処理ユニットから別の処理ユニットへ転送され、しばしばシステム全体の性能を阻害する「ボトルネック」につながります。

この問題は、従来のプログラミングモデルがタスクを単一のプロセッサタイプに委任することが多く、他のリソースがアイドル状態で十分に活用されないため、さらに悪化します。これらの観察に呼応して、Kuan-Chieh Hsu と Hung-Wei Tseng による研究論文『Simultaneous and Heterogeneous Multi-threading』は次のように述べています:

「既存のプログラミングモデルは、各コード領域に最も効率的な処理ユニットのみを使用することに焦点を当てており、異種コンピュータ内の処理能力を十分に活用していません。」

SHMTは、コンピューティングシステム内の複数コンポーネントの多様性を活用することで、このアプローチから逸脱します。この概念は「ヘテロジニティ（異種性）」と呼ばれます。計算機能を分解し、利用可能な処理ユニットに分配することで、SHMTは真の並列処理を実現します。

計算機能を分解し、複数の処理ユニットに分配するこのアプローチは、利用可能なリソースの活用率を最大化し、性能向上とエネルギー節約を実現します。研究論文はさらに、従来のプログラミングモデルの欠点として「コード領域を一種のプロセッサにのみ委任でき、他の計算リソースはアイドル状態のままで現在の機能に貢献しない」と指摘しています。

一方、SHMTは各処理ユニットの固有のスキルと、共有コード領域での協調作業を活用することで、これらの制約から解放されることを目指しています。著者らは、すべてのコンピューティングプラットフォームが複数種の処理ユニットやハードウェアアクセラレータを統合しているため、現代のコンピューティング技術は否定できないほど異種であると指摘しています。したがって、これら多様なコンポーネントの力を効果的に活用できるプログラミングモデルが必要であり、これこそがSHMTの目指すところです。

このように、SHMTは従来のコンピューティングにおけるボトルネックに対処することで、より高速で効率的なコンピューティングへの道を切り開きます。

同時・異種マルチスレッディング技術はどのように機能するのか？

明らかなように、異なるハードウェアコンポーネント間で計算活動を効率的に管理・分配することが、SHMTの基本原理です。

フレームワークは、CPUアプリケーションから仮想ハードウェアデバイスへタスクをオフロードすることを容易にする仮想操作（VOP）のコレクションを含みます。研究によれば、「仮想操作（VOP）のセットは、CPUプログラムが機能を仮想ハードウェアデバイスに『オフロード』できるようにします。」これらのVOPは、プログラムとハードウェアの間にバリアを作り、通信とジョブ委任を仲介します。

ランタイムシステムは、各ハードウェアリソースの能力を評価し、アプリケーション実行中にインテリジェントなスケジューリング決定を行うことで性能を最適化します。研究によれば、「プログラム実行中、ランタイムシステムは同時・異種マルチスレッディングの仮想ハードウェアを駆動し、ハードウェアリソースのスケジューリング決定能力を測定します。」SHMTはリソース効率を最大化し、ジョブ固有のニーズに適応するために、ハードウェアの能力を動的に評価します。

ランタイムシステムはVOPを高レベル操作（HLOP）に分解し、さまざまなハードウェアタスクキューに配布します。研究によれば、「ランタイムシステムはVOPを1つ以上の高レベル操作（HLOP）に分割し、複数のハードウェアリソースを同時に使用します。」VOPをHLOPに分解することで、ジョブ割り当ての細かな制御と各処理ユニットの最大活用が実現します。

SHMTのスケジューリングポリシーは、品質認識型ワークスチーリング（QAWS）アプローチを採用し、リソースの効率的な活用と多様なワークロードを保証します。研究によれば、「SHMTはリソースを独占せず、品質管理とワークロードのバランスを維持する品質認識型ワークスチーリング（QAWS）スケジューリングポリシーを使用します。」このアプローチは、システム全体に作業を効果的に分配するだけでなく、任意の処理ユニットがリソースを独占することを防ぎます。

SHMTが品質を犠牲にせずに性能を最大化したい場合、QAWSスケジューリングポリシーが必要です。研究は「SHMTは大きなオーバーヘッドを伴わずに結果を保証しなければならない」と述べています。異種処理ユニットからの出力が正確かつ一貫していることを保証するため、SHMTはスケジューリングに品質管理技術を統合しています。

SHMTが各ハードウェアの固有の能力を活用できる点は大きな利点です。研究は「SHMTは同一機能の計算を複数の計算リソースに分割し、同時に異種の並列性を活用できる」と指摘しています。SHMTは異種システムにおける並列性を利用して、複数のプロセッサユニットでジョブを同時に実行することで、性能を大幅に向上させます。

SHMTのもう一つの柔軟で適応的な側面はランタイムシステムです。研究によれば、「HLOPはハードウェアに依存しないため、ランタイムシステムは必要に応じてタスク割り当てを調整できます。」この適応性により、SHMTはハードウェアの可用性やワークロードの変化に即座に対応し、システムを最高の効率と性能で稼働させ続けます。

全体として、研究はSHMTの動作を理解するために必要なすべてのステップを示し、異種コンピューティング環境で驚異的な効率と効果を実現する重要な要素とプロセスに注目しています。VOP、HLOP、QAWSスケジューリング戦略を活用して並列処理に革命をもたらすSHMTのおかげで、効率的で強力なコンピューティングの新時代が幕を開けようとしています。

プロトタイプの初期テストから得られた肯定的な結果

SHMTが機能することを証明するため、UCRの研究者は、現代の携帯電話で標準的に使用されている部品を用いてデータセンターの機能を模倣したプロトタイプシステムで厳格なテストを実施しました。プロトタイプは、システムのM.2 Key Eスロットを介して組み込まれたGoogle Edge TPU、クアッドコアARM Cortex-A57プロセッサを搭載したNVIDIA Jetson Nanoモジュール、そして128個のMaxwellアーキテクチャGPUコアを含んでいます。

異なるワークロード条件下でSHMTフレームワークの性能を評価するため、研究者はプロトタイプを多数のベンチマークプログラムでテストしました。その結果は印象的で、最高性能のQAWS戦略はベースライン手法と比較してエネルギー使用量を51％削減し、処理性能を1.95倍向上させました。

この結果は、SHMTが幅広いデバイスやソフトウェアアプリケーションにおいて、処理性能とエネルギー効率を大幅に向上させる可能性を裏付けています。SHMTは、新しいハードウェアに多額の費用をかけずに、すべてのリソースをより有効に活用することで、現在の環境から最大限の効果を引き出せることを示しました。

ますます高速で効率的なコンピューティングが求められる中、同時・異種マルチスレッディングのようなブレークスルーは、技術の将来の方向性を形作る上でますます重要になるでしょう。UCR研究チームの取り組みは、デジタル社会の動的な要求に適応できる長期的で高性能なコンピューティングソリューションを見つけることが、これまで以上に容易になったことを明確に示しています。

同時・異種マルチスレッディングの影響と将来の方向性

SHMTの創出とテストは、コンピューティングの未来における深遠な転換を示しています。既存のハードウェアで大幅な性能向上とエネルギー削減を実現することで、さまざまなアプリケーションにおけるデバイス設計と使用法を革命的に変える可能性があります。

SHMTが広く採用されるにつれ、消費者は高価なハードウェアのアップデートを回避し、より高速で応答性の高いモバイルデバイス、タブレット、ノートパソコン、デスクトップを享受できるようになるでしょう。これにより、より多くの人々が高性能コンピュータを購入・利用できるようになり、デジタル格差の解消に寄与します。

データセンターやその他の大規模コンピューティングシステムも、性能を犠牲にせずにコストとエネルギー使用量を削減するための不可欠なツールとしてSHMTを活用できるでしょう。また、SHMTのようにエネルギー効率と持続可能性を促進するイノベーションは、技術の環境影響への懸念が高まる中で重要性を増すでしょう。

UCR研究チームは最大限の努力を払っているものの、依然として克服すべき課題や将来的なさらなる研究・発展の機会があることを認識しています。ソフトウェアエンジニアとハードウェアメーカーは、SHMTを大規模に実装するために緊密に協力する必要があります。これにより、あらゆるデバイスやプラットフォームで技術が適切に機能することが保証されます。ただし、この革命的技術を最も適用できるアプリケーションやワークロードを特定するためには、さらなる研究が必要です。

これらの障壁にもかかわらず、学術界と産業界の双方がSHMTの有望な初期結果に注目しています。研究が進み協力が確立されるにつれ、この画期的な技術がコンピュータ産業を変革する可能性はますます魅力的になっています。

他の多くの優れたアイデアと同様に、同時・異種マルチスレッディングは常識的な発想の産物のように思えますが、実際には細部に課題があります。CPUとGPU間で共有キャッシュを持つという考えは興味深いものの、ハードウェアアーキテクチャの全面的な見直しが必要になる可能性があります。

これは現在のx86-64アーキテクチャから離れることを意味し、共有L3またはL4キャッシュを備えた新しいプロセッサアーキテクチャの開発が必要となります。結果としてCPUの複雑性が増し、共有キャッシュから得られる利益が相殺される可能性があります。

さらに、キャッシュメモリは通常システムRAMに比べてはるかに小さく、GPUアプリケーションが必要とする大量の高帯域メモリには適していません。しかし、ユニバーサルメモリのような開発がこれらの懸念に対処できる可能性があります。SHMTに関する研究が進むにつれ、この革新的な技術がどのように進化し、並列処理と異種コンピューティングの未来にどのような影響を与えるかが楽しみです。