NTTドコモビジネス株式会社(旧 NTTコミュニケーションズ株式会社、以下 NTTドコモビジネス)は、低遅延・高速大容量通信を実現するネットワークIOWN(R) APN※1を活用し、全国に分散配置されたGPUリソースを1つのプラットフォームのように利用できる全国広域分散GPU実証環境「GPU over APN※2 Testbed」(以下 本実証環境)の提供を開始しました。本実証環境は、札幌、金沢、福岡、大阪、首都圏４ヶ所の計8拠点にGPUを分散配置し、分散AI学習や分散AI推論、RDMA※3を活用した拠点間の大容量データ転送などの先進的なAIワークロード※4を、100Gbps級の低遅延・高速大容量通信とGPU環境で検証できるものです。これにより、分散されたGPUリソースの活用を『体験できる』共同実証の場としてお客さまに提供します。
本実証環境の提供を通じて、NTTグループのAIネイティブインフラである「AIOWN※5」の中核の一つである「AI-Centric ICTプラットフォーム(R)」構想※6の実現を推進します。
< 「AI-Centric ICTプラットフォーム(R)」構想のイメージ>
1．背景
生成AI、データ利活用、画像処理などの分野でGPUクラスタの重要性が高まる中、従来の単一データセンターでは、生成AIのモデルサイズ増大による処理量の変動やリソース確保の制約、データセンターごとのキャパシティや電力供給の制限に応じた運用が求められるなど、さまざまな課題が存在します。これらの課題に対して、データセンターの分散化が注目されており、各地に点在する大量データの高速な同期および転送が必要となっています。NTTドコモビジネスは、従来の単一データセンター構成の課題に対する新たな取り組みとして、IOWN(R) APNを活用し、地理的に離れた場所に配置されたGPUを遅延無く一体的に利用するGPUクラスタの実証実験を進めてきました。
本実証環境の提供を通じて、NTTグループのAIネイティブインフラである「AIOWN※5」の中核の一つである「AI-Centric ICTプラットフォーム(R)」構想※6の実現を推進します。
< 「AI-Centric ICTプラットフォーム(R)」構想のイメージ>
1．背景
生成AI、データ利活用、画像処理などの分野でGPUクラスタの重要性が高まる中、従来の単一データセンターでは、生成AIのモデルサイズ増大による処理量の変動やリソース確保の制約、データセンターごとのキャパシティや電力供給の制限に応じた運用が求められるなど、さまざまな課題が存在します。これらの課題に対して、データセンターの分散化が注目されており、各地に点在する大量データの高速な同期および転送が必要となっています。NTTドコモビジネスは、従来の単一データセンター構成の課題に対する新たな取り組みとして、IOWN(R) APNを活用し、地理的に離れた場所に配置されたGPUを遅延無く一体的に利用するGPUクラスタの実証実験を進めてきました。