スポンサーリンク
携帯電話キャリアのソフトバンクは固定電話だけでなく最近はデータセンタも提供している。最近話題のGPUリソースを時間貸しする、AIデータセンターをクラウドサービスとして提供した。これにより高性能GPUを買うことなく利用が可能になる。
IT業界に関するニュースのまとめはこちら。
SOFTBANKの親会社はソフトバンクグループだが、こちらは投資会社としてOpenAIとも付き合いがある。
AI関連株として最近は株価が爆上り中だ。
子会社のソフトバンクの方はAIについてはあまり活発ではなかったが、ここにきて大きなものを出してきた。AIデータセンタだ。
AIデータセンター GPUサーバー ソフトバンク 2510 出典：ソフトバンク 以下同じ
従来のクラウドサービスはインテルx86アーキテクチャをベースにした、仮想マシンを時間貸しして、ここにストレージなどのリソースをつけていた。awsのEC2 が代表例だろう。
ここに対してGPUを周辺機器としてアタッチし、オプション料金でAI用途にクラウドサービスを使うことができるサービスが出ている。GoogleのGCPや無料で使えるColabのようなものだ。
しかしこれらはCPUリソースを主とした従来方法の延長戦なので、GPUの効率活用とは程遠い。AI向けにいろいろチューニングしたAIデータセンタがもともられている。
AIデータセンター GPUサーバー ソフトバンク 2510
ソフトバンクが提供しているAIデータセンタのサービス仕様は上表のとおりだ。
H100プランの特徴を見ていこう。
つまり、GCPやColabではせいぜい1つのGPUを使える程度だったが、このAIデータセンタでは総計640GBのメモリを持つGPU8基が高速なInfiniBandでつながって動作することができる。RDMAも使えるのだろう。
1つのGPUでは性能あるいはメモリの都合で処理できないようなLLM、あるいは画像生成がこのシステムならとんでもない性能で処理できるのだろう。
ただし料金は要問合せとなっているので、1時間で数十万円、なんてことなのかもしれない。
最近データセンタが多く建てられているが、その多くはGPUを載せたサーバを設置して従来型のクラウドサービスを提供するものだ。
これがソフトバンクのAIデータセンタのように、GPUに最適化したサーバ、ネットワーク構成に変えて、AI用途に特化した需要にこたえるサーバに替える。もちろん投資する金額は従来型よりも多いのだが、需要は増える一方で投資もどんどん集まっていく。
そのうち従来型のクラウドを提供するデータセンタもAIデータセンタに切り替わっていくのだろう。
しかしそうなったら電力供給、排熱による周辺への環境の影響など、考えることは多い。特に安定した電力供給のめどが立たないと、大停電を招きかねない。
しばらくは過渡期なのだろうな。
PR
>> 
" >
