なぜ志賀町にGPUデータセンターを建設したのか?:「電気代」「気候」「自治体の態勢」の3条件
なぜ、「GPUデータセンター」ビジネスなのだろうか。ハイレゾの代表取締役社長である志倉氏を突き動かしたものは何か。
ハイレゾは、当初、ソーシャルゲーム(オンラインゲーム)が普及し始めたころ、ゲームのグラフィックに関する受注ビジネスをしていた。ところが、ある時点から一気にソーシャルゲーム(SNS)時代が到来し、ソーシャルゲームの大規模開発時代に移行した。しかし、ソーシャルゲームが普及する一方、その利益率は厳しくなってきた。
「そこで思案していたところ、当時、弊社が使用しているGPUサーバを、お客さんに貸し出ししていたのですが、そのお客さんからGPUサーバをずっと借りたいという要望が強くなってきたのです。このことが、画像処理に特化したGPUデータセンター(特化型データセンター)を始めたきっかけとなりました」と、志倉氏はGPUデータセンタービジネスをスタートした背景を語った。
続いて志倉氏は、GPUデータセンターを石川県羽咋市に設置したことについて、「その最大の理由は、まず電気代が安い点です。私たちの経験からGPUサーバは電力消費が極端に多い(後述)ので、将来、大量のGPUサーバをデータセンターに設置すると、凄まじく高い電気代になることが予想されました。志賀町は、志賀原子力発電所注8もあって電気の地産地消の意味合いから、また国の助成金などもあったため、日本で一番電気代が安い地域であった志賀町が有力な候補となりました」と語った。
さらに、データセンターを冷却する面から気候の問題注9や、工業団地など自治体の受け入れ態勢も重視した。そして最後の決め手になったのは、町役場の若い担当者の積極的な誘致であったという。すなわち、「電気代」「気候」「町の受け入れ態勢・担当者の熱意」の3点が、志賀町を選んだ大きな理由となった。
特化型データセンターとは
データセンターというと、これまで「ホスティング」注10や「コロケーション」注11が一般的なイメージであったが、クラウドコンピューティング時代を迎えて、クラウドサーバやクラウドストレージ(データをクラウド上のハードディスクに保存するサーバ)に加えて、画像処理に特化したGPUサーバなどが登場し、データセンターに設置されるサーバも多種多様になってきている。このようなデータセンターは、「特化型データセンター」といわれる。
例えば、ハードディスクでデータを保存するようなサーバと、ハイレゾが提供するようなコンピューティング(計算)用のサーバは、分類でいえば同じサーバでも、機能はかなり異なっている。日本では、このように異なるサーバ群をすべて一緒に格納して管理するようなデータセンターの形態が多い。しかし、本当の意味でデータセンターの効率性などを考慮すると、それらを適切な形で分けて管理するほうがコストパフォーマンスがよくなるといわれている。
「最近、海外ではもうそういう方向になってきています。要は、機能が異なるʻハードディスクのサーバ群ʼとʻGPUのサーバ群ʼを一緒にデータセンターに置いたら、当然両方の管理・運用が必要になります。この場合はコストがどんどん上がってしまう。そこで、これらを分離して管理することによって、コストを下げて効率化していくのが、特化型データセンターという形態なのです」(志倉氏)。
同社の技術顧問であり、株式会社スパイラルグループ・ドット・ビズ注12の代表取締役の藤巻 秀明氏は、特化型データセンターについて、「特化型データセンターは、大きく3つに分類できます。1つは、ハイレゾのように、いわゆるHPC(高性能コンピュータ)やAIに特化したデータセンター。2つ目は、ストレージに特化したデータセンターで、ハイレゾと協業しているWasabi(わさび)テクノロジーズジャパン合同会社やFacebook等です。3つ目は、同じストレージ型ですが、コールドストレージという、いわゆるアーカイブデータ(何年も長期保存アクセスがほとんどないようなデータ)向けに特化したデータセンターです」と述べた。
これらの特化型データセンター以外に、日本でよく知られている多くの一般的なデータセンター(コロケーション)、また最近続々と登場し主流となってきている、クラウド基盤を中心としたデータセンター(これを特化型というには数が多すぎてふさわしくない)がある。志倉氏は、「今後、データセンターは、提供するサービスによって分類されていくものと感じています」と語る。
特化型データセンターと消費電力、冷却
藤巻氏は、データセンターについて、その心臓部の1つである「冷却の視点」から次のように分析した。
「データセンターを冷却という観点で見たとき、例えばハイレゾのデータセンターでは、表4にも示すように、ラック注13当たりの消費電力は、設計上は30kVA(≒30kW)で設計しています。日本の一般的なデータセンターの消費電力は、これよりかなり低いラック当たり4kVA〜9kVAで、少し高発熱のところでも12kVAくらいが普通です。ですから30kVAはかなり大きな消費電力なので、一般的なデータセンターに30kVAのラックを入れようとすると、そのラックはホットスポット(特異な高温発熱領域)になってしまうのです。これをきちんと冷却しようとすると、4kVA〜9kVAなどの低消費電力のラックは過冷却になってしまうのです。当然、その過冷却の部分は電気代がもったいないわけです。それに対してハイレゾのデータセンターの場合は、30kVAのGPU専用サーバだけを集めたラックにして、それに最適な冷却をするというコンセプトになっています。これは非常に効率がよく、結果的にカーボンニュートラルの方向にもつながるのです。」
表4 従来型のデータセンターとハイレゾのDC2の比較
CRAC(クラック):Computer Room Air Conditioner:コンピュータ室の空調設備(冷媒とコンプレッサを使用して空気を冷却する)
CRAH(クロー):Computer Room Air Handler:コンピュータルーム用エアハンドリング・ユニット(熱交換器を通る冷水を使用して、熱交換器を流れる空気を冷却)
Δt(デルタ・ティ):サーバの吸い込み側と吹き出し側の温度差(表4では20℃を許容するゆるい設計になっている)
出所 株式会社ハイレゾ「株式会社ハイレゾ –会社事業概要のご紹介–」、2022年9月1日
ハイレゾのDC1、DC2の特徴
〔1〕DC1、DC2ともに空冷による冷却方式
次に、ハイレゾのDC1、DC2の特徴を概観してみよう。
前出の表3に示したように、DC1には、NVIDIAとAMDのGPU(画像処理用プロセッサ)を使用したサーバ1,200台(GPUカードが6,000枚)が格納され、DC2においても、同じGPUを使用したサーバ2,000台(GPUカードが10,000枚)が格納されている。
データセンターの重要な指標であるPUEは、DC1で「1.01」と驚異的な実績値を実現、DC2のPUEは動き出したばかりだが、DC2以上の実績値が期待できる。
志倉氏は、「DC1、DC2はともに外空冷という、外の空気を取り入れ、いかに早く外に出すかという形の冷却方式です。DC1は、もともとあった工場を改造してつくったので、単純に空気を入れ替える古い方式(正面から空気を入れて後ろから吐き出す方式)になっています。一方のDC2は、前出の図2に示した通り、横から送風機で空気を入れて上に出すような仕組みになっています。このように空気の流れを効率化することで、理論的にはデータセンター内は、外気の温度に近くなっていきます。ただ送風機は使用しますが、クーラーなどの空調設備は使用しない、省電力型の冷却方式になっています」と述べた。
これを受けて藤巻氏は、「ハイレゾ社が参考にしたデータセンターは2つあります。1つ目が、米国の旧ヤフーのデータセンターです。風の流れなどを参考にしました。もう1つは、米国カリフォルニア州サンノゼにあるインテルのデータセンターです。高発熱のラックを上手に冷やすという面から参考にしました。しかし、日本は米国とは気候が違いますし、建物の構造も違います。前出の図2に示したように、DC2は、少し変わった独自の冷却方式になっていますが、あくまでも基本的な考え方は、いかにスムーズに風を流すか、そして暖かい空気を外に出すか、という点です」と、海外の動向を参考にして設計したことを説明した。
〔2〕DC2の風速は秒速3m未満に設計
今回、新設されたDC2では、ラック当たり30kVAという高発熱の設計になっている。この設計にあたって、30kVAのラックを冷却するためには、必要な風量を計算し、その風量を確保する。このとき、単純に風量を確保しようとすると、サーバ室で人間が作業するのに適さないほど風速が早くなってしまう。
そこで、いろいろ検討した結果、特にDC2では、風速をコールドアイル(サーバなどを冷却するための冷たい空気の通路)で、秒速3m未満に調整することを基本的なコンセプトにしている。そのために、かなり大きなチャンバー室注14を設け、ここに外から大型ファンで空気を吸い込み、チャンバー室で風速が秒速3m未満になるように調整している。これが、他の同じクラスのデータセンターと比べて特徴的な点となっている。
「このような発想自体は、昔からあったものですが、ただ今日まで、日本で誰もやったことがなかった、という点が肝だったのかなと思います。日本には技術的な参考文献や、前例などがまったくなかったので、私たちも藤巻さんと相談しながら手探りで行いました。ですから、DC1、DC2は大きな実験のような形にもなっています」(志倉氏)。
▼ 注8
志賀原子力発電所:1号機「54万kW」(1993年7月運転開始)、2号機:135万8千kW(2006年3月運転開始)
▼ 注9
日本海側に位置する北陸地方の気候は、例えば、東京に比べると夏は比較的涼しく冬の気温はかなり低い。気温は低いが、冬は東京で空気が乾燥するのと比べて、北陸地方は湿度が高い。そのような北陸地方の気候を把握・分析したうえで、1年を通して冷却できるようなデータセンターの設計を、実証実験をしながら取り組んできた。ちなみに太平洋側は、夏場に高温多湿になるので、空調機を使わざるを得なくなり、外気の導入による冷却方法は夏場に活用できないという。
▼ 注10
ホスティング:Hosting、レンタルサーバ。顧客にサーバをリースすること。
▼ 注11
コロケーション:Co-location、顧客のサーバを設置する場所をリースすること。
▼ 注12
株式会社スパイラルグループ・ドット・ビズ:データセンター、ICTのコンサルティング会社。所在地:〒107-0062 東京都港区南青山2-22-14 フォンテ青山202、設立:2017年7月14日
▼ 注13
ラック:Rack。データセンターにおけるサーバやルータなどのIT機器を収容するための専用の棚。いろいろなサイズがある。
▼ 注14
チャンバー室:室外からの空気を取り込んで室内に給気を行うと同時に、室内の空気を屋外に排気する役割をもつ場所。