[スタートアップ紹介Vol.57]Habana
AI アプリケーション向けの半導体を開発しており、2019 年に約 20 億ドルで Intel が買収している。
イスラテックインターンが、今回は 「 Habana 」について、代表加藤に伺います。
Habanaはどんな会社でしょうか？
他のAIスタートアップと大きく異なるポイントなどあれば教えてください。
同社が提供する AI Training Systems とは何でしょうか？
Habanaは、AIと機械学習のワークロードを対象とした、GaudiAI トレーニングプロセッサと GoyaAI 推論プロセッサと呼ばれる 2 つのシリコン製品を提供しています。
前者は、「ハイパースケール」環境向けに最適化されており、チップあたりのエネルギーの半分（ 140 ワット）で、同等数のグラフィックチップで構築されたシステムと比較した場合に、最大で 4 倍のスループットを提供するデータセンターに電力を供給することが期待されています。
また後者の Goya プロセッサは、スループットとレイテンシが関係する、Nvidia チップの最大 3 倍の AI 推論パフォーマンスを提供することができるようです。
素人なのでその凄さがいまいちわからないのですが、上記のように演算処理などの速度が上がる事によってどのようなメリットがあるのですか？
自動運転、5G、6G 等々、高速に大量の情報を処理する必要があり、CPUの処理能力自体が高いことは、それだけ大規模データを瞬時に処理できることにつながります。これが、一番の価値です。Habana の性能面についてお話しますね。
トレーニングに使用されるプロセッサは、多くのフロップ（主に 32 ビットおよび 64 ビット浮動小数点の種類）を提供し、大量のメモリにアクセスでき（高速で優れている）、スケールアウトできる必要があります。大規模なマルチノードシステム（理想的には高性能 RDMA ネットワークを使用）。推論プロセッサは、妥当な量の数学的パフォーマンス（低精度の浮動小数点と整数の組み合わせを使用）、中程度の量のメモリ、および遅延隠蔽機能をすべて比較的低電力で提供する必要があります。
結構専門的な内容になってきましたね…。
Goya について、複雑ですが、ざっと説明します。Goya シリコンは、標準のデータセンターサーバーに接続するためのPCI-Express4.0 カードに包まれています。200 ワットのTDPがハイサイドですが、通常の使用時の消費電力は 100 ～ 140 の範囲であると考えられます。このカードは現在一般的に入手可能であり、商業生産で数少ないカスタムビルドの推論カードの 1 つです。
10 のバッチサイズを使用すると、1 ミリ秒の遅延で 1 秒あたり 15,000イメージを超える速度で ResNet-50 推論を実行できます。より複雑な推論タスクでは、この場合、自然言語処理（NLP）用の BERT モデルを使用して、Goya は 1 つの文が 2 番目の文の答えであるかどうかを判断するために 1,273 のスループットを提供できます。レイテンシー(待ち時間)は、バッチサイズ 12 を使用して、9.4 ミリ秒のレイテンシーです。0.01 秒かかっていないということです。
スーパーコンピューター「京」のようなシステムとはまた異なるものなのでしょうか？
「計算速度を速めることと」「実装できること」「それ相応のコスト」ということになります。実装するには、ある程度高スペック（これでもかなり高スペック）であれば、「京」「富岳」のようにハイスペックすぎて、効果であるよりも、ある程度スペックがあって、それ相応の値段である必要があります。
Habana は、実装していく（実用できる形に）をプロセッサプラットフォーム、アーキテクチャ全体で実現しようと目論んでいるように感じられます。
この企業を買収したインテルの狙いは何でしょうか？
上記で少し答えてしまいましたが、Habana Labs の買収は、インテリジェントエッジからデータセンターまで、あらゆるパフォーマンスニーズに適合するソリューションを顧客に提供するという Intel の AI 戦略を前進させるのに役立つと考えられました。Habanaは、データセンター向けのインテルの AI 製品を、進化する AI コンピューティング要件に対応するための高性能トレーニングプロセッサーファミリーと標準ベースのプログラミング環境によって強化しています。
スマホのプロセッサで、ARM に後塵を拝したので、AI のプロセッサでは、後れを取るまいという意識が感じ取れます。
なるほど、Intel も欲しくなる技術がイスラエルからもまだまだ出てきていますね。
本日はありがとうございました。
※イスラエルでは、こうしたスタートアップが 6000 社以上存在するといわれております。
弊社では、こうした企業の調査、目利きを行っておりますので、お気軽にお問い合わせください。
お問合せ先：お問合せフォーム