2024年3月に行われた、エヌビディアのテクノロジーカンファレンス「GTC 2024」。これは、エヌビディアが「生成AI」を中心軸として数々の最新技術を発表する毎年恒例のイベントです。
今回のレポートでは、「GTC2024」で特に注目すべきGPUの新製品「GB200 NVL72 COMPUTE RACKS」と、「Unstructured Data」について、半導体分野専門のプロのファンドマネージャーが解説します。
投資での資産形成をお考えの方も、既に投資を始められている方も、ご自身の知識と照らし合わせながらご覧ください。
(Fund Garage編集部）
右肩上がりのビジネス・トレンド
エヌビディアの「GTC2024」、ジャンセンCEOが心砕いて説明した新製品
今年も例年通り、3月19日〜22日にかけてエヌビディア（NVDA）のGPU Technology Conferenceこと「GTC2024」が、米カリフォルニア州サンノゼで開催された。
前回の決算発表の時もそうだったのだが、ジャンセンCEOがプレゼンテーションをする際、最近非常に気にしているなと感じるのは「エヌビディアが何を作っている会社なのかを正確に分かってもらう」ということのように感じる。
だからまず、エヌビディアは何を作っている会社かという、その答えをお見せする。
（今回使用する画像はすべて、GTC2024基調講演の動画からのスクリーンショットになります。）
上の写真にあるサーバーラック一式が、今回のGTC2024の基調講演でエヌビディアが発表した新製品だ。名前は、「GB200 NVL72 COMPUTE RACKS」。この中には、
- GPUチップ：576個
- Armアーキテクチャで作られた最高性能のCPU「Grace CPU」：288個
- それらを繋ぐネットワークを構築するための半導体を含むシステム一式
が搭載されている。そして、黒いラックの下に見える赤と青のパイプは、このラックを冷却する水冷システムだ。
しかし、これだけではまだ終わらない。
下の写真は、このGB200 NVL72 COMPUTE RACKSを56台集めた分に相当する32,000個のGPUを繋げて、とんでもない演算能力を出せるようにした様子だ。ちなみに、スーパーコンピューターの「富岳」には16万個のCPUが搭載されているので、ちょうどその5分の1に相当することになる。これが今のデータセンター、最先端のコンピューティング能力の世界なのだ。
ここで、ベースとなる半導体そのものを見てみよう（下の写真）。白枠で囲んだ上の部分が、GPUチップの部分である。このGPUチップには、1個につき2個のシリコンチップが搭載されている。つまり、ひとつのGrace CPU（下の白枠）につき4個のシリコンチップが繋がれているということだ。それが、このGrace CPUとNVLink技術によって繋がって、ひとつのモジュールの上に載っている。なお、チップ間の金線はデータの流れを示しているもので、実在はしない。
以下がその、モジュールに載った段階での状態。
そして次に出てきたのが、また別の役目をするボードだ。これには、Infinibandのネットワークインターフェースカード（NIC）が搭載されている。このモジュールは「Bluefield-3 DPU」と呼ばれ、前々回の無料記事「ブロードコムのAI半導体と仮想化技術」でご紹介したブロードコムの「Jericho3-AI」というASICチップの仲間である。
さらに、NICの反対側には、「NVLINK SWITCH CHIP」というのが2個ずつ搭載される。そしてこのトレイ（ブレードと呼ぶのが一般的だ）が、18段重ねられて合計72個のGPUがひとつのラックに搭載されたものが、下の写真の状態となる。
エヌビディアの「InfiniBand」と「NVLink」とは？
大きなシステムを一括して、ジャンセンCEOは冒頭で「We need much much bigger GPU（我々にはもっともっと大きなGPUが必要だ）」と言っていたが、これらがひとつになって稼働するためには、GPU技術以外にも多くの技術が必要となる。
その重要な技術のひとつがネットワーク技術であり、それが「InfiniBand」と「NVLink」だ。
InfiniBand
高いデータ転送速度と低いレイテンシが特徴の接続技術のこと。主にサーバーやストレージデバイス間の接続に使用され、例えばデータセンターでの効率的なデータ転送が可能。
NVLink
エヌビディアが独自開発した高速データ通信で、AI・ディープラーニング・高性能コンピューティングの分野でGPUの能力を最大限に活用するために設計された。主に、GPU間やGPUとCPU間のデータ転送を高速化することを目的とする。
以上のように、InfiniBandとNVLink、どちらもコンピュータシステム内またはシステム間でのデータ転送を高速化するために設計された技術だが、それぞれに独自の特徴と利用シナリオがあることが分かる。つまり、ネットワーク技術とか、ネットワーク用の半導体と言っても、どのネットワークのことなのかということで、専門も変わってくるのだ。
もっと簡単に例えるならば、「Infinibandは、パソコン同士やインターネットにパソコンを繋ぐLANのようなもの」、そして「NVLinkは、パソコンのマザーボード上で、CPUとGPUやメモリーなどを繋いでいるネットワーク技術」だと言えよう。
爆発的に増える「Unstructured Data」
GTC2024の話題のひとつに、「Unstructured Data」があった。
「Unstructured Data」とは、「非構造化データ」という意味で、一定の形式やモデルに従わないデータのこと。反対に、構造化されたデータは「Strucutured Data」と呼ばれ、データベース内の表やカラムに整理されたデータのことを言う。身近な例を挙げると、WordやPDFのデータは「Unstructured Data」で、Excelのデータは「Strucutured Data」だ。
そして、この「Unstructured Data」は今後急増すると考えられている。なぜなら、現在のAIはなんでも学習しないとならず、そのために、ありとあらゆるものをデジタイズ（アナログ方式の媒体に記録された情報をデジタルデータに変換）する必要があるからだ。
ここで重要なのは、高度なAIシステムが発達すると、どんなことが可能になるのかということである。
その事例の一つとして、「Earth-2」というデジタルプラットフォームを使えば、台風の予想進路などを極めて正確に予測することなども可能になるという。実際の映像が紹介されていたので、ぜひ皆さんにも見ていただきたい。
これからのAIというのは、優秀なチャットの話し相手（ChatGPTなど）で終わるわけはないということが肌で感じられた今回のGTC2024であった。
まとめ
いかがでしたでしょうか。今回は、約2時間に及ぶ エヌビディアのGTC2024基調講演の中から、特に注目に値する新技術をまとめてお伝えしました。
お時間がある方は、ぜひ本編（こちらからどうぞ）もご覧になってみてください。
FG Premium Reportでは、毎号リアルタイムでこのような最新情報をお伝えしています。株式市場は、その時々の情勢を受けて敏感に変動するものであり、情報を丁寧に追っていくことが投資を成功に導く秘訣です。今後もFundGarageは、投資家の皆さまをサポートしてまいりますので、ぜひ一緒に楽しく投資活動をしましょう。
編集部後記
こちらは、Fund Garageプレミアム会員専用の「プレミアム・レポート」の再編集版記事です。
公開から半年以上経った記事になりますので、現在の情勢とは異なる部分がございます。当時の市場の空気と、普遍的な知見の皆様にお届けできれば幸いです。
また、こちらは無料版記事のため、最新の情報や個別企業の解説についてはカットしております。
<FG Free Report では割愛>となっている箇所に関心をお持ちになられた方は、是非、下記ご案内よりプレミアム会員にお申し込みください。
有料版のご案内
Fund Garageのプレミアム会員専用の「プレミアム・レポート」では、個別銘柄の買い推奨などは特に行いません。
これは投資家と銘柄との相性もあるからです。「お宝銘柄レポート」とは違うことは予めお断りしておきます。お伝えするのは注目のビジネス・トレンドとその動向がメインで、それをどうやってフォローしているかなどを毎週お伝えしています。
勿論、多くのヒントになるアイデアは沢山含まれていますし、技術動向などもなるたけ分り易くお伝えしています。そうすることで、自然とビジネス・トレンドを見て、安心して長期投資を続けられるノウハウを身につけて貰うお手伝いをするのがFund Garageの「プレミアム会員専用プレミアム・レポート」です。
