FG Free Report “賢いAI”から“止まらないAI”へ──常時推論を支える三原則(12月29日号抜粋)

Facebook
Twitter
INDEX

AIの価値は、モデルの賢さやGPUの性能だけでは測れない段階に入りつつあります。

企業の業務に埋め込まれ、24時間動き続ける「常時推論AI」では、何よりも止めずに運用できることが重要になるからです。

今回は、その前提となる三原則「守る・覚える・つなぐ」を、プロのファンドマネージャーが提唱します。

投資での資産形成をお考えの方も、既に投資を始められている方も、ご自身の知識と照らし合わせながらご覧ください。

(Fund Garage編集部)

常時推論AIに不可欠な三原則

AIは新たなフェーズへ──常時推論を理解する

多くの投資家にとってAIは、いまだに“イベント”として理解されている。チャットを開いて質問し、返ってきた答えに驚く。画像が生成され、文章が整い、情報が要約される。こうした体験は分かりやすいし、技術進歩が確かに実感できる。

しかし企業の側で収益に直結し始めているAIは、上記ような「イベント駆動AI」だけではない。静かに、しかし確実に広がっているのは、AIが業務の内部に埋め込まれ、止められない運用として24時間365日回り続ける「常時推AI」だ。

イベント駆動のAI体験は、基本的に「止めても困らない」領域に属する。試してみる、便利だから使う、気に入らなければやめるといった具合に。ところが常時推論は、業務に埋め込まれた瞬間に、止まることが許されなくなる。なぜなら、監視・需給・在庫・サイバー防御・工場の最適化・物流…といった領域では、AIは「あったら便利」ではなく、「止まると損失が出る」側へ寄っていくからだ。

これが、もはやAIを「モデルの進歩」や「GPUの世代交代」のひとことでは回収できなくなっている所以である。もちろん計算は重要であり、モデルも進歩し続けるだろう。しかし常時推論が増えれば増えるほど、必要なのは瞬間最大風速ではなく稼働率だ。つまり、最先端の大モデルを一度高速で回すことより、そこそこのモデルでも止めずに回し続け、業務の結果が積み上がることの方が企業にとっての価値となるのだ。これを踏まえると、AI投資の焦点は自然に変わってくるはずだ。

止めないAIの三原則(守る・覚える・つなぐ)──“賢さ”ではなく“止まらなさ”が価値になる

そこで、常時推論を整理するために、三原則を置こう。それは、「守れること、覚えられること、つなげること」である。

これらはどれも、企業が本番運用に上げるための最低条件であり、どれか一つでも欠けるとAIは「デモは動くが、業務は止まる」という状態に陥ってしまう。多くの投資家がAIを「GPUが売れるかどうか」だけで語ってしまうのは、結局この三原則を見ていないからに他ならない。

守れること:サイバーと“AIエージェントのID”──ここを曖昧にすると企業導入は成立しない

常時推論の三原則のうち、最初に壁として立ちはだかるのが「守れること」である。ここで言う守るとは、ウイルス対策ソフトを入れる、といった一般論ではない。何度も言うように、常時推論は業務に埋め込まれ、止められない運用として回り続けるAIだ。それに合わせて攻撃側も、AIを使って自動化する動きを見せ始めている。ゆえに防御側も、検知・判定・隔離・復旧の一連の「守り」を、止めない前提で半自動化しなければならない

ここで決定的に重要になるのが、AIエージェントのID管理だ。誰がログインし、どの権限で、どのデータに触れたかといった人間のID管理は、長い時間をかけて企業が整備してきた。しかしAIエージェントが業務を代行するようになると、「どのエージェントが、どの権限で、どのデータに触れ、何を実行したか」と主語が変わるのだ。

このIDを曖昧にしたまま常時推論を導入すると、企業は二重に詰む。第一に、セキュリティ事故のときに原因究明ができない。第二に、事故が起きていなくても監査とガバナンスで止まる。エージェントが実行した処理を、後から追跡できるログがなければ、そもそも本番環境に上げられない。人間で言えば、社員証も無い、権限表も無い、入退室記録も無い状態で、重要業務を任せるようなものだ。ここが、常時推論が“技術”であると同時に“制度実装”でもある理由である。

守れることの本質は、守秘の話だけではない。責任を成立させる話である。常時推論が広がるほど、ゼロトラスト(内部も外部も信用しない前提で検証する考え方)、最小権限(必要最小限の権限だけを与える設計)、鍵の管理とローテーション、実行の監査証跡といった、地味だが逃げられない実務が重要になる。

AIエージェントには、人間のMFA(多要素認証)をそのまま当てはめられない。だから代わりに、どのエージェントがどの環境で稼働し、どのAPIに接続し、どのデータにアクセスし、どの範囲まで実行して良いかを、機械的に縛る必要がある。縛りが弱ければ、攻撃者はそこを突く。縛りが強すぎれば、業務が回らない。企業導入の成否は、このバランス設計にかかる。だから「守れること」は、セキュリティ部門の話に見えて、実は経営の運用設計の話でもあるのだ。

編集部後記