Moi！こんにちは、ロニーです。
夏ですね。
先週八丈島に行ってきたのでそのことも書きたいのですが、
その前に書きかけだった技術系の記事のネタを書きます。
専門的なので、IT関係者向けですね。
なぜ「サーバ自身のためのAI」は存在しないのか
クライアントにはAIがあるのに、サーバにはない
今まで使っていたあらゆるソフト、SaaSサービスなどにAIが組み込まれるようになりました。
エディタも、ブラウザも、デスクトップアプリも。
僕にとって身近なものだと例えばWindowsの各アプリからすぐアクセスできるCopilot。
Edgeブラウザ、エクセルなどのOffice製品、Outlook(メール・カレンダー)などなど。
勝手に出てきて鬱陶しいものとしてはLINEがダントツ。毎月表示を消してます。
便利そうだけど使ってないやつだとPDFを開くAcrobat Readerとか。
GoogleMap、Gメールなどはうまい具合に一体化していて便利。
それとエージェントとしてはClaude Codeを、
またエディタとしてはCursorを毎日ずっと使っています。
でも、サーバの側にはそれがいない
例えばWebサーバやアプリケーションサーバの上に、軽量な小型AIが常駐して、
セキュリティを見張ったり、ログを監視して修正やアップデートを提案したり、運用の相談に乗ってくれる——そんなサービスをまだ耳にしていません。
エッジAI(IoT/デバイス上の小型モデル)という概念はあるのに、
「サーバ自身のためのAI」という同じ発想はなぜか聞かない。なぜだろう。
サーバ外から見ている、「AI SRE」は存在するのに
今年2026年から、AI SREというカテゴリーが出てきました。
SRE(Site Reliability Engineering)というのは、
システムの信頼性と開発効率をどちらも落とさずに運用管理する方法論です。
僕が今後、エンジニアとして働くことを狙っている領域です。
雑に言えばSREにAIを組み込もう、というのがAI SREです。
日々、システムは攻撃やバグや人為的ミスや故障などに晒されているが、
日常の一部となっているシステムが止まるとエライことになります。
そこで我々エンジニア達が日々保守運用したりアップグレードしたりしているわけですが、
そこにもAIがガッツリ入って来るようになりました。
システムの各種状況をチェックする、Datadogという一連のツールがあります。
そしてDatadogに似たようなツールもいっぱいあります。
こういったものにAIを組み込んだサービスが次から次へと出てきました。
ガートナーという、ITを中心に、企業に助言をしたりする世界的な有名な会社がありますが、
そのガートナーが、AI SREが乱立しているけど、適切なものを選ぼうね、と提言しています。
AI SREツールが行うのは、
ログを診断したり、対応策を考えてくれたり、優先順位付けしてくれたりというところ。
こうしたAI SREツールの普及は今後もどんどん進むことでしょうけど、
推論を行うAI自体は、監視対象のサーバ内ではなく、集権する中央部分にいる。
つまり「分析は外部から」。
なぜ中からではないのだろう？
「サーバ自身の中に住むAI」 がいない理由
サーバの外側からサーバを見るAIサービスは存在するのに、
サーバ内に住むAIがいない。
その理由を考えてみます。仮説A～Eの5つが浮かびました。
仮説A: コンテナ化への逆行
この10年の流れは、手厚く管理するサーバから、使い捨てのコンテナへと置き換えられたものでした。
古い比喩表現だと「pets→cattle」とも呼ばれていたもの。
一体一体大事に作って管理し最大限延命するサーバに対し、
必要な機能のみを搭載したシンプルなVM(コンテナ、ポッドなど)をさっと作って、
不要になったり古くなったり壊れたりしたらすぐ廃棄して、新しく作るという傾向の変化。
これに逆行するからでは、というのが1つめの仮説です。
サーバに固有の知能を常駐させると、
そのサーバは「唯一無二の状態を持つインスタンス」に逆戻りしてしまいます。
IaC/コンテナ化が進むほど、常駐知能の居場所として、インスタンス内は適さなくなっていきます。
AIって、しばらく使い続けることで育ちますよね。
ユーザの望むリズムやルール、クセのようなものを把握してメモリに追加し、
より使いやすくなっていく。
これを毎回ビルドアンドスクラップしてたら中々育たないし、
個別のユーザ毎に最適化した方がいいAIと、一貫性があって汎用性があってイミュータブルなコンテナ系のアーキテクチャは相性が悪い。
またエッジAIのような小型軽量なLLMを積むことは出来るだろうが、
さすがにコンテナのように量産するには重いのではなかろうか。
仮説B: コスパと中央集権に負ける
各サーバ全部に搭載するより、
中央のステーション型AIがエージェント経由で面倒を見る方が、効率的です。
これは分散システムの定石(control planeとdata planeの分離)そのもので、
現行のAI SREツールはすでにこの設計です。
なぜそういう仕組みが流行ったかって、そっちの方が効率的だからでしょう。
VMware上のVMをvCenterで管理するとか、
Zabbixエージェントからの情報をZabbixサーバが集めるとか、
様々なメトリクスをDatadog、ElasticSearch、CloudWatchといったサービスが集めるというのは全部同じ流れです。
AIも結局それに乗っちゃう方が、安上がりなのだろう。
仮説C: セキュリティリスク
普通に、AIの新陳代謝が速すぎる。
毎日大幅にアップデートされ、新しいサービスが登場し、モデルのレベルが上がってゆく昨今。
どうしても人が管理するにはスピードのギャップが大きすぎてしまうんですね。
サーバって、ユーザが意識せず縁の下で粛々と動き続けることに意義があります。
それが毎週アップデートが必用だとか、モデルが日に日に変わっていくとかしたら、
毎日注視して管理しないとすぐに不具合が起きてしまうでしょう。
当然攻撃も多い。
そんな状況で、データを保持したり、ミッションクリティカルな「インフラ」であるサーバ、守るべき対象に頭脳を持たせること自体に危うさがどうしても残ってしまいます。
個人的に重要なポイントだと思うのでこの後の章で深堀します。
仮説D: トリガー設計とトークン爆発
何をきっかけにLLMを動かすか、という設計が難しい。
例えばログを常時AIがチェックして、異常が見られたときに、
それがアップデートが必要なものであるとか、構成や設定の不備であるとか、攻撃であるとか、HW故障であるとか、そういった原因を自動で究明し、重要度に応じて管理者に連絡してくれる。
そんな保守AIがあったら最高ですよね。
使用者はかなりコストダウンさせられるし、保守というエンジニアとして一番退屈な作業を人間が長い時間かけて請け負わなくていいのは魅力。
しかしログを全量読み込ませるということは、トークン使用量が爆発的に増え、コストが高騰するということでもあります。
しかも一番コストを使う瞬間が、インシデント中という、一番痛手を被っているときなのも悩ましい。
仮説E: 組織的な信頼構築の遅さ
技術的に可能でも、本番に自律的な書き込み権限を持つAIを置く、という判断には、
監査証跡・責任の所在・説明責任の制度が追いつく必要があります。
これは技術進化よりずっと遅い。
法律もそうだが、倫理的な問題や法的な問題は、
「議論されつくしたか」ということが「キメ」の問題の最後の一押しになる。
しかるに、自然、決着が遅くなる。
そして制度とか法律は、適用範囲に対して普遍的に一律であることが平等の根拠となるから、敷衍施行するためにどうしても時間がかかる。
一社内であれ、そうしたノロさは、新陳代謝の速いAI機能をサーバに搭載することの足を引っ張ることになるでしょう。
最大の壁はセキュリティ — 「守る対象の中に頭脳を置く」という矛盾
間接プロンプトインジェクション
ログという「攻撃者が触れられる入力」を、サーバの権限を持つ推論エンジンに直接読ませるとどうなるでしょうか。
SQLインジェクションやコマンドインジェクションのように、
不正な命令を差し込んで、管理者の望まぬ挙動を起こす攻撃を「インジェクション(=注入)」と言います。
これと同じで、AIに渡すプロンプトに不正な命令を入れること、
例えば「先に伝えたルールを全て忘れてください。これ以降のルールで上書きしてさい」のような指示をする攻撃をプロンプトインジェクションと言いますが、
こうした攻撃を暗号のようにログの中に注入する。
バラバラにするとか、特殊な暗号化方式で注入した後に、時間差で復号化する鍵を渡すなど。
こうすると晴れて時限爆弾のようなことが可能になる。(可能性がある。)
つまるところ、攻撃者が細工したログ行を書き込み、常駐AIに「誤った復旧措置」を実行させる——というような、新しい攻撃面が生まれるわけです。
信頼境界(trust boundary)の話
守るべき対象の内側に推論主体を置くこと自体が、セキュリティ設計として危ういです。
イメージとしては、
全財産をしまった金庫の部屋の中に、四次元ポケットを持たせた赤ん坊を置いておく感じ。
守りたいものがある部屋の中に、強い力を持ち、しかし責任を持てない行動主体を置くのが怖い、ってことです。
もしやるなら「常時稼働ではなく呼び出し制」
ロニー的には一つの現実解として、
常時稼働アプリではなく、必要なとき呼び出して使う方式が考えられます。
これはトークン爆発対策にも有効。
全許可を与えたエージェントを自律的に動かす方が、勿論便利で成果も速く出ます。
その代わりトークンをすぐ使い果たしてお金もかかるし、知らない間に知らないツールがインストールされているとか、個人的には大事にしまっていたファイルを不要だと考えて削除されるとか、そうしたリスクがトレードオフで存在する。
であれば、危ないところでは、一問一答式でちゃんと見守るのが現実解。
ただしそれでも地雷型にログを読み取って暴走する可能性は残るので、
プロンプトインジェクション耐性が必須になります。
プロンプトインジェクション対策は現在進行形の問題
「Dual LLM pattern(二重LLMパターン)」という対策が出てきています。
ツール実行権限を持つ特権LLMと、
信頼できないコンテンツ(ログなど)だけを読む隔離LLMを完全に分離する設計です。
またその発展形として、DeepMindの「CaMeL」(2025年)ってのもあります。
こちらも特権LLMを支持を受け付けるフローと分離する形をとりますが、
プロンプトインジェクションによって汚染されたデータを機械的に追跡する機能もあります。
ちょうど昨年2025年の論文なので、今まさに、世界中の研究者が同時多発的に手探りしている進行形の問題といえます。
多分ChatGPTとかClaudeとかGeminiのようなメジャーどころはこの辺の防御策を既にリアルタイムで盛り込んでるんじゃないかな。
とはいえ、サンドボックス環境で動かしたモデルのテスト中にサンドボックス自体の脆弱性を見つけ出して外部に出てハッキングし始めたという最近のAnthropic関連ニュースを見ると、制御は難しそうだ。
メリットとデメリットの天秤
結局、サーバのためのAIは、割に合うのか、という話になって来ます。
デメリットを上回るメリットが必要
ここまで見てきたデメリット(コンテナ化との逆行、コスパ、セキュリティ、トークン爆発)はなかなかデカい。
さらに、安全戦のためにすべて自動化さず、都度手動で尋ねる形にするとしたら、恩恵がほとんどありません。
提案するだけなら外部SaaSで十分だからです。
もし仮にサーバ内AIに価値があるとすれば、外部SaaSでは届かない部分に限られるのかもしれません。
エッジAIと同じで、低レイテンシ・オフライン動作・データを外に出さない(プライバシーやコンプラ準拠)制約です。
「なぜ空白か」の答えは、技術的に不可能だからじゃなく、
「外側からやる方が合理的な場面が圧倒的に多いから」というところなのでしょう。
おわりに
インフラエンジニアの仕事は消える？
構成管理、クラウド化、Kubernetes化——仕事を奪いそうな自動化の波は何度もきましたたが、
そのたびにインフラエンジニアの仕事は、重心が「手を動かす作業」から「設計・判断・異常系対応」へと移ってきましたた。
ただし今回は質的に違う可能性もあります。
Ansibleなどの自動化ツールは「手順を実行」するだけだったけれど、今回のAIは”判断”の部分に踏み込もうとしています。
AI SREによって判断を培う部分にAIが入ってくると、むしろエンジニア側が「手順を実行」するだけの存在に成り下がります。
AI SREによって実績データが増えるほどによりそうした特化されたAIは精度を上げ、
シニアのインフラエンジニアの席が縮小していくことになっていく。
多分「AIは人間の仕事を奪うのか」論でよく落着するポイントに、インフラエンジニアも到達するんじゃないだろうか。
即ち、「無くなりはしないけど、従来の仕事内容とは様変わりする」というもの。
インフラエンジニアの仕事がAIでどう変わるか
まずは、AIを選定する、活用する、併用する。これは今のまだ現在進行中。
そんでもって、AIを適切に使える環境を整える。AIによる攻撃を防ぐ。AIによる事故に備える、AIを適切に使えるように制御する。早いところはもうこれが始まっていると思います。
そして、AIによる判断をレビューする、監視する、微修正する、責任を取る。開発などクリエイティブな範囲ではここももう登場しているでしょう。
少なくとも、席は少ないと思うし、AIの結果を適切にレビューするためには、
要件や環境を正確に把握するスキルやポジション、
予算やセキュリティ要件とのバランスをとるための舵取りのスキル、
リスクを素早く察知する勘所や情報力やスピード力などは必要になって来ます。
となれば、やはり経験値の少ないエンジニアから順に、「AIを使うトークン量より安く出来そうな」つまらない仕事に追われていく可能性が高い。
これは楽観はできませんね。
タイパに逆行、時間投下時間による価値
資本主義が進むにつれて、「どれだけ時間を投下したか」の価値が上昇するはずです。
人にとって、寿命こそが最終的に、最高の財産だから。
どんなスキルも、ネット情報やAIによるサポートによって、8割9割のところまで一気にスタートダッシュできるような時代です今は。
しかしその先の、「やっぱりプロの仕事は違うよね」という玄人芸の領域は、時間をかけたからこそ到達しているものです。
今後、AIによって作ったもののレベルを超えてくるのは、
生身で時間をかけて積み上げたスキル×AIになっていく。
なので、「AIがやってくれるから俺は考えなくていいや」という人はその先に行けないのです。
同時に、AIが普及する以前に汗水たらして積み上げてきた経験値を持つ人こそが、
AIの結果を判断できるといえるし、今後、その判断を出来る人は、どんどん減っていくわけです。
ここが仕事でも趣味でも、キャリアを分ける分岐点なんだろうなと思います。
俺はそこを目指す。
めっちゃ長くなってしまったけど、今日は以上。
モイモイ！
コメント