2026年11月19日
AIの進化はサイバー空間におけるデータ分析・コード生成などの領域にとどまらず、物理空間における社会インフラへの実装へと急速に拡大している。そのなかで、人々の生活を支える社会インフラシステムの要件が大きく変化しつつある。本論文では、AI実装の拡大に伴い顕在化するリスクを整理し、稼働を止めることが許されないミッションクリティカル領域において新たな価値の源泉となる「安全性」および「信頼性」を担保するための二つのアプローチの在り方を提唱する。それは一つには、技術的アプローチの「Physical Intelligence Model」、もう一つは社会制度設計・合意形成アプローチの「ソシエタルデザイン」である。
AI市場は現在、サイバー空間上でのモデルの「中央管理システム・学習」フェーズから、AIを組み込んだ設備・システムが物理空間で稼働する「分散エッジ・推論」フェーズへと、その成長の軸足を移しつつある。実際、2026年3月に開催されたNVIDIA GPU Technology Conferenceの基調講演においても、AIの価値創出の中心がモデル学習から現場での推論へ拡大していくこと、物理空間で業務を自律遂行するPhysical AIが台頭することが示されている。
日立総研は、物理世界の中でもとりわけ電力、水道、通信、交通などの社会インフラシステムに注目し、同システムにおいてAI実装が進んだ将来像を「Collaborative Intelligence」と提唱している。Collaborative Intelligenceとは、業種をまたいだ複数のインフラが相互に対話して供給を自律的に調整するシステムを指す。その機能は、分散したエッジAIの挙動を総合管理AIが上位から監視する「AIの階層化」、中央制御とエッジ側の自律分散制御の組み合わせによって限りあるリソース下で業務成果を最大化する「集中と自律分散制御」、複数インフラ間でそれぞれが優先する経済価値・倫理・環境価値を調和させる「相互ガバナンス」、同一現場にいる複数の企業間で現場環境データを共有する「リアルデータ共有基盤」で構成される。Collaborative Intelligenceにより、デザイン、実装、運用、保守といったライフサイクル全般において、AI同士が対話・連携しながら自律的に稼働する社会インフラが実現する(図1)。

図1 社会インフラにおけるAI実装の将来像:Collaborative Intelligence
物理世界でのAIの自律化が進むことで、労働力不足の解消やインフラ供給の効率向上といった価値を創出することが期待されている。一方で急速な自律化の進展は、安全性と信頼性の欠如という新たな課題を突きつけている。AIが物理世界で直接的に意思決定を下し、動作するようになることで、安全性の面では深刻な物理インシデントの増加が、信頼性の面では誤動作発生率の増加が、重大な懸念材料となるからである。
現に、物理世界におけるインシデントとして、ヒューマノイドロボットがクレーンでつり下げられて搬送されている状態をAIが「自身の姿勢が崩れた」と誤認し、体勢を立て直そうと突然手足を激しく振り回したことにより、周囲の人間が危険にさらされたという報道がなされた。また、本来はシステムのセキュリティを強化するために自律的な防御を行うはずのフロンティアAIが、IT・OTシステムを横断解析して脆弱(ぜいじゃく)性の発見と攻撃を自律的に行ってしまう事案が顕在化している。Stanford AI Indexでは、AI起因の物理インシデントの報告件数が2024年1月から2026年1月の2年間で4倍に増加していることや、複雑な長文指示による誤動作テストであるJailbreak Testを行うと、あるAIモデルでは単純な指示よりも誤作動発生率が増加することが示されている。このようにAIの判断エラーが直接的に人命の危機や物理的破壊に直結するリスクが、すでに現実のものとなっているのである。
上述のように新たなリスクが顕在化するなか、社会インフラにおけるAIの導入では、効率化やスピードの追求だけではなく、安全性・信頼性の確保こそが最大の価値となっている。本論文では、安全性の価値を、人間や社会への致命的なダメージを未然に防止し、重大事故の発生を最小化すること、信頼性の価値を、人間の指示を適切かつ確実に実行し、インフラの長期的な正常稼働を最大化すること、としてそれぞれ定義する(図2)。以降、社会インフラにおけるAIビジネスでの競争優位性を規定しうる、安全性と信頼性を担保する仕組みをいかに構築し、提供するかを述べていく。

図2 安全性・信頼性の価値としての高まり
サイバー空間で発展してきた従来のAIモデル(Optimization Model)は、与えられた課題や指示に対して効率とスピードを最優先し、最短ルートで解を求めるアーキテクチャであった。しかし、このAIをそのまま物理空間に適用した場合、重大な欠陥が露呈する可能性がある。
この課題を克服するための新たなアプローチとして、本稿では「Physical Intelligence Model(PIM)」のアーキテクチャ構築を提唱する。PIMは現場の物理データを絶えず参照し、物理環境における「安全性」と「信頼性」を常時検証・担保しながら稼働するという特徴を持つ。これにより、重大事故を低減し、インフラの正常稼働率を向上させることが可能となる(図3)。

図3 物理世界における安全性・信頼性を担保するPhysical Intelligence Model
PIMが現場で安全性を担保するメカニズムは、人間の熟練作業者が現場を注意深く観察し、危険を察知して安全に行動するというプロセスをAIによって高度にシステム化したものと言える。具体的には、以下の三つのステップが連動して機能する。
第一のステップは、「常時センシング」である。物理空間で活動するAIには、周囲の状況を正確に把握するための目や耳が必要であり、カメラ、レーダー、LiDARといった複数のセンサー情報を統合するセンサーフュージョンという技術が用いられる。常時センシングにより、設備の電圧の揺らぎ、温度の異常な変化、わずかな異音の発生といった、物理空間におけるささいな変化のきざしを24時間体制で漏らさず捉え続けることが可能となる。
第二のステップは、環境予測AIによる「早期検知」である。常時センシングで集められた膨大なデータを記録・監視するだけではなく、AIがリアルタイムで解析し、次に何が起こるかを予測する。そして重大な設備異常や突発的な環境変化を、事故が実際に起きる前の段階で未然に察知し、潜在的な危険を予測することが可能となる。
そして第三のステップとして「段階的制御(デグラデーション / 縮退)」が挙げられる。従来システムでは異常検知をした際には即座にシステムを急停止させてしまい、それが原因で二次被害(後続車への追突や機械の破損など)を生むリスクがあった。しかしPIMでは、危険を察知した場合、システムを完全に停止させるのではなく、安全が確保できる水準まで自律レベルや稼働速度を段階的に縮退させる。
このような仕組みの萌芽(ほうが)として、環境予測AIを用いた列車の自律運転制御による事故回避の取り組みが挙げられる。仮に線路内に予期せぬ障害物が侵入した場合でも、AIがいち早くきざしを捉えて危険を予測し、急ブレーキによる脱線リスクを避けながら安全に減速・停止するような制御が可能となる。このように、予期せぬ事態に対しても柔軟かつ安全にシステムを軟着陸させることで、現場における重大事故の発生を劇的に削減する。2026年時点では車両基地という閉域での実証段階にあるが、将来的には市電のように開放域でさまざまなものが交差する環境での実現が期待されている(図4)。

図4 PIMによる安全性向上
PIMが正常稼働率の向上として信頼性を担保するメカニズムは、作業者が現場のルールや物理法則を理解した上で「この操作をして本当に問題ないか」を自問自答するプロセスに類似しており、人間の指示を適切かつ確実に実行し続けるため、以下の三つの要素技術が組み合わされている。
第一の要素は、オントロジーを用いた「文脈との整合」である。オントロジーとは、物事の関係性や概念を体系化する技術で、AIはこの技術を用いることで、人間の意図や業務の文脈、さらには物理的な制約を知識として理解する。その結果、現場のルールを無視したとっぴな行動を防ぎ、常に文脈に沿った妥当な提案のみを出力することが可能となる。
第二の要素は、デジタルツインを活用した「物理空間の再現・予測」である。例えば発電プラントでは、発電機器やコンプレッサに取り付けられたセンサーや温度計から、温度、蒸気の排出量、振動、過去の保全履歴といった物理データを絶えず収集して、精巧なシミュレーションモデルで現場を再現する。AIはこのサイバー空間上で機械の動作シミュレーションを実行し、その結果を予測・検証してから現実の制御に反映させる。
第三の要素は、説明可能AI(XAI)による「追跡・検証」である。AIによる高度な判断がブラックボックス化しないよう、AI自身に「なぜその判断に至ったのか」という根拠や理由を追跡させ、人間が理解可能な形で説明する機能を持たせる。これにより人間とAIの間で対話が可能となり、オペレーションのフィードバックループを回すことが可能となる。
このアプローチのきざしとして、タービン制御・運用システムにおける稼働率の最大化の取り組みが挙げられる。現場のオペレーターは、AIが発電効率を上げるための設定変更を提案してきた際、それが物理的に安全な範囲(文脈との整合)であり、シミュレーション結果(再現・予測)に基づいていること、そしてその理由(追跡・検証)を明確に理解した上で承認することができる。結果として、システムへの不信感による不要な稼働停止を減らし、インフラの安定した長期正常稼働(稼働率向上)という信頼性の価値を現場にもたらす(図5)。

図5 PIMによる信頼性向上
前章で述べたPIMは、個々の現場でインフラ設備を安全かつ確実に動かすための技術的アプローチである。AIが社会インフラの多くの場所に導入され、人間の生活と複雑に交じり合うとき、個々のAIが自律的に正しい判断を行ったとしても、全体として一部のステークホルダーに不利益が生じたり、社会全体が混乱したりする可能性はぬぐい切れない。
この課題を解決するためには、複数のAIを群として捉え、広域で高度に監視・制御し、社会側から安全性・信頼性を担保する「ソシエタルデザイン」の考え方が不可欠となる。世界経済フォーラム(WEF)の議論においても、次世代のAI社会では「AIが何をできるか(能力)」よりも、「AIにどのような条件で何をさせるか(環境・状況)」を制御するガイドライン設定が重要視されている。自律システムと人間が共存するAI時代において、不確実性を抑制し、行動を予測可能にすることこそが、社会全体での安全性と信頼性を担保する鍵となる。
安全性の担保を目的としたソシエタルデザインの代表的な適用領域が、自動運転車が普及した未来の道路交通ネットワークである。
従来の自動運転技術は、「単体の車両が交通ルールを順守し、目の前の障害物を避けること」に主眼が置かれていた。しかし、現実の道路には、AIが制御する自動運転車だけでなく、人間が運転する有人車、さらには歩行者や自転車が混在し複雑に動いている。個別のAIがルールを守って急ブレーキをかけた結果、後ろを走る人間のドライバーが反応できずに衝突事故を起こしてしまうリスクがつきまとう。ソシエタルデザインのアプローチでは、こうした個別の視点から離れ、衛星システムや交差点のセンサーなどを活用して交通流全体を「群」として俯瞰(ふかん)的に監視する。そして、有人車へのリスクを最小化するために、AI群全体がリスクの低い振る舞いをしているかを常時評価し、緊急時や複雑な交通状況下においては中央の管制システムから遠隔で介入・制御を行うのである(図6)。
このように、AI群への監視と制御が実現すれば、接触事故などのインシデントの減少が期待されるが、実社会において安全性担保に向けた構想や実証もすでに始まっている。OECD(経済協力開発機構)が道路運用ルール側の整備に向けたロードマップを策定しているほか、ドイツのハンブルグでは、2030年までの完了をめざし、自動運転のオンデマンドシャトル、人間の運転手、歩行者を含めた都市全体の「交通管制システム」の実証が進められている。このようにAIによる社会全体の安全性向上に向けたデザインが急速に具現化しつつある。

図6 高度な安全性の確保(道路交通)
信頼性の担保に向けたソシエタルデザインは、複数のインフラ(電力、交通、水道、通信など)をまたいだマクロな資源配分と優先順位付けという形で実装され、効果を発揮する。
平時においては個々のインフラがそれぞれ最適に稼働していればよいが、災害時や猛暑による電力の需給ひっ迫時など、社会全体のリソースが不足する有事の際には状況が一変する。従来は電力が不足すれば地域一帯が一斉に停電してしまい、病院や水道設備など命に関わる重要インフラまでが停止してしまうリスクがあった。しかし、ソシエタルデザインが実装された社会では、AIがインフラ間の壁を越えて連携し、社会全体にとっての優先順位を自律的に判断する。例えば電力需給がひっ迫した際、AIは「緊急性の低い自動運転シャトルバスの運行を一時的に縮小させる」「オフィスビルの空調を自動抑制する」といった指示を広域に発出する。そこで節減した電力を、病院、水道、通信といった決して止めてはならないライフラインへの供給に自動的かつ優先的に振り向けるのである。いわば社会システム全体における資源のトリアージをAIが瞬時に、かつ倫理的に実行する仕組みと言える(図7)。
こうした広域での社会インフラにおける信頼性担保の取り組みとして、ドイツのシュトゥットガルトでは、2035年完了をめどに建物とEVバス間での電力優先順位付けの実証が行われている。スウェーデンのマルメでも、2030年に向け、再エネ供給や排熱利用を建物と水道インフラ間で調整するプロジェクトが進められている。
今後、国家単位でのAI実装が急速に拡大し、地政学リスクの低減、自国産業の強化、さらには老朽化したインフラの保全や供給力の安定化といったマクロな課題への対応が求められるようになる。AIの行動を社会全体の価値向上へと結びつけるためには、一部のシステム最適化にとどまらず、社会インフラ全体を俯瞰し、安全性と信頼性のリスクを最小化するためのルールや監視体制を組み込む「ソシエタルデザイン」の社会実装が急務となる。

図7 広域での信頼性の確保
本論文では、AIがサイバー空間から物理空間へと実装を拡大する中で、安全性と信頼性が新たな価値の源泉となる未来を示した。具体的には、物理空間における安全性・信頼性を常時予測・検証するPhysical Intelligence Modelの実装、AIの挙動の高度な監視・制御とインフラ間での優先順位付けを通じた社会全体での安全性・信頼性を向上させるソシエタルデザインの必要性を示した。
いずれの仕組みにおいても、インフラの進化を通じた社会の発展をAIの自律化が助ける将来像を展望している。この未来において、物理的なリスクの低減や社会全体の価値との調和を実現する上で最も重要な要素が安全性・信頼性となることを改めて強調したい。
日立総研は、技術と社会が共にお互いの持続的な発展を支えることが重要との認識に立ち、各種研究を行っている。本論文で取り上げた物理空間へのAI実装についても同様に、AI技術が急速に進化するなか安全性・信頼性を確保し社会・産業の価値を創出できるよう継続的な研究と議論を行っていく。この取り組みを通じて、社会インフラ・産業システムが次世代AIの全面的な活用を進展させると同時に、それに伴うリスクにも効果的に対応できるよう、研究を通して貢献することをめざしている。
渡部 正泰(わたなべ まさやす)
日立総合計画研究所 研究第三部 技術戦略グループ グループリーダ主任研究員
(株)ボストン・コンサルティング・グループ、三菱UFJリサーチ&コンサルティング(株)を経て現職。
最近のテーマはAIの進化による産業・社会変革など。
石井 俊太郎(いしい しゅんたろう)
Hitachi Research Institute Office マネージャ
エネルギー、金融、産業領域の事業戦略策定、自動運転・先進運転支援システムの営業を経て、米州地域戦略、AI・デジタルに関連する事業戦略の立案・実行支援に従事。
このレポートの研究員
渡部 正泰
研究第三部
技術戦略グループ
グループリーダ主任研究員
石井 俊太郎
Hitachi Research Institute Office
マネージャ
機関誌「日立総研」、経済予測などの定期刊行物をはじめ、研究活動に基づくレポート、インタビュー、コラムなどの最新情報をお届けします。
お問い合わせフォームでは、ご質問・ご相談など24時間受け付けております。