ページの本文へ

Hitachi

メニュー

株式会社日立総合計画研究所

キーワード

「旬」なキーワードについての研究員解説

Trustworthy AI(信頼されるAI)

研究第二部 経営グループ
氏名:西田美帆

1.Trustworthy AI(信頼されるAI)とは

Trustworthy AI(信頼されるAI)とは、個人の権利利益の保護などの法適合性、多様性配慮や差別防止などの倫理性、そして技術的な不具合によるリスクを最小限に抑える堅牢(けんろう)性が担保された人工知能(AI)を指します。
AIの普及に伴い倫理的な課題が生じている中、AIの社会受容に不可欠とされる「信頼」の醸成に向け、多くの国・地域でTrustworthy AIの開発が進められています。

2.倫理規範、ガバナンスの確立が急務なAI

近年、AIは加速度的に世界の多くの国・地域でその応用が進み、産業活動や人々の生活の利便性の向上に貢献しています。しかし同時に、その副作用として倫理的な課題をもたらしているのも事実です。例として、2016年に、Microsoft社の人工知能チャットボットTayが攻撃的なツイートを発信する事態が起きました。また2020年には、AIの画像認識技術を活用した米ミシガン州の警察当局によりアフリカ系米国人の男性が誤逮捕されるケースもありました。これらの事例は、AIの機械学習に必要な教師データが不足していたこと、また機械学習システムが情報に偏りのあるチャネルからデータを収集したことによって、推論の精度に差が生じたことが原因です。また、AI に道徳的・倫理的な善悪の判断・精査を行う能力が不足していたことも背景にありました。
このような倫理的課題が顕在化したことを受け、民間の団体や企業、学会を中心に、AI倫理規範やAIの適切な開発・利用を促すガイドラインなどのAIガバナンスの検討が始まりました。2017年には、Skype創設者Jaan Tallinn氏、Tesla創設者のElon Musk氏らが設立した非営利団体The Future of Life Instituteによって、AIの倫理や価値、長期的な課題などを定めた指針「Asilomar AI Principles」が公表されました。また、2018年にはMicrosoftやGoogleなどもAI倫理の基本方針を発表しました。いつの時代も顧客や社会から「信頼」を獲得することが企業の重要課題ですが、ことAIに関わる製品やサービスを取り扱う企業の場合、自ら率先してAI技術に関わる倫理規範や開発の透明性確保など、AIガバナンスを考慮し実践することも不可欠な要素となっています。

3.活発化するTrustworthy AIの検討

近年、AI倫理規範の策定とAIガバナンスの実装に関する議論は、民間・学会レベルから、政府レベルに拡大しています。具体的なAI倫理規範としては、日本の“人間中心のAI社会原則”、欧州(EU)の “Ethics Guidelines for Trustworthy AI”、米国の“Guidance for Regulation of Artificial Intelligence Applications”、中国の“次世代AIガバナンス原則”などがあります(下表参照)。

(参考)表:主なAI規範比較

国・地域 日本 欧州(EU) 米国 中国
倫理規範 人間中心のAI社会原則 Ethics Guidelines for Trustworthy AI Guidance for Regulation of Artificial Intelligence Applications 次世代AIガバナンス原則
共通理念 ・社会や国民からの「信頼」確保がAIの社会実装の大前提
・「信頼(法適合性、倫理性、堅牢性)」を担保するAI技術の開発を促進
策定背景 Society5.0の実現
「AI戦略20192」に基づき、Society5.03の実現に向け、社会と人々によるAIの受容と活用を促進し、AIの社会実装を推進するために原則を策定
社会・産業インフラ領域牽引(けんいん)
「European Data Strategy4」などに基づき、欧州単一市場の創設や、国際的なルール作りで主導権を握ることで、欧州の競争力強化をめざし策定
国家安全保障強化
The American AI initiative6に基づき、国内におけるAI利活用最大化やAI技術力の優位性確保のため、各行政機関を対象にAI関連規範に係る基本方針を策定
2030年世界トップのAI大国
「次世代AI発展計画注7」に基づき、AI技術を活用した経済成長や軍民融合を推進、国際的ガバナンスの枠組み・AI技術標準の形成を推進するために原則を策定

各種資料を基に日立総研作成

これら各国・地域の規範に共通しているのは、プライバシー、セキュリティ、説明責任など技術的な倫理原則に重点が置かれている点です。一方で、各国の規範の策定背景や狙いでは特徴となる差異点があります。米国は、国家安全保障の観点から主に中国を念頭に置いてAIの技術的優位性の強化を進める一方、中国は2030年までに世界トップのAI大国をめざし技術標準での主導権を狙っているとみられます。また、Society5.0実現で経済成長をめざす日本や、産業・社会インフラ領域におけるデータ・AIの利活用のルール形成で競争力向上に取り組む欧州では、自国産業の競争優位性確保を念頭に、規範の策定が進められています。
AI倫理規範の策定に加えて、規範を有効たらしめる法令など政策ツールや技術的なガイドラインの策定が、各国・地域で推進されています。欧州においては、事業者が“Ethics Guidelines for Trustworthy AI”に準拠した開発を進められるよう、倫理上問題がないかセルフチェックを行うための評価リストを作成しています。米国においては、サンフランコ市などの一部の地域が、基本的人権の尊重を求めるAI倫理規範に照らし、独自の条例を策定し、人種差別を助長し得る顔認証技術の使用を禁止しました。中国では顔を書き換えるディープフェイク技術を活用したアプリケーション開発企業に対し、安全管理局が監視、警告をしています。このように、各国でAI倫理規範に基づくガバナンスが強化されつつあります。

4.Trustworthy AIの確立に向けた国際協調の進展と今後の課題

各国・地域の政府機関においてAI倫理規範の策定とそのガバナンスの具体化が進む一方、複数の規範やガバナンス体系が乱立することも懸念されています。AIを活用する企業にとって、国・地域によって求められる対応が異なることでの混乱や管理コストの増加が予想されます。これに対し、国際統一的なAI倫理規範やツールを策定するための国際協力が進展しています。G20は、「G20 AI原則」を発表し、世界的な技術基準の開発に向けて国際協力を進める旨を定め、国際的なイニシアテブ「AIに関するグローバルパートナーシップ(Global Partnership on AI、GPAI)」を通じて、人間中心のAIシステムの責任ある開発・使用とAIガバナンスの促進をめざしています。その具体的な取り組みは、「信頼」の担保の要件として国際的に共有されている指標に基づいて、AI システムを評価する認証・評価・監査メカニズムの開発です。
また、Trustworthy AI の実現には、統一的なAI倫理規範やAIガバナンスのツール開発だけでなく、AI技術そのものの技術的な発展も重要です。現在のAI技術の中心である深層学習(ディープラーニング)は、大量の教師データが必要なことから、推論プロセスの説明が困難であるなどの課題があります。また、データ自体についても、フェイク情報やデータ改ざんなど推論の精度に関わる問題が発生しています。このような課題に対して、自律的に知識獲得・成長するAI技術や、説明可能なAI技術、さらにはフェイクニュース、データ改ざんなどを検知し対処する技術などの研究開発の推進が求められます。
これらの課題を克服し、「信頼」の担保されたTrustworthy AIの社会実装が拡大することにより、産業活動や社会活動のさらなる利便性向上と、人々の豊かな生活の実現が期待されます。

1
AI (Artificial Intelligence、人工知能):データ、情報、知識の学習により、自らの出力や処理方法を変化させる機能を持つ処理モジュール、および、このようなモジュールを構成要素として含むシステム
2
AI戦略2019 : 2019年に、統合イノベーション推進会議で決定された日本のAI戦略。Society5.0の実現を通じて、世界と国内の社会課題の克服を目的に、AI利活用の環境整備・方策を示す。
3
Society5.0 : 内閣府の第5期科学技術基本計画によって提唱された、サイバー空間(仮想空間)とフィジカル空間(現実空間)を高度に融合させたシステムにより、経済発展と社会的課外の解決を両立する人間中心の社会。
4
European Data Strategy: 2020年に発表された、欧州のデータ戦略。データによる変革を促進し、企業や市民にももたらす恩恵を拡大するために「データ単一市場」を構築することを目標に据える。
5
White Paper on Artificial Intelligence : 2020年に発表された、欧州のAI白書。欧州がAIシステムの利用と応用における世界的なリーダーとなるべきとし、市民の価値観と権利を尊重した安全なAI開発の「信頼性」と「優越性」を実現するための政策オプションを提示。
6
The American AI initiative : 2019年に大統領令として承認された、米国のAI戦略。五つの柱として、「AI研究開発への投資」「AI資源の開放」「AIガバナンス基準の設定」「AI労働力の構築」「国際的な関与とAIの優位性の保護」を定める。
7
次世代AI発展計画 : 2017年に中国政府国務院が発表したロードマップ。30年に、中国が、AI関連産業の育成によってイノベーション創出型かつ世界をリードする科学技術強国へ至る工程が記される。
(参考文献)一般財団法人マルチメディア振興センター編、藍沢志津、小原弘嗣、黒川綾子、坂本博史、田中絵麻、木賊智昭、平井智尚著、「世界のAI戦略-各国が描く未来創造のビジョン」明石書店、2020年

バックナンバー

2021年04月12日
2020年12月23日
2020年11月25日
2020年10月05日
2020年05月18日
2020年04月02日
2020年01月10日
2019年03月14日
2018年12月13日
2018年11月06日
2018年07月27日
2018年05月25日
2018年04月02日
2018年02月09日
2017年08月31日
2017年07月07日
2017年06月19日
2017年05月29日
2017年05月23日
2017年04月05日
2017年02月24日
2016年11月25日
2016年09月01日
2016年03月07日
2016年03月01日
2015年04月22日
2015年03月12日
2015年01月28日
2014年09月03日
2014年09月03日
2014年05月21日
2014年02月19日
2013年11月14日
2013年10月03日
2013年09月19日
2013年08月21日
2013年07月09日
2013年07月09日
2013年02月26日
2013年02月25日
2013年02月25日
2013年02月07日
2012年11月19日
2012年10月10日
2012年10月10日
2012年10月03日
2012年10月03日
2012年10月03日
2012年08月23日
2012年08月02日
2012年07月10日
2012年05月31日
2012年03月30日
2012年03月29日
2012年02月24日
2012年02月03日
2011年12月14日
2011年11月30日
2011年10月27日
2011年10月11日
2011年09月30日
2011年09月02日
2011年08月03日
2011年05月20日
2011年03月31日
2011年02月21日
2011年01月07日
2010年09月29日
2010年09月27日
2010年08月24日
2010年03月29日
2010年03月05日
2010年03月04日
2009年12月01日
2009年10月23日
2009年08月20日
2009年08月06日
2009年06月23日
2009年06月23日
2009年06月22日
2009年06月01日
2009年05月28日
2009年05月27日
2009年02月13日
2009年02月05日
2009年01月23日
2008年11月07日
2008年10月28日
2008年10月28日
2008年10月21日
2008年10月09日
2008年09月09日
2008年08月05日
2008年06月25日
2008年05月14日
2008年05月13日
2008年03月18日
2008年03月03日
2008年02月27日
2007年12月17日
2007年12月03日
2007年11月27日
2007年10月29日
2007年08月01日
2007年07月17日
2007年07月02日
2007年06月15日
2007年06月01日
2007年05月16日
2007年05月07日
2007年04月18日
2007年04月04日
2007年03月19日
2007年03月01日
2007年02月21日
2007年02月05日
2007年01月18日
2007年01月04日
2006年12月12日
2006年12月01日
2006年11月14日
2006年11月01日
2006年10月18日
2006年10月02日
2006年09月15日
2006年09月01日
2006年08月24日
2006年08月01日
2006年07月04日
2006年06月27日
2006年06月05日
2006年05月23日
2006年04月10日