AIの意思決定を説明・追跡可能な「透明性」の確保が急務

2024.08.12. 公正経済 — 信頼できる人工知能（AI）を実現するには、AIの意思決定を説明・追跡できる「透明性」の確保が先行しなければならないという意見が提示された。また、米国や欧州連合（EU）など世界主要国がAIの透明性確保を求める規制を策定しているため、国内AI企業が規制違反で不利益を被らないためには、当該規制の理解が必要だという声も上がった。

「信頼できるAI国際連帯（Trustworthy AI International Network、TRAIN）」は最近、ソウル江南区のアントレブルで「AIの信頼性、その最初の一歩である透明性確保のすべて」をテーマに「第1回ビア・トレイン（Bridging Engagement Exchange Roundtable TRAIN、BEER TRAIN）」イベントを開催した。

イベントでは、AIシステム構築において重要な「透明性（Transparency）」確保の概念、AI技術開発現場でどのように透明性を確保できるか、関連法律・国際標準・海外事例に関する最近の動向が共有された。

TRAIN推進団長である朴智煥（パク・チファン）シンクフォビエル代表は挨拶で、「ビア（BEER）は、AIに対する偏見や過度な不信、排他的な競争、過剰な規制を取り除くべきという意味を込めている。AIに関する否定的な問題の多くは、AIの信頼性検証の不足が原因で発生しており、今後多くの関心が必要な分野だ」と述べた。

続いて、法務法人ウォンAI対応チームのコ・インソン弁護士が「法律が求めるAIの透明性とは何か？」をテーマに発表を行った。

コ・インソン弁護士は「AIの透明性の核心は追跡可能性と説明可能性にある」と強調した。AIがどのような根拠に基づいて意思決定を行ったかを説明でき、意思決定のプロセスを追跡できることを意味する。AIの透明性を具現化できる概念として、「説明可能なAI（Explainable Artificial Intelligence, XAI）」が注目されている。

同弁護士はアメリカのバイデン政権のAI行政命令や、世界初のAI法律と評価される欧州連合（EU）のAI法に関する動向を説明しながら、「EUはAI法の要件に違反する企業に対して、最大3500万ユーロ（約500億ウォン）または前年の世界売上高の7%までを課徴金として科すなど、強力な制裁措置を予告している。したがって、国内のAI技術・ソリューション開発企業がアメリカやEUに進出するためには、これらの国の法的規制を遵守することが不可欠である」と強調した。

アン・ソンホ韓国産業技術試験院（KTL）AIチーム長が「技術的観点からの透明性はどのように扱われるべきか」をテーマに発表した。

AI国際標準化総会（ISO/IEC JTC1/SC42）でAI関連標準を担当するSC42の専門委員でもあるアン・ソンホチーム長は、AI分野の複数の国際標準が活発に制定されているとし、これらの標準ではAIの透明性確認と実装が重要視されていると指摘した。

多様なAI国際標準が、AIサービスやシステムなどについて、▲提供者および権限を持つ代表者の身元および連絡先情報▲AIシステムの特性、機能および性能の制限▲意図された目的▲テストおよび検証の正確度水準、頑健性およびサイバーセキュリティの指標と予想水準（予想水準に影響を与えうる状況）▲誤用条件下で危険を招きうる状況▲AIシステムの出力を解釈し適切に使用できるようにする情報▲出力解釈を促進するために設けられた技術的措置▲必要なハードウェア資源、予想寿命およびアップデートを含む保守・管理措置▲収集、保存および解析できるログなど、項目別に情報を公開するか機能を実装するよう求めているという話だ。

チョン・ソニルシンクフォビエルAI信頼性技術チームマネージャーは「国ごとにAIの透明性が異なる場合、他の国はどのようにしているか？」をテーマに、シンガポール、EU、米国など主要国の事例を発表した。

チョン・ソニルマネージャーは、シンガポールが倫理的AI開発のための技術的協議体として非営利財団を設立し、AIガバナンステストフレームワークおよびソフトウェアツールキットを提供していると述べた。また、当該ツールキットには透明性確認チェック項目が含まれていると付け加えた。

さらに、EU加盟国であるベルギーは、フランドル人工知能計画の一環として、大学3校が参加する研究協議体を設立し運営していると説明した。

朴智煥団長は、「AI関連の非技術的な倫理性については、これまで数多くの報道を通じて公論化され、それに応じて適切なコンプライアンスが整備されている。これからは倫理的側面ではなく技術的側面を見つめるべき時である。倫理的問題発生可能性を技術的に解決する法律制定が世界の主要国で行われている。韓国もまた、AIの倫理・道徳的側面に留まるのではなく、AIの透明性確保のための技術開発や関連制度の整備などに乗り出すべきだ」と強調した。

実際、国内で発生したイルダの女性・性的少数者に対する嫌悪発言事件など、AIの偏向性の問題は、AI技術・システム開発者の悪意によるものではなく、信頼できるデータを選別しそれを学習に適用する技術の不足、システムが偏向性を持たないように管理する能力の不足が原因だったと朴智煥団長は強調した。同氏は、韓国がAIの透明性確保のための制度・技術整備が遅れるほど、第2のイルダ事件が起こらざるを得ないと指摘した。