確保AI決策可解釋、可追蹤的「透明度」刻不容緩

2024.08.12. 公正經濟 — 為實現可信賴的人工智慧（AI），有觀點認為必須先確保能說明、追蹤AI決策的「透明度」。此外，美國、歐洲聯盟（EU）等世界主要國家正制定要求確保AI透明度的法規，因此也有聲音指出，國內AI企業若要避免因違反法規而遭受不利，必須理解相關法規。

「可信AI國際聯盟（Trustworthy AI International Network, TRAIN）」近期在首爾江南區Entreble舉辦了以「AI可信度：確保第一道透明度的一切」為主題的「第1屆BEER TRAIN（Bridging Engagement Exchange Roundtable TRAIN, BEER TRAIN）」活動。

活動上分享了AI系統建構中至關重要的「透明度（Transparency）」概念、如何在AI技術開發現場確保透明度，以及相關法律、國際標準和海外案例的最新動態。

TRAIN推動團團長、ThinkforBL代表朴智煥在致辭中表示：「BEER意味著要清空對AI的偏見、過度不信任、排他性競爭及過度監管。有關AI的負面議題多是因AI信賴性驗證不足所致，這是今後需要高度關注的領域。」

隨後，元律師事務所人工智慧應對團隊的 Ko In-seon 律師以「法律要求的 AI 透明度是什麼？」為主題進行發表。

Ko In-seon律師強調：「AI透明度的核心是可追蹤性、可解釋性。」這意味著必須說明AI基於何種依據做出決策，且決策過程必須能被追蹤。作為實現AI透明度的概念，「可解釋AI（Explainable Artificial Intelligence, XAI）」備受關注。

他說明美國拜登政府的AI行政命令及被評價為世界首部AI法律的歐盟（EU）AI法動向，並強調：「EU預告將對違反AI法要求的企業處以最高3500萬歐元（約500億韓元）或前一年全球營業額7%的罰鍰等強力制裁措施。因此，國內AI技術、解決方案開發企業若要進軍美國和EU，遵守該國法律法規是必須的。」

Ahn Seon-ho韓國產業技術試驗院（KTL）AI組長以「技術觀點下的透明性應如何處理？」為主題進行了報告。

身兼AI國際標準化大會（ISO/IEC JTC1/SC42）中負責AI相關標準的SC42專門委員的Ahn Seon-ho組長表示，AI領域的多項國際標準正積極制定中，而這些國際標準中，確認並落實AI透明性正受到高度重視。

也就是說，各種AI國際標準要求針對AI服務、系統等，依項目公開資訊或落實相應功能，包括：▲提供者及授權代表的身分與聯絡資訊；▲AI系統的特性、功能及性能限制；▲預期用途；▲測試與驗證的準確度水準、強健性與網路安全指標及預期水準（可能影響預期水準的情況）；▲在誤用情況下可能導致風險的情形；▲能夠解讀並適當使用AI系統輸出結果的資訊；▲為促進輸出結果解讀而建立的技術措施；▲包括所需硬體資源、預期使用壽命及更新等維護/管理措施；▲可蒐集、儲存及解讀的日誌等。

ThinkforBL AI可信度技術組經理千善一以「如果各國對AI透明度的定義不同？其他地方是怎麼做的？」為主題，介紹了新加坡、EU、美國等主要國家的案例。

千善一經理表示，新加坡設立了非營利基金會作為開發倫理AI的技術協商機構，並提供AI治理測試框架及軟體工具包。他補充說，該工具包中包含了透明度檢查項目。

他並說明，作為EU會員國的比利時，則在弗蘭德人工智慧計畫的框架下，成立並運營由3所大學參與的研究協議體。

朴智煥團長強調：「AI相關非技術的倫理部分，透過眾多媒體報導已形成公共討論，並據此建立適當的合規機制。現在是檢視技術層面而非倫理層面的時候了。世界主要國家正制定法律，以技術方式解決倫理問題發生的可能性。韓國也不應停留在AI的倫理、道德層面，而應著手開發確保AI透明度的技術及建立相關制度。」

朴智煥團長強調，實際上，國內發生的Iruda女性、性少數仇恨言論事件等AI偏見問題，並非因AI技術、系統開發者的惡意，而是因缺乏篩選可信賴數據並應用於學習的技術，以及缺乏管理系統不產生偏見的能力。他指出，韓國確保AI透明度的制度、技術若越晚準備，第二起Iruda事件就不可避免。