提出AI開發與服務中「公開數據」處理標準

2024.07.17. 公正經濟 — 政府層面已制定出可安全處理生成式人工智慧（AI）模型開發過程中所使用的「網際網路公開數據」的標準。

個人情報 保護委員會於17日表示，為確保人工智慧開發所必需的公開資料在現行個人資訊規範體系內合法且安全地處理，已制定並公開「人工智慧開發·服務用公開個人資訊處理指南」。

公開數據是指網際網路上任何人皆可合法存取的數據，是Chat GPT等生成式AI開發所需訓練數據的核心原料。AI企業透過網頁爬蟲等方式，收集Common Crawl、維基百科、部落格及網站上的公開數據，並將其用作AI訓練數據。

Common Crawl是一個自動收集網際網路數據，並加以儲存、維護與管理，使任何人皆可存取與分析的公開資料庫（http://commoncrawl.org）。網頁爬蟲則是一種從網站中自動提取所需數據的技術。

這類公開數據可能包含地址、唯一識別號碼、信用卡號等多種個人資訊（即已公開的個人資訊），因此存在侵犯國民隱私的風險。然而，現行《個人資訊保護法》並未針對此類已公開個人資訊的處理制定明確標準。

例如，在AI訓練需大規模處理公開數據的情況下，若適用現行保護法中關於資訊主體個別同意或締結契約等條款，實際上將難以操作。此外，由於AI訓練與傳統個人資訊處理方式不同，直接套用保護法中確保安全性等措施的規定也存在一定局限性。

為此，個資會表示已制定該指南，旨在明確化收集與利用已公開個人資訊的法律標準，並提出企業在AI開發及服務階段可參考的最小限度安全措施的適當性標準。其目的在於最小化利用已公開個人資訊的企業所面臨的個人資訊侵權問題，同時消除法律不確定性，助力企業的創新成長。

個資會自去年8月發布《AI時代安全個人資訊利用政策方向》後，以「AI隱私民官政策協議會」為中心推進指南相關討論，並與學界、產業界及市民團體溝通，廣泛徵求意見。

政策協議會由學界、法界、產業界、公民團體等AI領域的30位新一代專家組成，並運作▲數據處理標準▲風險評估▲確保透明度等3個分組。

特別是，鑑於歐洲聯盟（EU）、美國等尋求AI創新與安全平衡的主要海外國家近期正針對包含公開數據處理在內的整體AI與數據處理建立個人資訊保護規範體系，該指南著重於制定具有國際互操作性的標準。

首先，明確指出依據保護法第15條的「正當利益」條款，可利用已公開個人資訊進行AI訓練及服務開發。

此外，要適用該「正當利益」條款，必須滿足AI開發目的的正當性、處理已公開個人資訊的必要性以及具體的利益衡量這三項要件。個資會透過本次指南介紹了這三項要件的內容及適用案例。

因此，制定「正當利益」條款的合理解釋標準，有助於提高與歐洲聯盟一般個人資訊保護法（EU GDPR）及近期AI安全性規範討論等全球標準的互操作性。

此外，個資會透過指南具體介紹了AI企業為依據「正當利益」處理已公開個人資訊而可考慮的技術性、管理性安全確保措施及資訊主體權利保障方案。

不過，考量到AI技術快速變化等因素，也允許彈性導入與實施細節安全措施。AI企業並非必須實施所有安全措施，可考量指南中所列各項安全措施的正面效益，以及AI效能下降、偏見等副作用與技術成熟度，自行選擇並執行符合企業特性的「安全措施最佳組合」。

個資會還介紹了透過今年3月的AI事前現狀點檢所掌握的主要大型語言模型（LLM）事業者實際的安全措施執行案例，供企業在判斷「最佳組合」時參考。

最後，強調了AI企業與個人資訊保護責任者（CPO）在與AI開發相關的訓練數據處理中的角色。

建議以CPO為核心自主組建並運營「（暫定名）AI隱私負責組織」，評估是否符合指南標準並撰寫、保存其依據。同時，定期監測如AI性能提升等重大技術變更或個人資訊侵權風險等危險因素，並在發生個人資訊洩露、暴露等侵權事故時，迅速制定權利救濟方案。

該指南將根據後續個人資訊相關法規的制訂與修訂、AI技術發展趨勢及海外監管整備動態等因素持續更新。

此外，對於構成AI訓練數據主要來源的使用者個人資訊的合法處理依據及標準等，將透過徵求學界、產業界、市民團體等意見後予以具體化。

除此之外，個資會還計劃透過事前適正性審查制、監管沙盒、個人資訊安心區域等創新支援制度，與AI企業保持頻繁溝通，監測技術發展與市場狀況，並基於此累積的案例與經驗，推進將保護法調整至適應AI時代的工作。

參與本次指南相關討論的Kim Byeong-pil KAIST教授（民官政策協議會數據處理標準分科長）表示：「本指南是為在充分保護個人資訊的同時鼓勵AI創新，尋找適當平衡點的努力之一。我認為它將成為可信賴的AI開發與利用的良好參考資料。」他強調：「不過，鑑於AI技術快速變化，希望留意本指南所包含的內容未來也將持續發展。」

民官政策協議會共同議長Bae Gyeong-hun LG AI研究院院長表示：「本次指南的發布是同時實現AI技術發展與個人數據保護的重要進展與第一步。」他預測：「透過提供在公開數據中安全處理個人資訊的標準，降低了AI技術開發中的法律不確定性，使數據得以安全利用。這將成為讓國民在可信賴的數據處理環境中享受AI技術紅利的基础。」

高鶴洙個資會委員長表示：「雖然AI技術進步迅速，但作為AI開發核心關鍵的公開數據學習是否依據保護法合法且安全，此前一直處於空白狀態。」他說：「期望透過本次指南，讓企業自行打造國民信賴的AI與數據處理慣例，並希望如此累積的模範案例能持續反映在指南中。」