"AI 의사결정 설명·추적 가능한 '투명성' 확보 절실"

(공정경제) 박광하 기자 = 신뢰할 수 있는 인공지능(AI)을 구현하기 위해서는 AI의 의사결정을 설명, 추적할 수 있는 '투명성' 확보가 선행돼야 한다는 의견이 제시됐다. 또한, 미국과 유럽연합(EU) 등 세계 주요국에서 AI의 투명성 확보를 요구하는 규제를 만들어가는 만큼, 국내 AI 기업들이 규제 위반으로 불이익을 당하지 않으려면 해당 규제에 대한 이해가 필요하다는 목소리도 나왔다.

'신뢰할 수 있는 AI 국제연대(Trustworthy AI International Network, TRAIN)'는 최근 서울 강남구 앙트레블에서 'AI 신뢰성, 그 첫번째 투명성 확보의 모든 것'을 주제로 '제1회 비어 트레인(Bridging Engagement Exchange Roundtable TRAIN, BEER TRAIN)' 행사를 개최했다.

행사에서는 AI 시스템 구축에 있어서 중요한 '투명성(Transparency)' 확보의 개념, 투명성을 AI 기술 개발 현장에서 어떻게 확보할 수 있는지, 관련 법률, 국제 표준, 해외 사례에 대한 최근 동향을 공유했다.

트레인 추진단장인 박지환 씽크포비엘 대표는 인사말에서 "비어(BEER)는 AI에 대한 편견, 과도한 불신, 배타적 경쟁, 과도한 규제를 비워야 한다는 의미를 담고 있다. AI에 대한 부정적인 이슈들은 AI 신뢰성 검증 부족이 원인이 돼 발생하는 것으로 앞으로 많은 관심이 필요한 분야"라고 말했다.

이어 법무법인 원 인공지능대응팀의 고인선 변호사는 '법에서 요구하는 AI 투명성이란 무엇인가?'를 주제로 발표했다.

고인선 변호사는 "AI 투명성은 추적가능성, 설명가능성이 핵심"이라고 강조했다. AI가 어떤 근거로 의사 결정을 수행했는지가 설명돼야 하고, 의사 결정 과정을 추적할 수 있어야 한다는 뜻이다. AI의 투명성을 구현할 수 있는 개념으로는 '설명 가능한 AI(Explainable Artificial Intelligence, XAI)'가 주목을 받고 있다.

그는 미국 바이든 행정부의 AI 행정명령과 세계 최초의 AI 법률로 평가받는 유럽연합(EU)의 AI법 동향을 설명하면서, "EU는 AI법의 요구사항을 위반하는 기업에 대해 최대 3500만 유로(약 500억 원)나 전년도 세계 매출의 7%까지를 과징금으로 부과하는 등 강도 높은 제재조치를 예고하고 있다. 따라서 국내 AI 기술, 솔루션 개발 기업들이 미국과 EU로 진출하기 위해서는 해당 국가의 법적 규제를 준수하는 게 필수적"이라고 강조했다.

안선호 한국산업기술험원(KTL) AI 팀장은 '기술적 관점에서의 투명성은 어떻게 다루어져야 하는가?'를 주제로 발표했다.

AI 국제표준화 총회(ISO/IEC JTC1/SC42)에서 AI 관련 표준을 다루는 SC42의 전문위원이기도 한 안선호 팀장은 AI 분야 여러 국제표준이 활발하게 제정되고 있다면서, 이들 국제표준에서는 AI의 투명성 확인 및 구현이 중요하게 다뤄지고 있다고 짚었다.

다양한 AI 국제표준들이 AI 서비스, 시스템 등에 대해 ▲제공자 및 권한 있는 대표자의 신원 및 연락처 정보 ▲AI 시스템의 특성, 기능 및 성능 제한 ▲의도된 목적 ▲테스트 및 검증 정확도 수준, 강건성 및 사이버 보안 메트릭 및 예상 수준(예상 수준에 영향을 미칠 수 있는 상황) ▲오용 조건 하에서 위험을 초래할 수 있는 상황 ▲AI 시스템의 출력을 해석하고 적절히 사용할 수 있는 정보 ▲출력 해성을 촉진하기 위해 마련된 기술적 조치 ▲필요한 하드웨어 자원, 예상 수명 및 업데이트를 포함한 유지보수/관리 조치 ▲수집, 저장 및 해석할 수 있는 로그 등 항목별로 정보를 공개하거나 기능을 구현하라고 요구한다는 이야기다.

천선일 씽크포비엘 AI 신뢰성 기술팀 매니저는 '국가마다 AI의 투명성이 다르다면? 다른 곳들은 어떻게 하는가?'를 주제로 싱가포르, EU, 미국 등 주요국 사례를 발표했다.

천선일 매니저는 싱가포르가 윤리적 AI 개발을 위한 기술적 협의체로 비영리 재단을 설립하고, AI 거버넌스 테스트 프레임워크 및 소프트웨어 툴킷을 제공하고 있다고 말했다. 또한 해당 툴킷에는 투명성 확인 체크 항목이 포함돼 있다고 덧붙였다.

아울러, EU 회원국인 벨기에는 플랑드르 인공지능 계획 일환으로 대학 3곳이 참여한 연구협의체를 만들어 운영 중이라고 설명했다.

박지환 단장은 "AI 관련 비기술적인 윤리성 부분은 그동안 수많은 언론 보도를 통해 공론화됐고, 이에 따라 적절한 컴플라이언스가 마련되고 있다. 이제는 윤리적인 측면이 아닌 기술적인 측면을 살펴봐야 할 때다. 윤리적인 문제 발생 가능성을 기술적으로 해결하도록 하는 법률 제정이 세계 주요국에서 이뤄지고 있다. 한국 또한 AI의 윤리, 도덕적 측면에서 멈춰있을 때가 아니라 AI 투명성 확보를 위한 기술 개발과 관련 제도 마련 등에 나서야 한다"라고 강조했다.

실제로, 국내에서 발생했던 이루다의 여성·성소수자 혐오 발언 사건 등 AI의 편향성 문제는 AI 기술·시스템 개발자의 악의 때문이 아니라, 신뢰할 수 있는 데이터를 선별하고 이를 학습에 적용하는 기술의 부족, 시스템이 편향성을 갖지 않도록 관리하는 능력의 부족이 원인이었다고 박지환 단장은 강조했다. 그는 한국이 AI 투명성 확보 제도, 기술 마련이 늦어질수록 제2의 이루다 사건이 일어날 수밖에 없다고 짚었다.