AI 시스템 개발서 '투명성' 확보할 실질적 방안 모색

(공정경제) 박광하 기자 = '신뢰할 수 있는 인공지능 국제연대(TRAIN)'는 7일 서울 강남구 앙트레블에서 '인공지능(AI) 신뢰성' 세미나를 개최한다고 밝혔다.

TRAIN에 따르면, 이번 행사는 새로 시작하는 첫 정기 세미나로, TRAIN은 올해까지 AI 신뢰성 세미나를 여섯 차례 진행한다.

첫째 행사에선 최신 법률과 표준 등을 바탕으로 AI 시스템 개발 과정에 필요한 '투명성(Transparency)'의 실질적인 확보 방안을 집중적으로 다룰 예정이다. 이어, 데이터 거버넌스와 편향, AI 모델·시스템의 신뢰성 등을 순차적으로 다룰 계획이다.

법무법인 원, 한국산업기술시험원(KTL), 씽크포비엘 등 다양한 기관, 기업 소속 전문가가 각각 법률·표준·기술 분야 발제와 토론을 진행한다. 투명성이 무엇이고, 기술 개발 현장에서 이러한 투명성을 확보할 때 실제 적용할 수 있는 최신 사례와 정보가 무엇인지 소개한다.

첫째 발표자인 ​법무법인 원 AI대응팀의 고인선 변호사는 '법에서 요구되는 AI 투명성' 주제로 AI 투명성 확보를 위해 법률적으로 고려할 사항이 무엇인지 정의한다.

AI 국제표준화 총회(ISO/IEC JTC1/SC42) 중 SC42 전문위원이기도 한 안선호 KTL AI팀장은 '국제 표준 AI 투명성의 정의와 체계 분석' 주제로 기술적 관점에서 투명성이 어떻게 다뤄져야 하는지를 제시한다.

신뢰할 수 있는 AI 개발 안내서 제작을 총괄한 바 있는 천선일 씽크포비엘 책임연구원은 'AI 투명성 적용 국제 사례' 주제로 AI 시스템 개발 시 필요한 투명성 요구 사항과 국내외 적용 사례를 비교·제시한다.

TRAIN은 "이번 세미나가 급변하는 글로벌 AI 기술 규제 추세에 대응할 실질적 방안을 모색한다는 점에서 의미가 있다. 유사 주제를 다루는 여타 세미나 등과 비교했을 때 차별화된 가치를 부여할 것이다. 강연자의 일방적 정보 전달에 그치지 않고 청중과 양방향 소통할 수 있게, 자유로운 분위기에서 행사가 진행되도록 준비했다"고 밝혔다.

이어 "AI 기술 현장에서 규제 대응에 어려움을 겪는 실무자가 주제를 비교적 쉽게 이해하고 접근할 수 있도록 철저히 실용적 관점에서 행사를 준비했다. TRAIN은 컨설팅·교육·자격증 사업과 별개로, 정기 세미나는 물론 행정 실무자를 위한 전국 순회 강연회를 여는 등 현장에서 쓸모있는 정보를 전달하는 데 주력할 계획"이라고 말했다.

한편, TRAIN이 주최하고 씽크포비엘과 법무법인 원이 공동 주관하는 이번 세미나는 한국산업기술시험원(KTL), 전주정보문화산업진흥원(JICA), 부산IT융합부품연구소(CIDI), 한국소프트웨어산업협회(KOSA), 한국산업지능화협회(KOIIA), 국제인공지능윤리협회(IAAE), 캣벨컴퍼니 등이 후원한다.