Es urgente garantizar la "transparencia" que permita explicar y rastrear las decisiones de la IA

2024.08.12. The Fair Economy — Se planteó la opinión de que, para implementar una inteligencia artificial (IA) confiable, primero se debe garantizar la "transparencia" que permita explicar y rastrear las decisiones de la IA. Además, dado que países como Estados Unidos y la Unión Europea (UE) están creando regulaciones que exigen transparencia en la IA, también se señaló que las empresas de IA nacionales necesitan comprender dichas regulaciones para no sufrir desventajas por violarlas.

La 'Trustworthy AI International Network, TRAIN' celebró recientemente el evento '1er BEER TRAIN (Bridging Engagement Exchange Roundtable TRAIN)' bajo el lema 'Confiabilidad de la IA: todo sobre la garantía de la primera transparencia' en Antreble, Gangnam-gu, Seúl.

Durante el evento se compartieron las últimas tendencias sobre el concepto de garantizar la 'transparencia', clave en la construcción de sistemas de IA; cómo asegurarla en el terreno del desarrollo tecnológico; y las leyes, estándares internacionales y casos extranjeros relacionados.

Park Ji-hwan, director del equipo de promoción de TRAIN y CEO de ThinkforBL, dijo en su discurso de apertura: "BEER tiene el significado de vaciar los prejuicios, la desconfianza excesiva, la competencia excluyente y la regulación excesiva hacia la IA. Los problemas negativos relacionados con la IA ocurren debido a la falta de verificación de su confiabilidad, y es un área que requerirá mucha atención en el futuro".

A continuación, Ko In-seon, abogado del equipo de respuesta a la IA del bufete de abogados Won, presentó el tema '¿Qué es la transparencia de la IA exigida por la ley?'.

El abogado Ko In-seon enfatizó: "La trazabilidad y la explicabilidad son el núcleo de la transparencia de la IA". Esto significa que se debe explicar con qué fundamento la IA tomó sus decisiones y que se debe poder rastrear el proceso de toma de decisiones. Como concepto que puede implementar la transparencia de la IA, la 'IA explicable (Explainable Artificial Intelligence, XAI)' está atrayendo la atención.

Explicó la orden ejecutiva sobre IA de la administración Biden de Estados Unidos y las tendencias de la Ley de IA de la Unión Europea (UE), considerada la primera ley de IA del mundo, y subrayó: "La UE ha anunciado medidas sancionadoras de gran severidad, como multas de hasta 35 millones de euros (unos 50.000 millones de wones) o de hasta el 7% de la facturación mundial del año anterior, para las empresas que incumplan los requisitos de la Ley de IA. Por lo tanto, para que las empresas nacionales de tecnología y soluciones de IA puedan entrar en los mercados de Estados Unidos y la UE, es imprescindible cumplir con las regulaciones legales de esos países."

Ahn Seon-ho, líder del equipo de IA del Instituto de Tecnología Industrial de Corea (KTL), presentó el tema '¿Cómo debe abordarse la transparencia desde una perspectiva técnica?'.

Ahn Seon-ho, quien también es miembro experto del comité SC42 —encargado de los estándares relacionados con la IA dentro de la Asamblea Internacional de Normalización de la IA (ISO/IEC JTC1/SC42)—, señaló que se están estableciendo activamente numerosos estándares internacionales en el campo de la IA, y destacó que en ellos se aborda de manera importante la verificación e implementación de la transparencia de la IA.

Esto significa que diversos estándares internacionales de IA exigen que, respecto a los servicios y sistemas de IA, se divulgue información o se implementen funciones por cada uno de los siguientes puntos: ▲identidad e información de contacto del proveedor y de su representante autorizado; ▲características, funciones y limitaciones de rendimiento del sistema de IA; ▲propósito previsto; ▲nivel de precisión de las pruebas y la verificación, métricas de robustez y de ciberseguridad y nivel esperado (incluidas las situaciones que podrían afectar ese nivel esperado); ▲situaciones que podrían generar riesgos bajo condiciones de uso indebido; ▲información necesaria para interpretar y utilizar adecuadamente los resultados del sistema de IA; ▲medidas técnicas previstas para facilitar la interpretación de los resultados; ▲medidas de mantenimiento y gestión, incluidos los recursos de hardware necesarios, la vida útil prevista y las actualizaciones; y ▲registros (logs) que puedan recopilarse, almacenarse e interpretarse.

Cheon Seon-il, gerente del equipo técnico de confiabilidad de IA de ThinkforBL, presentó casos de países clave como Singapur, la UE y Estados Unidos, bajo el título "¿Y si la transparencia de la IA difiere según el país? ¿Cómo lo hacen los demás?".

El gerente Cheon Seon-il dijo que Singapur ha establecido una fundación sin fines de lucro como organismo consultivo técnico para el desarrollo ético de la IA y proporciona un marco de pruebas de gobernanza de la IA y un kit de herramientas de software. Además, añadió que dicho kit incluye elementos de verificación de transparencia.

Asimismo, explicó que Bélgica, Estado miembro de la UE, ha creado y opera un consorcio de investigación con la participación de tres universidades, como parte del Plan de IA de Flandes.

El director Park Ji-hwan enfatizó: "La parte ética no técnica relacionada con la IA se ha debatido públicamente a través de numerosos informes de prensa y, en consecuencia, se están estableciendo mecanismos de cumplimiento adecuados. Ahora es el momento de examinar el aspecto técnico, no solo el ético. Los principales países del mundo están promulgando leyes para resolver técnicamente la posibilidad de problemas éticos. Corea también debe dejar de quedarse solo en los aspectos éticos y morales de la IA y avanzar en el desarrollo de tecnologías y el establecimiento de sistemas relacionados para garantizar la transparencia de la IA".

De hecho, el director Park Ji-hwan subrayó que los problemas de sesgo de la IA, como el caso de los comentarios de odio hacia mujeres y minorías sexuales del chatbot Iruda ocurrido en Corea, no se debieron a la malicia de los desarrolladores de la tecnología o el sistema de IA, sino a la falta de tecnología para seleccionar datos confiables y aplicarlos al aprendizaje, y a la falta de capacidad para gestionar el sistema de modo que no presente sesgos. Señaló que, cuanto más se retrase en Corea el establecimiento de sistemas y tecnologías para garantizar la transparencia de la IA, más inevitable será que ocurra un segundo caso como el de Iruda.