2024.06.04. The Fair Economy — El Gobierno surcoreano acordó cooperar para que datos reales, como las grabaciones de llamadas de vishing, puedan utilizarse en el desarrollo de sistemas de inteligencia artificial (IA), entre otras cosas mediante su suministro tras un proceso de seudonimización. Se espera que esto impulse el desarrollo de diversas tecnologías y servicios de IA para combatir el vishing.
La Comisión de Protección de Información Personal (PIPC), el Ministerio de Ciencia y TIC (MSIT), la Comisión de Servicios Financieros (FSC), el Servicio de Supervisión Financiera (FSS), el Instituto Nacional de Ciencias Forenses (NFS) y la Agencia de Internet y Seguridad de Corea (KISA) anunciaron el día 3 que firmaron, en el Complejo Gubernamental de Seúl, el "Memorando de Entendimiento Mutuo para la Prevención del Vishing Basada en IA y Datos".
Hasta ahora, el Gobierno ha venido impulsando diversas políticas de IA y datos para combatir el vishing, uno de los delitos financieros más representativos que afectan la vida cotidiana de los ciudadanos. En noviembre del año pasado, las "Tareas para la Activación de la Economía de Datos", publicadas conjuntamente por los ministerios competentes, incluyeron el apoyo al desarrollo de servicios de IA del sector privado para frenar la propagación del vishing, y en abril de este año el MSIT, la FSC, la FSS y las asociaciones de telecomunicaciones y finanzas firmaron el "Memorando de Entendimiento entre los Sectores de Telecomunicaciones y Finanzas para Reforzar la Respuesta y la Cooperación frente a los Delitos Financieros que Dañan la Vida Cotidiana".
Con este nuevo acuerdo, la PIPC, el NFS y KISA se incorporan también al sistema de cooperación para combatir el vishing, lo que amplía considerablemente el alcance y la profundidad de la colaboración entre instituciones.
Suministro de datos de llamadas a empresas que desarrollan IA de prevención
A través de este acuerdo, cooperarán para que los datos reales de llamadas de vishing en posesión de las autoridades financieras y los organismos de investigación puedan suministrarse a las empresas privadas que desarrollan IA de prevención del vishing.
Cooperarán para que las empresas privadas, como las operadoras de telecomunicaciones, puedan recibir datos de llamadas de vishing de la FSS, el NFS y otras instituciones al desarrollar tecnologías y servicios de IA de prevención, y utilizarlos para entrenar modelos de IA y realizar pruebas de rendimiento, entre otros fines.
La FSS seguirá suministrando al NFS los datos de voz de las llamadas recopilados a través de las denuncias de las víctimas de vishing, con fines de apoyo a la investigación científica, y el NFS establecerá un sistema de intercambio de datos mediante el cual, tras un procesamiento previo que incluye la desidentificación, suministrará esos datos a las empresas privadas que los necesiten.
La PIPC y KISA examinarán, respecto de las cuestiones que puedan surgir en virtud de la "Ley de Protección de Información Personal" durante los procesos de suministro, recopilación y uso de datos, medidas de mejora regulatoria como la interpretación de la normativa y la concesión de excepciones para pruebas de concepto, con el fin de apoyar un uso seguro de los datos; asimismo, respaldarán los procesos de seudonimización de datos y la implementación de medidas de seguridad a través de programas de consultoría integral sobre el uso de información seudonimizada, entre otras iniciativas.
Fomento de la cooperación entre los sectores de telecomunicaciones y finanzas
Fomentarán y apoyarán la cooperación entre los sectores de telecomunicaciones y finanzas para que puedan desarrollarse diversas soluciones de IA de prevención del vishing.
La FSC, la PIPC y el MSIT buscarán activamente tecnologías y servicios de IA de prevención del vishing basados en la cooperación entre los sectores de telecomunicaciones y finanzas, y explorarán vías de interpretación normativa y mejora regulatoria para que puedan impulsarse sin infringir la legislación pertinente. En caso de ser necesario, elaborarán junto con la PIPC medidas de cumplimiento de la normativa de protección de datos personales durante el proceso de desarrollo del servicio, y recurrirán también al "sistema de revisión previa de idoneidad" de la PIPC, que exime de sanciones conforme a la Ley de Protección de Información Personal a las empresas que cumplan dichas medidas.
Impulso de proyectos gubernamentales de I+D para tecnologías de respuesta
Planificarán e impulsarán, bajo liderazgo del Gobierno, proyectos de investigación y desarrollo (I+D) de tecnologías para combatir el vishing.
El MSIT y la PIPC planificarán e impulsarán proyectos de I+D liderados por el Gobierno para que puedan desarrollarse tecnologías innovadoras de detección y prevención del vishing. El MSIT, junto con expertos del sector, planificará los proyectos concretos y aportará el presupuesto, mientras que la PIPC identificará mejoras regulatorias relacionadas con la "Ley de Protección de Información Personal" durante el proceso de investigación y, si es necesario, impulsará también excepciones para pruebas de concepto.
Por otra parte, como primer resultado de esta colaboración entre ministerios, SKT desarrollará un servicio de IA para detectar y prevenir el vishing. Este servicio incluirá, entre otras funciones, la capacidad de determinar en tiempo real, a partir del contexto de la llamada, si existe sospecha de vishing y de notificarlo al propio usuario o a sus familiares.
Por ejemplo, el servicio no solo detectará las palabras clave o los patrones habituales del vishing, sino que, mediante el análisis de las características del contexto de la llamada, reconocerá de inmediato diversas situaciones de vishing —como la suplantación de organismos de investigación o la solicitud de información personal con el pretexto de una transacción financiera— y las clasificará como llamadas sospechosas. Se espera que, al analizar el contenido de las llamadas mediante IA en lugar de limitarse a bloquear líneas sospechosas, sea posible responder con mayor eficacia a métodos delictivos que cambian con rapidez.
SKT detectará el vishing en el propio dispositivo, sin enviar datos al servidor
SKT tiene previsto reforzar también la protección de la información personal aplicando tecnología de IA "on-device", que procesa los datos de las llamadas dentro del propio terminal sin enviarlos a un servidor. Para aplicar esta IA on-device es necesario implementar un modelo de lenguaje pequeño (sLM), y para desarrollar un sLM de alto rendimiento resultan imprescindibles datos de buena calidad. Por este motivo, SKT ha venido solicitando a la PIPC, la FSS, el NFS y KISA, entre otros, el suministro de los datos de llamadas de vishing en posesión de la FSS y el NFS.
Las instituciones involucradas han mantenido conversaciones estrechas para proteger los derechos de los titulares de la información y, al mismo tiempo, garantizar un rendimiento significativo de la IA. Como resultado, se ha establecido un plan por el cual el NFS convertirá en texto unos 21.000 registros de llamadas y, con el asesoramiento de la PIPC y KISA, desidentificará de forma segura información sensible como los nombres y números de cuenta de las víctimas antes de suministrarla a SKT. Actualmente se está llevando a cabo la seudonimización, y se prevé completar el procesamiento de los datos y entregarlos durante el mes de junio.
Una vez que reciba los datos, SKT perfeccionará el rendimiento del modelo mediante un ajuste fino (fine tuning), lo incorporará a un prototipo para su validación y, posteriormente, lanzará el servicio. Además, seguirá recibiendo datos de manera continua para utilizarlos en la actualización del modelo.
Énfasis en la apertura y uso seguros de los datos de llamadas
Además, la PIPC ha recibido recientemente solicitudes de examen relacionadas con el desarrollo de servicios de IA de prevención del vishing por parte de varias empresas, entre ellas operadoras de telecomunicaciones, y tiene previsto mantener conversaciones estrechas con la FSC, el MSIT y otras instituciones.
El MSIT está planificando e impulsando, para el próximo año, un proyecto de I+D para la detección temprana de nuevos tipos de vishing, y junto con la PIPC está debatiendo cómo utilizar de forma segura los datos necesarios para el desarrollo tecnológico.
Hasta ahora, los datos de las llamadas de vishing denunciadas por las víctimas se utilizaban únicamente con fines de investigación posterior a los hechos, pero gracias a este acuerdo, a partir de ahora también podrán emplearse en el desarrollo de IA orientada a la prevención.
Las instituciones involucradas tienen previsto abrir activamente los datos de llamadas de vishing a las empresas privadas que cuenten con sistemas fiables de protección de información personal y seguridad de la información, cuando estas los necesiten para desarrollar tecnologías destinadas a prevenir delitos que afectan la vida cotidiana de los ciudadanos.
0 comentarios
Aún no hay comentarios.