Enfoque
La Inteligencia Artificial es una realidad en nuestros días, y aun así, sigue siendo una incógnita en muchos aspectos que la rodean. Sin ir más lejos, los algoritmos como elemento intrínseco a sistemas que utilizan Inteligencia Artificial implican un conocimiento técnico para poder entender su funcionamiento, sabiendo que incluso con dichos conocimientos puede resultar muy complejo explicar determinados comportamientos algoritmicos.
Lo que está claro, es que su utilización deviene inevitable en el día a día de las personas, puesto que las cosas más comunes están rodeadas de funciones inteligentes. Esta modernización conlleva la necesidad de contar con una normativa actualizada que permita enfrentar los distintos interrogantes que pueden plantearse.
Tras un intenso debate generado a raiz de este tema, se acaba de aprobar en Europa la nueva normativa reguladora de la Inteligencia Artificial, existiendo el conocido como sistema semáforo de valoración del riesgo.
En la presente ponencia se pretende dar cuenta de aquellos puntos que se trata en la regulación europea que guardan relación con el ámbito público. Para ello se ha seguido un método de trabajo analítico consistente en el examen de normativa, doctrina y jurisprudencia sobre el asunto para poder concluir una serie de ideas clave sobre el mismo.
Por ello se comenzará conceptualizando lo que debe ser entendido por Inteligencia Artificial para posteriormente dar cuenta del procedimiento de elaboración de la norma objeto central de análisis aquí. Se tratará de poner de manifiesto distintos ejemplos de casos reales en los que se han utilizado sistemas de Inteligencia Artificial en el marco del Sector Público, por ejemplo el caso Syri de los Paises Bajos. Todo ello para dejar constancia de la realidad en el uso de estas nuevas tecnologías. Finalmente se irá desgranando los distintos puntos, dejando constancia de aquellas prácticas que van a ser consideradas como prohibidas y cuales de Alto riesgo y de las garantías de supervisión que van a entrar en estos puntos. Concretamente se aludirá a la supervisión humana como garantía de la utilización de sistemas de Inteligencia Artificial.
Gloria Ostos Mota
Comentó el 20/04/2024 a las 13:04:54
Muchas felicidades Alejandro por tu ponencia, será muy interesante conocer la publicación. Mi reflexión que te comparto es la siguiente, y me encantaría saber tu opinión. Si bien es indudable que era una necesidad regular la Inteligencia Artificial para la defensa de sus derechos fundamentales, y veremos como se supera el reto de la implementación de la norma, entre otros motivos por la velocidad de nuevos programas que se van creando como planteaba Sonia. El tema a platear es que además de proteger a los ciudadanos de los sistemas de IA que les afecten negativamente, igual de importante es reconocer los derechos de acceso de los Ciudadanos al BigData y facilitar IA para ciudadanos que les permita verificar y observar la actuación de la Administración, ¿crees que será posible o es ciencia ficción? Muchas gracias
Eva Vicente Martínez
Comentó el 21/03/2024 a las 22:15:32
Enhorabuena por tu ponencia, y su originalidad, me gustaría saber que tipo de IA se podría aplicar en la sanidad pública que garantice plenamente los derechos del paciente y sí previamente a su utilización habría que recabar el consentimiento del paciente?
Saludos cordiales.
Alejandro Villanueva Turnes
Comentó el 21/03/2024 a las 23:58:49
Estimada Eva,
En primer lugar, muchísimas gracias por su comentario. De verdad se lo agradezco.
Actualmente se está utilizando en algunos ámbitos médicos determinados sistemas de IA relativos, por ejemplo, a la obtención de un diagnóstico. Por ejemplo recuerdo una charla de un médico que señalaba que en supuestos de enfermedades o dolencias poco comunes esto permitía una comparativa de síntomas para ver si existe una coincidencia. En relación a qué sistemas aplicar en la sanidad pública, por ejemplo en el ámbito del tratamiento de enfermedades u operaciones quirúrjicas, yo entiendo que mientras cumpla con los requisitos establecidos en la normativa tanto nacional como europea podría aplicarse cualquiera, cumpliendo con lo relativo a sus mecanismos de control también.
Por su parte considero que es necesario que el paciente o la paciente sepa que se va a utilizar esta forma y que preste su consentimiento, ya que debe informársele de como se va a proceder y que conozca los riesgos.
Ricardo Acosta Torres
Comentó el 21/03/2024 a las 19:30:43
Enhorabuena por la comunicación presentada. Me surge una duda analizando el caso europeo ¿Consideras que el proceso de regulación garantice la ciberseguridad? o ¿Será necesario ir más allá del semáforo propuesto? Saludos
Alejandro Villanueva Turnes
Comentó el 22/03/2024 a las 00:00:09
Estimado Ricardo,
Muchas gracias por su comentario.
Yo creo que la regulación está bien y es necesaria, pero dados los avances que cada día rodean a la IA creo que será necesario ir actualizando la norma o complementándola para que sea 100% efectiva.
Maria Teresa Alcolado Chico
Comentó el 21/03/2024 a las 11:35:36
felicidades por la ponencia presentada, ¿crees que la UE. podría controlar con la legislación prevista, una forma más humana y accesible de IA, o por el contrario, ese afán de control podría concretarse de alguna manera en una visión unilateral de esta? dónde estarían los límites del Reglamento?, muchas gracias por tu atención.
Alejandro Villanueva Turnes
Comentó el 22/03/2024 a las 00:12:09
Estimada María Teresa,
En primer lugar, muchas gracias por su comentario.
La normativa europea, al revestir forma de Reglamento, es vinculante para los Estados miembros, por lo que los Estados tienen que cumplir con lo dispuesto en él y actuar en los límites que establece su contenido.
Yo creo que el Reglamento está pensado para garantizar un respeto a los derechos de las personas en casos de sistemas de IA que tienen o pueden tener una incidencia claramente negativa en ellos.
Por lo que a mi respecta soy de los que considera que en todos los sistemas de IA que se utilicen en el ámbito público con incidencia en la ciudadanía y en su esfera, deberían tener una supervisión humana a modo de control para evitar que se produzcan sesgos o discriminaciones, Esto hoy en día lo tenemos, por ejemplo, en las decisiones automatizadas al amparo de la normativa de protección de datos que prevé el derecho a la intervención humana. También para los sistemas de IA más riesgosos se prevé en el nuevo reglamento la presencia humana a modo de control, por lo que es un buen paso regulatorio.
Gracias de nuevo
Antonio Quirós-Fons
Comentó el 21/03/2024 a las 11:01:41
Muchas gracias por su ponencia. Agraadecería conocer su opinión sobre la eficacia práctica del sistema semáforo de valoración del riesgo y también sobre el margen de discrecionalidad de los Estados miembros en cuanto a la supervisión humana como garantía de la utilización de sistemas de Inteligencia Artificial.
Alejandro Villanueva Turnes
Comentó el 22/03/2024 a las 00:05:33
Estimado Antonio.
Gracias por su comentario.
Desde mi punto de vista creo que el sistema planteado en la legislación es adecuado, pero que se requerirán posteriores adaptaciones en atención a los avances que los sistemas de IA vayan experimentando. Por su parte el Reglamento europeo es vinculante para los Estados miembros, por lo que dentro de los límites marcados por él es donde se moverá la discrecionalidad que tengan.
Además, en relación a la supervisión humana, hay determinadas previsiones normativas aplicables a Estados que ya se aplican y son compatibles. Por ejemplo, cuando una decisión automatizada se encuadre dentro de la normativa de protección de datos, la persona a la que afecta esta decisión tiene derecho a solicitar la intervención humana.
Si tiene alguna duda o no le ha quedado clara la respuesta no dude en decirme sin problema
José Miguel Iturmendi Rubia
Comentó el 20/03/2024 a las 23:29:46
Buenas noches. Enhorabuena por tu interesante aportación.
Tengo una pregunta: ¿te parece que la regulación europea de la IA podrá traducirse en un obstáculo para la innovación tecnológica?
Muchas gracias por todo
Alejandro Villanueva Turnes
Comentó el 22/03/2024 a las 00:16:43
Estimado José Miguel,
En primer lugar muchas gracias por su comentario y por su pregunta.
Creo que su pregunta tiene una respuesta compleja. A priori puede pensarse que puede ser un obstáculo, aunque si atendemos a lo que subyace a su aprobación, lo que se pretende más bien es intentar que esta innovación se lleve a cabo de una manera confiable. Piénsese que al aplicarse a Europa, si se quiere operar aquí habrá que adaptarse a lo estipulado en la normativa europea. Otra cosa es que esto se consiga o finalmente sea una carga para la innovación y esta merme por desistir del cumplimiento haciéndose este demasiado "pesado", pero creo que habrá que esperar para comprobarlo con la aplicación efectiva de la norma.
Paloma Bárcena López
Comentó el 20/03/2024 a las 16:30:23
Buenas tardes:
En primer lugar, quiero felicitarte por tu interesante ponencia. Mi pregunta es la siguiente: ¿Qué delitos crees que se van a cometer en el futuro contra la Administración pública utilizando inteligencia artificial?
Un saludo
Paloma Bárcena López
Alejandro Villanueva Turnes
Comentó el 22/03/2024 a las 00:19:33
Estimada Paloma,
En primer lugar, muchas gracias por sus palabras y por su comentario.
En relación a lo que me plantea, yo creo que la clave en ese punto va a estar en el "engaño" que se pueda llevar a cabo de sistemas de Ia que se utilicen para el reparto de ayudas o recursos públicos, intentando burlar a algoritmo o al sistema que se puedan encargar, en su caso, de llevar a cabo este reparto. Creo que eso va a dar problemas sino se hace un correcto control por parte de los empleados y las empleadas públicas.
Seguramente pueda haber otros pero ese es uno de los que se me viene a la mente.
Sonia Valle de Frutos
Comentó el 20/03/2024 a las 09:27:51
Estimado Alejandro, lo primero, quiero agradecerle su intervención por el tema tan sumamente actual que abordas en la ponencia, como es la reciente norma legislativa sobre IA aprobada por el Parlamento Europeo que entrará plenamente en vigor en 2026. En este sentido, tengo dos cuestiones, por un lado, con la vertiginosa rapidez en la que se están desarrollando las nuevas IAs, ¿te parece que en dos años la normativa se habrá quedado obsoleta o qué parte de ella? . Por otro lado, el sistema semáforo que describes para categorizar los riesgos del uso de la IA, ¿ hasta qué punto se puede considerar un sistema de protección teniendo en cuenta los valores de la equidad y ética universal? . Muchas gracias.
Alejandro Villanueva Turnes
Comentó el 22/03/2024 a las 00:25:36
Estimada Sonia,
En primer lugar, muchas gracias por sus amables palabras y por su comentario y preguntas.
En relación a lo que me plantea, creo que el avance tan rápido que tiene el mundo de los sistemas de IA va a implicar continuas actualizaciones de la norma para poder estar al día, es una norma que, para ser efectiva, debe ir adaptándose a las nuevas realidades que vayan apareciendo y que no se contemplen como tal en el Reglamento.
En relación al sistema semáforo, creo que es un sistema que a priori está bien planteado en el sentido de que persigue valorar el riesgo en función de la incidencia que los sistemas puedan hacer en los derechos de las personas, sin embargo, incluso los permitidos deben estar acompañados de un uso que sea razonable, lo cual queda en manos de los operadores y operadoras. En todo caso, creo que para que sea efectivo siempre debe subyacer un control por parte del ser humano que supervise la actuación de los sistemas de IA.
Deja tu comentario
Lo siento, debes estar conectado para publicar un comentario.
Organizan
Colaboran
Configuración de Cookies
Utilizamos cookies para mejorar su experiencia y las funcionalidades de esta web. Ver política de cookies