Es la primera ley integral del mundo sobre Inteligencia Artificial y este jueves entra en vigor en la Unión Europea, haciendo historia, aunque su aplicación obligatoria comenzará en dos a?os. Se trata de una norma que pretende mejorar el funcionamiento del mercado de la IA introduciendo límites en su desarrollo y utilización, según detalla el propio texto. 

Concretamente, la norma habla de "promover la adopción de una inteligencia artificial (IA) centrada en el ser humano y fiable, garantizando al mismo tiempo un elevado nivel de protección de la salud, la seguridad y los derechos fundamentales consagrados en la Carta de los Derechos Fundamentales de la Unión Europea". 

Para ello, la ley detalla las prácticas que estarán prohibidas, los sistemas que se consideran de alto riesgo y las sanciones que se impondrán a quienes incumplan la ley, entre otras regulaciones. 

?Qué pasará con las IA de uso general como ChatGPT?

Son pocos los usuarios de internet que aún no han hecho uso de Gemini  o GPT para generar texto, imagen, vídeo y audio. Se trata de modelos de IA de uso general que están disponible en el mercado a través de bibliotecas, de interfaces de programación de aplicaciones (API), como descarga directa o como copia física, y pueden modificarse o perfeccionarse y transformarse en nuevos modelos.

Sin embargo, el reglamento entiende que, aunque los modelos son componentes esenciales de los sistemas y forman parte de ellos, no constituyen por sí mismos sistemas de IA. Además, reconoce que pueden tener componentes de IA libres y de código abierto o incluso divulgarse bajo una licencia libre y de código abierto, destacando la necesidad de tener un alto grado de transparencia. 

Esto quiere decir que tendrán que especificar si un texto, canción o fotografía se han generado a través de dicha tecnología y garantizar que los datos que se han empleado para entrenar a los sistemas respetando los derechos de autor.

?Qué prohíbe el nuevo reglamento de IA?

Seis meses después de la entrada en vigor del reglamento, en enero de 2025, quedará totalmente prohibida la introducción en el mercado o la puesta en servicio de determinadas IA por considerarlas de riesgo inaceptable.

Entre ellos, estarán prohibidos los sistemas de IA que sean capaces de trascender la conciencia de una persona con técnicas deliberadamente manipuladoras, enga?osas o subliminales con el objetivo o el efecto de alterar el comportamiento de una persona o un colectivo de personas y les provoque un perjuicio considerable.

Asimismo, estarán igualmente prohibidos aquellas IA que puedan provocar un perjuicio considerable a un determinado colectivo por su edad, discapacidad, situación social o económica específica.

Del mismo modo, estarán prohibidos los sistemas creados para intentar deducir las emociones de una persona, -excepto cuando sea por motivos médicos o de seguridad- y aquellas que creen bases de datos de reconocimiento facial mediante la extracción no selectiva de imágenes faciales de internet, entre otras.

Las IA de alto riesgo y otras clasificaciones

Con el objetivo de que los usuarios europeos puedan confiar en lo que ofrece la inteligencia artificial, se clasificarán los sistemas en base al riesgo que suponen. Estos son los cuatro niveles: 

Riesgo mínimo: La ley permite el libre uso de este tipo de sistemas.

Riesgo limitado: Dicho nivel comprende los riesgos asociados con la falta de transparencia en el uso de la inteligencia artificial. Esto quiere decir que los textos o canciones –por ejemplo– tienen que estar etiquetados como contenido creado por IA.

Riesgo alto: Estos sistemas quedan sujetos a obligaciones estrictas antes de ser comercializados, por consiguiente, deben pasar por registros de actividad para evaluar su cumplimiento.

Riesgo inaceptable: Este punto restringe por completo los sistemas de inteligencia artificial, debido a que son una clara amenaza para la seguridad, los medios de vida y los derechos de las personas.

Algunos de los sistemas considerados de alto riesgo son; los que afecten a la gestión de infraestructuras críticas como redes de energía, transporte o suministros de agua, los que realicen perfiles de personas o se utilicen para contratar a empleados, los que afecten a servicios privados o público, como evaluaciones de crédito, la sanidad o las llamadas de emergencia, los que se utilicen en procesos democráticos, como unas elecciones o los que se usen en el ámbito educativo, como los que evalúen los resultados del aprendizaje del alumnado.

Fuente: 20Minutos