Se ha filtrado información sobre la regulación que la Unión Europea presentará pronto para controlar la Inteligencia Artificial (IA) en el territorio y que busca proteger la privacidad de la ciudadanía. Ha sido Politico quien ha conseguido acceder a esta información por ahora confidencial. La UE ya llevaba tiempo planteando la creación de normas que promuevan su uso pero respetando la privacidad.
La Comisión Europea dará a conocer el que será su primer reglamento a este respecto el próximo 21 de abril y en la información filtrada muestra que se quieren prohibir usos que desde Bruselas se consideran de alto riesgo.
Un enfoque muy diferente al que hemos visto hasta ahora en Estados Unidos y en China. En este segundo incluso, la IA se está usando para rastrear e identificar a una minoría musulmana y perseguida por el gobierno del país, los uigures, creando un registro con sus movimientos para poder revisarlo y localizar a las personas fácilmente.
Principales restricciones de la futura regulación
Primero vamos a conocer los puntos esenciales que va a tratar la que será la primera regulación de la Unión Europea al uso de la inteligencia artificial. Las restricciones de la regulación, según la información filtrada a la que también ha accedido The Verge, se centrarán en:
Prohibición del uso de Inteligencia Artificial para la "vigilancia indiscriminada". Ahí se incluyen los sistemas que rastrean directamente a las personas en entornos físicos.
Prohibición de los sistemas de IA que crean puntuaciones de crédito social. Es decir, estará prohibido juzgar la fiabilidad de una persona en función de su comportamiento social o de los rasgos de personalidad previstos a través de estas herramientas. Esto lleva tiempo practicándose en China y ya ha llevado incluso a prohibir a millones de personas viajar por poco crédito social.
Se necesitará autorización especial para el uso de "sistemas de identificación biométrica remota", como el reconocimiento facial, en espacios públicos.
Será necesario notificar a las personas cuando interactúan con un sistema de IA, a menos que sea "obvio por las circunstancias y el contexto de uso".
Nueva supervisión de los sistemas de IA de "alto riesgo", incluidos los que suponen una amenaza directa para la seguridad, como los coches autónomos; y los que tienen una alta probabilidad de afectar a la vida de alguien, como los que se utilizan para decidir si contratar a alguien o no o para decisiones judiciales, entre otros ejemplos.
La creación de un "Consejo Europeo de Inteligencia Artificial", formado por representantes de todos los países, para ayudar a la Comisión a decidir qué sistemas de IA se consideran de "alto riesgo" y recomendar cambios en las prohibiciones.
Como explica Politico, el objetivo de Bruselas es, a diferencia de la situación en Etsados Unidos, evitar que los gigantes tecnológicos tomen ventaja de esta tecnología. La UE dice que quiere un enfoque "centrado en el ser humano" que potencie la tecnología, pero que también evite que amenace las "estrictas leyes de privacidad". Esto se traduce a que el uso de la IA en temas como agilizar la fabricación de productos, atajar el cambio climático o hacee más eficiente la red energética serían bienvenidos.
Al mismo tiempo, tecnología que ya se utilizan en Europa, como los algoritmos que se emplean para escanear currículos, realizar evaluaciones de solvencia para conceder créditos, solicitudes de asilo y visado, o ayudar a los jueces a tomar decisiones, se calificarían de "alto riesgo" y estarían sujetas a mayor control.
Los sistemas de puntuación social, como los puestos en marcha en China que rastrean la fiabilidad de personas y empresas, se clasifican como "contrarios a los valores de la Unión" y van a ser prohibidos. La propuesta también quiere prohibir los sistemas de IA que causen daño a las personas manipulando su comportamiento, opiniones o decisiones.
Sanciones previstas y actuaciones permitidas
Además de regular las restricciones, en las filtraciones se puede ver cuáles serán las multras previstas para quienes incumplan la legislación. Las empresas que no cumplan las normas y abusen de la Inteligencia Artificial podrían ser multadas con hasta 20 millones de euros o el 4% de su facturación.
Cabe recordar que las normas filtradas establecen una excepción que permite a las autoridades utilizar la tecnología con mayor fleixibilidad si están luchando contra un delito grave. Es decir, en casos como los que un cuerpo de policía quiera usar la tecnología de reconocimiento facial de las cámaras de CCTV para encontrar terroristas.
