Las cinco restricciones clave de la ley de IA de la UE

La votación de la Ley de Inteligencia Artificial de la Unión Europea fue aprobada por una abrumadora mayoría, pero puede que la versión final sea un poco diferente

Ryan-mosley, T. (22 de junio de 2023) Las cinco restricciones clave de la ley de IA de la UE. MIT Technology Review. https://www.technologyreview.es//s/15464/las-cinco-restricciones-clave-de-la-ley-de-ia-de-la-ue

La reciente Ley de Inteligencia Artificial de la Unión Europea ha introducido una serie de restricciones significativas para regular el uso de la IA. Estas restricciones buscan abordar los riesgos asociados con la IA y garantizar un uso responsable y ético de esta tecnología en la sociedad. En este artículo, exploraremos las principales restricciones y su impacto en diferentes áreas de la IA.

Prohibición de la IA de reconocimiento de emociones:

El borrador de la ley prohíbe el uso de la IA que intenta reconocer las emociones de las personas bajo vigilancia o en entornos como escuelas y lugares de trabajo. Esta medida busca proteger la privacidad y evitar la utilización de esta tecnología de manera invasiva. Sin embargo, la regulación de la detección y el análisis facial aún no se ha abordado en detalle, lo que indica que habrá debates y desafíos políticos en torno a este tema.

Prohibición de la biometría en tiempo real y la vigilancia predictiva en espacios públicos:

La ley también plantea la prohibición de la utilización de tecnologías biométricas en tiempo real y la vigilancia predictiva en espacios públicos. Esto será objeto de una batalla legislativa, ya que diferentes organismos de la UE deberán decidir cómo se aplicará la prohibición. Los defensores de la vigilancia argumentan que estas tecnologías son necesarias para mantener la seguridad pública, mientras que otros consideran que violan los derechos fundamentales de privacidad y autonomía.

Prohibición de puntuación social:

Otra restricción clave es la prohibición de la puntuación social, que impide que las agencias públicas utilicen datos de comportamiento social para realizar generalizaciones y perfiles de las personas. Aunque esta práctica es común en diversos campos como la concesión de hipotecas y la fijación de tarifas de seguros, la prohibición busca salvaguardar la privacidad y evitar la discriminación basada en el comportamiento social.

Nuevas restricciones para la IA generativa:

El borrador de la ley introduce restricciones específicas para la IA generativa. Se prohíbe el uso de material protegido por derechos de autor en el entrenamiento de grandes modelos lingüísticos. Además, se exige que los contenidos generados por la IA se etiqueten adecuadamente. Estas medidas buscan proteger los derechos de autor y promover la transparencia en la generación de contenido por parte de la IA.

Nuevas restricciones a los algoritmos de recomendación en redes sociales:

Los sistemas de recomendación en redes sociales ahora se clasifican como "alto riesgo" según el borrador de la ley. Esto implica que estarán sujetos a una mayor inspección y las empresas tecnológicas serán más responsables del impacto de los contenidos generados por los usuarios. Estas restricciones tienen como objetivo abordar los riesgos asociados con la desinformación y la manipulación en las plataformas de redes sociales.

La Ley de Inteligencia Artificial de la Unión Europea introduce restricciones clave para regular el uso de la IA y abordar los riesgos asociados con esta tecnología. Estas restricciones abarcan áreas como el reconocimiento de emociones, la biometría en tiempo real, la puntuación social, la IA generativa y los algoritmos de recomendación en redes sociales. Si bien estas restricciones buscan proteger la privacidad, evitar la discriminación y promover la transparencia, también plantean desafíos y debates en torno a la implementación y el equilibrio entre la regulación y la innovación en el campo de la IA.