Europa y la IA: un futuro tecnológico en manos del capital

Partiendo de la caracterización marxista del Estado y la legislación, este artículo examina críticamente el nuevo Reglamento de Inteligencia Artificial de la Unión Europea, explorando sus implicaciones, riesgos políticos y límites. Se señala la falta de atención a cuestiones laborales, sociales y medioambientales y se aboga por el control democrático y planificado de las nuevas tecnologías, orientada hacia las necesidades humanas.

El nuevo Reglamento sobre Inteligencia Artificial (IA) de la Unión Europea, que busca establecer un marco regulatorio para el desarrollo y despliegue de sistemas de IA en la región, ha generado amplias expectativas y debates sobre su impacto en los derechos de la ciudadanía. Estos debates han sido especialmente intensos tras la eclosión de sistemas de IA generativa tales como DALL-E, y ChatGPT de OpenAI, Bard y Gemini de DeepMind, y modelos de otros laboratorios, centrándose sobre todo en las implicaciones sociales, éticas y ecológicas de estas tecnologías. La norma, que aún debe ser ratificada y que, previsiblemente entrará en vigor a finales de 2026, se convertirá en el primer texto que regula de forma completa los usos de los sistemas de IA en el mundo.

La intención de esta legislación es la de garantizar tanto la seguridad de estos sistemas como la protección de derechos fundamentales de los usuarios europeos, tales como incrementar la transparencia de la IA generativa (hasta ahora, muy opaca) y reducir la presencia de sesgos sexistas, racistas y similares. El elemento central de la ley es la clasificación de los posibles usos de esta tecnología según sus riesgos, y esto da lugar a una serie de medidas a adoptar. Estas incluirían la prohibición de los usos más abusivos, como pueden ser algunos tipos de sistemas biométricos; o la extracción masiva de imágenes que permitan crear bases de datos de reconocimiento facial.

Si bien estos límites son correctos y fruto de un trabajo de años de diversos activismos digitales, hay varias preguntas que debemos hacernos.

¿Deberían preocuparnos algunos de los “usos permitidos”?

Por desgracia, sí. El texto actual permitiría, previa autorización judicial, el uso con fines policiales de algunos sistemas de identificación biométrica en espacios públicos para la persecución de determinados delitos. Como comunistas, sabemos lo que supone una herramienta así para la represión política y social, y que cualquier expresión de descontento popular podría entrar fácilmente en esos “determinados delitos”, sobre todo en el contexto que vive la UE de múltiple crisis del sistema, rearme represivo de sus Estados y crecimiento de las posiciones de extrema derecha. No hay que ser muy imaginativas, ya que la reciente represión a Futuro Vegetal en España, por considerarse “organización criminal”, cabría en este reglamento.

• ¿Pueden realmente cumplirse los derechos declarados en el reglamento?

No con seguridad. Por desgracia, es muy fácil que las usuarias veamos nuestros derechos ignorados en internet.

El poder económico y político de las grandes tecnológicas es prácticamente absoluto. La UE en lugar de enfrentarse a esas empresas están organizando ese mercado dentro de sus fronteras

Los sistemas de IA no caen impolutos desde el cielo, sino que surgen de un contexto en el que el poder económico y político de las grandes tecnológicas es prácticamente absoluto. En este contexto, y a pesar de las apariencias, la Unión Europea no está enfrentándose a las empresas que desarrollan sistemas de IA, sino organizando este mercado dentro de sus fronteras. La UE funciona cómo “la junta que administra los negocios comunes de la clase burguesa”, siguiendo la célebre cita del Manifiesto.

El reglamento puede estar fijando algunos derechos para la ciudadanía europea pero, sobre todo, está poniendo en blanco sobre negro los criterios para la acumulación capitalista en torno a los sistemas de IA en Europa. La IA se ha convertido en un componente esencial de diversas industrias y sectores. Por tanto, para la UE, es crucial establecer bajo qué criterios va a permitir que las empresas tecnológicas del resto de potencias capitalistas actúen en su territorio.

Incluso cuando parece que estas normas suponen un problema para las empresas tecnológicas, éstas no tardan en desarrollar mecanismos para saltarlos, como las recientes ofertas de “suscripciones anti-tracking” en periódicos online. Y aunque la norma establece multas para los incumplimientos, tampoco son una preocupación. El año pasado, Google, Amazon, Apple, Microsoft y Meta acumularon tres mil millones de dólares en multas. Todas han recuperado esa cantidad en la primera semana de 2024.

• ¿Qué hay de las implicaciones sociales, laborales o medioambientales de la IA?

Nos gustaría decir que son temas con protagonismo en el Reglamento, pero la verdad es que no.

En primer lugar, hay una cuestión en la que cualquier legislación va tarde, y es que el desarrollo de los sistemas de IA se ha traducido en un proceso de privatización del conocimiento común. Compañías como OpenAI se apropian del conocimiento fruto del esfuerzo combinado a nivel mundial de comunidades académicas, científicas, técnicas, artísticas, y de otros tipos, para hacer funcionar sistemas privados y opacos. Incluso mejoran sus capacidades gracias al trabajo gratuito de los usuarios, cuyos datos y pruebas han sido esenciales en su desarrollo.

En lo referente a lo laboral, se clasifican como de alto riesgo los sistemas que participan de algún modo en las relaciones laborales con el fin de proteger a las trabajadoras de los posibles sesgos discriminatorios de estas herramientas, así como para proteger su privacidad de cara a sistemas que midan su rendimiento. Para que estos derechos se cumplan, los sindicatos de clase van a tener un papel decisivo en su vigilancia y ampliación. Y desgraciadamente, no encontramos referencias a la incertidumbre que, bajo el sistema capitalista, supone para muchas trabajadoras la automatización de tareas y procesos productivos.

Tampoco se dice nada de las dinámicas imperialistas de deslocalización en las que las industrias de este sector incurren. Destaca el caso de OpenAI, destapado por Time, en el que se denunciaba que esta empresa había recurrido a la mano de obra pseudo esclava en Kenia para el etiquetado de datos.

Por último, encontramos muy escasas referencias al impacto medioambiental de las infraestructuras necesarias para que estos sistemas funcionen. Se menciona un requisito abstracto de “sostenibilidad medioambiental”, pero no se habla de las cantidades de energía consumidas por estos sistemas; ni del consumo de agua de los centros de datos que los alojan; ni de las consecuencias humanas y geopolíticas de la extracción de los materiales que requieren.

Como marxistas, nos preocupamos por la dirección que toma este avance tecnológico que está en manos privadas y vive en el contexto de las sociedades capitalistas

• Todo esto está muy bien, pero… ¿Qué hacemos?

Con todo lo expuesto, no tratamos de adoptar una posición tecnófoba o contraria a los avances tecnológicos. No estamos ciegos y somos conscientes de los beneficios y oportunidades que se abren con el desarrollo de los sistemas de IA. Algunos de nosotros trabajamos en el sector tecnológico y es una herramienta que nos facilita mucho el día a día. Pero, como marxistas, nos preocupamos por la dirección que toma este avance tecnológico que está en manos privadas y vive en el contexto de las sociedades capitalistas.

En sus manos, la IA es otra herramienta más que amplía la dominación del capital a costa de miseria, recursos naturales y derechos democráticos conseguidos con la lucha. Frente al oscuro futuro que ofrecen las grandes tecnológicas, es posible repensar el desarrollo tecnológico sobre la base de la planificación y el control democrático, abriendo todas sus posibilidades a la satisfacción de las necesidades humanas, no del capital. Es una tecnología que, orientada correctamente, puede servir para usos tan diversos como:

• Mejorar nuestros servicios públicos, especialmente la atención médica, como casos recientes en que se ha utilizado IA para detectar personas con algún riesgo para tratarlo desde la medicina preventiva, en oposición al uso que da la sanidad privada: que puede prever qué pacientes les serán más costosos para negarles sus servicios.
• Reducir vertiginosamente la jornada laboral sin pérdida de ingresos y multitud de tiempo para vivir, en oposición a un futuro de desempleo masivo.
• Optimizar los recursos energéticos en un contexto de decrecimiento, en oposición a su actual depredación.

Como decía Marcelino Camacho, “todo lo que hay de bello y útil en la sociedad es creado por el trabajo, no por el capital”. Es desde esta base que defendemos que los procesos de diseño y desarrollo de esta tecnología deben ser sometidos al control de las trabajadoras y usuarias, porque nos sirven y nos pertenecen. Pero esto no va a ocurrir de la noche a la mañana. Por un lado, las trabajadoras y sus organizaciones deben pugnar por ocupar cada vez más espacios, que hoy son del capital, en la toma de decisiones. En el mundo que se nos presenta, es clave que la acción sindical vaya más allá y comience a plantear debates sobre la propiedad y el rumbo de los grandes sistemas y herramientas tecnológicas. Por otro lado, las usuarias —es decir, el resto de trabajadoras— debemos continuar presionando desde fuera por defender nuestros derechos mediante todos los medios disponibles, incluidos los legales.

La planificación democrática de la tecnología es un proceso mucho más lento y costoso que la aprobación de un Reglamento, pero entendemos que es desde aquí desde donde puede orientarse el desarrollo tecnológico en un sentido socialista.