Un economista de Oxford propone control democrático sobre los objetivos de la IA

Maximilian Kasy, profesor de Economía en la Universidad de Oxford, publicó un libro en el que aborda la inteligencia artificial con el lenguaje de la economía y plantea que la democracia debe tener la última palabra sobre ella. La edición alemana, titulada "Die Mittel der Prädiktion" (Suhrkamp, Berlín, 2026, 263 páginas, 30 euros), fue traducida del inglés por Andreas Wirthensohn.

Una IA es una predicción con un objetivo

Kasy explica que un sistema de IA responde una pregunta a partir de datos: si un desempleado conseguirá trabajo pronto, o qué productos llevarán a una compradora online a concretar una compra. Según el autor, "el objetivo del algoritmo es hacer una predicción que se acerque al resultado buscado". Incluye en ese esquema a modelos de lenguaje como ChatGPT, que predicen la palabra siguiente más probable según el texto ingresado.

De ahí deriva que los detalles técnicos importan poco: dado un objetivo, la mayoría de los algoritmos llega a resultados parecidos. La cuestión central, dice, es política: quién decide los objetivos de la IA en la sociedad actual. El libro usa el concepto económico de "bienestar social", lo que una sociedad debería maximizar, y sostiene que las distintas concepciones coinciden en que ampliar las opciones, recursos o capacidades de las personas es positivo.

Los "medios de predicción"

Por analogía con los medios de producción de Marx, Kasy habla de "medios de predicción": datos, infraestructura de cómputo, conocimiento técnico y energía. Los datos son el recurso más importante, aunque "los datos solos no hacen una IA". Quien controla esos medios controla también los objetivos, por lo que no deberían quedar en manos de las grandes tecnológicas. Para el autor, el control democrático de los objetivos de la IA parece "en última instancia la única solución" que garantice un uso beneficioso general. También sostiene que los enfoques regulatorios actuales, como la protección de datos, la equidad o la explicabilidad de los algoritmos, no son efectivos.

Las objeciones de la reseña

El crítico de la FAZ reconoce que el libro sirve a quienes buscan una mirada sistemática y accesible, pero señala imprecisiones. La IA clásica da respuestas a menudo verificables a posteriori, como si la compradora adquirió el producto. En la IA generativa es mucho menos claro cuándo se alcanzó o no el objetivo, por ejemplo ante el pedido de escribir una historia sobre una gaviota. Además, los modelos de lenguaje requieren centros de datos, mientras que muchos algoritmos clásicos, como el que pronostica reincidencia, funcionan en una laptop.

Otra objeción es que quien desarrolla la IA no siempre es quien la aplica. Un mismo algoritmo puede servir para pagar en un supermercado, como ocurre en China, o para identificar manifestantes y perseguirlos. Una predicción de chances laborales puede usarse para apoyar a quienes tienen menos probabilidades o, por eficiencia, para excluirlos de ayudas. Según el reseñista, aun si todos los algoritmos se construyeran para maximizar el bienestar social, las instituciones represivas encontrarían otros medios.

Una tensión sin resolver

La reseña marca una inconsistencia: el control democrático es por definición de resultado abierto, pero se pretende que los objetivos maximicen un bienestar social que, según el propio Kasy, converge entre perspectivas. Queda abierto cómo se definiría ese bienestar de forma consensuada y cómo se traduciría el control del desarrollo en control del uso. El debate que plantea el libro, quién fija las metas de la IA, parece más sólido que la receta propuesta, y es allí donde conviene seguir la discusión.