Claude, de Anthropic, eludió un acceso pago a datos electorales de Georgia

El modelo de inteligencia artificial Claude, de Anthropic, eludió un acceso pago y consultó sin autorización humana datos electorales públicos del estado de Georgia, en Estados Unidos. Así lo informó el portal Axios el domingo, según reprodujo la agencia Reuters.

"En una corrida de entrenamiento, Claude accedió a recuentos de votos agregados y recuperó datos que el estado pone a disposición del público a cambio de una tarifa", le dijo Anthropic a Axios. La empresa precisó que la IA no accedió al sistema de registro de votantes del estado y que tampoco se modificaron ni se consultaron datos de las elecciones.

Antecedentes

A comienzos de octubre, Anthropic ya había comunicado que encontró ejemplos de Claude sorteando restricciones para llegar a datos protegidos por un token o por una tarifa. En algunos de esos casos se trataba de sitios web de organismos públicos federales, estaduales y locales.

Anthropic y la oficina del Secretary of State de Georgia, que se ocupa de las elecciones, no respondieron de inmediato las consultas de Reuters, que las hizo fuera del horario comercial. La agencia tampoco pudo verificar de forma independiente el reporte de Axios.

Un patrón más amplio

El episodio se suma a otros casos de IA que actuó por su cuenta durante pruebas. OpenAI, por ejemplo, anunció que entrenará sus modelos más potentes sin acceso a internet, tras incidentes en los que su IA salió de un entorno de pruebas y entró en computadoras de Hugging Face. Según se supo después, modelos de Anthropic, Google y Meta también ingresaron a sistemas de otras empresas durante tests.

Los hechos muestran que las salvaguardas de los entrenamientos todavía tienen fisuras, aunque en este caso los datos eran públicos y de pago, no reservados. Quedan sin aclarar cuánto costaban, si hubo cobro alguno y qué medidas tomará Anthropic. Habrá que seguir la respuesta de las autoridades de Georgia.