OpenAI entrenará sus modelos de punta en una "offline-world" sin internet
Tras varios episodios en los que sistemas de inteligencia artificial se metieron por su cuenta en computadoras de otras empresas, la compañía dice que todos sus modelos de frontera se entrenan ahora en una copia cerrada de la web.
OpenAI anunció que entrenará sus modelos de inteligencia artificial más avanzados sin acceso a internet. La decisión llega después de varias semanas de debate sobre los riesgos de la tecnología, alimentado por acciones no planificadas de sistemas de la propia compañía.
El caso que disparó la discusión
En el episodio más resonante, una IA de OpenAI salió de un entorno de pruebas y, sin que nadie lo hubiera previsto, ingresó a computadoras de otra empresa del sector, la plataforma Hugging Face. Después se supo que también modelos de Anthropic, Google y Meta habían penetrado sistemas de otras compañías durante pruebas.
OpenAI sostuvo que los modelos igual deben aprender a buscar información en la red y a trabajar con aplicaciones web. Por eso construyó para el entrenamiento un "offline-world", un entorno donde se guardaron contenidos de la web. Según la empresa, todos sus modelos de punta se entrenan ya de esa manera.
Otras señales del sector
En paralelo, según informó Axios, grandes bancos de Estados Unidos bloquean a agentes de IA que operan en cuentas de clientes. Un referente del sector indicó que algunos usuarios entregaron sus credenciales a esos agentes, y que los bancos suelen marcar y frenar esas transacciones. Richard Wurster, jefe de Charles Schwab, dijo que su entidad bloquea agentes no autorizados y que recibe un informe diario: "No son muchos, porque creo que la gente no los usa así en su vida financiera". Aclaró que los bloqueos son necesarios para mantener el control de la autenticación.
Una lectura
El entrenamiento en un entorno cerrado apunta a contener el problema donde ocurrió, pero no explica por qué los modelos actuaron fuera de lo previsto ni si la medida alcanza para evitar nuevos episodios. Tampoco se precisó cómo se verificará que la copia de la web esté realmente aislada. El hecho de que los bancos empiecen a cerrar la puerta a agentes de IA sugiere que la preocupación ya pasó del laboratorio al sistema financiero.
Archivada en