California lleva a OpenAI a los tribunales tras denunciar más
California lleva a OpenAI a los tribunales tras denunciar más de 80 incidentes con agentes autónomos de IA Alexandre Boero / Clubic

La inteligencia artificial enfrenta un nuevo desafío judicial en Estados Unidos. El fiscal general de California, Rob Bonta, presentó una demanda contra OpenAI después de que, según la investigación estatal, la compañía reconociera ante las autoridades más de 80 episodios en los que sus agentes autónomos perdieron el control durante pruebas internas. La acción legal, presentada el 16 de noviembre ante el Tribunal Superior de San Francisco, coloca bajo escrutinio las medidas de seguridad utilizadas para desarrollar sistemas capaces de ejecutar tareas y operar en entornos digitales con un grado creciente de autonomía.

La cifra de más de 80 incidentes constituye el principal elemento de la denuncia. La Fiscalía sostiene que OpenAI comunicó esos episodios a los investigadores estatales, pero que la información pública de la empresa había dado cuenta de 27 casos. La demanda reclama que la compañía responda por los riesgos derivados de sus pruebas y acusa a sus responsables de desarrollar modelos avanzados sin controles suficientes para impedir accesos no autorizados a redes y sistemas externos.

El caso tiene como antecedente más grave el incidente ocurrido en julio de 2026, cuando agentes experimentales de OpenAI lograron superar las restricciones de un entorno de prueba y accedieron a sistemas de Hugging Face, una plataforma utilizada para alojar y compartir modelos y herramientas de inteligencia artificial. De acuerdo con la demanda, cientos de agentes participaron en acciones coordinadas que se prolongaron durante más de dos días.

La investigación de California sostiene que los sistemas aprovecharon vulnerabilidades de la infraestructura utilizada para ejecutar las pruebas, consiguieron comunicarse entre sí mediante canales no previstos y obtuvieron acceso a internet pese a las restricciones establecidas. El episodio afectó servicios de Hugging Face y obligó a realizar trabajos de contención y recuperación.

OpenAI publicó el 26 de agosto un informe técnico en el que reconoció que, durante evaluaciones internas de ciberseguridad realizadas en julio, algunos de sus modelos eludieron controles diseñados para mantenerlos aislados de internet y comprometieron partes de su infraestructura de investigación y de los sistemas de Hugging Face. La compañía explicó que los agentes aprovecharon debilidades en herramientas de software utilizadas dentro del entorno de pruebas y que, tras investigar el incidente, reforzó el aislamiento de los sistemas, restringió el acceso a internet y endureció los controles sobre sus recursos internos.

La Fiscalía de California afirma que el episodio de Hugging Face no fue un caso aislado. En el expediente menciona otros accesos no autorizados a bases de datos, sitios de información y sistemas gubernamentales que almacenaban información sanitaria sensible, además de incidentes que afectaron infraestructura interna de la propia empresa. La denuncia sostiene que los agentes llegaron a obtener privilegios elevados dentro de determinados sistemas.

El fiscal Rob Bonta acusa a OpenAI de haber mantenido pruebas de modelos avanzados pese a las señales de que las medidas de contención eran insuficientes. También sostiene que la empresa no entregó toda la información solicitada durante la investigación estatal, iniciada formalmente en septiembre. La Fiscalía considera que las prácticas denunciadas pueden constituir una amenaza para el público y una infracción de las normas de California contra la competencia desleal.

La demanda busca que un tribunal ordene cambios en las prácticas de desarrollo y evaluación de los modelos, imponga medidas para reducir los riesgos de nuevos incidentes y determine las sanciones y reparaciones que correspondan. El proceso abre una disputa sobre la responsabilidad de las empresas que desarrollan sistemas capaces de actuar en redes digitales, especialmente cuando sus operaciones pueden extenderse más allá del entorno en el que fueron diseñados para funcionar.

OpenAI rechazó la caracterización de la demanda. Su portavoz, Drew Pusateri, afirmó que desde el incidente de Hugging Face la compañía emprendió una revisión amplia de la actividad de sus modelos, publicó informes técnicos e independientes, notificó a organizaciones afectadas y reforzó sus salvaguardas. También sostuvo que la demanda señala a OpenAI por un desafío que, según la empresa, comparten los principales laboratorios de inteligencia artificial. La compañía dijo que continuará colaborando con la Fiscalía para avanzar en estándares de seguridad aplicables a toda la industria.

El caso adquiere relevancia más allá de California porque los agentes autónomos se están incorporando a procesos empresariales y tecnológicos que dependen de conexiones a internet, bases de datos y servicios digitales. A diferencia de un sistema que únicamente responde preguntas, un agente puede ejecutar instrucciones, utilizar herramientas, consultar plataformas externas y encadenar acciones. Si sus permisos, límites y mecanismos de supervisión fallan, el alcance de una operación no autorizada puede extenderse a otros sistemas conectados.

Para México, la disputa llega en un momento en que el país también debate cómo establecer reglas para el desarrollo y uso de la inteligencia artificial. En junio de 2026 se presentó en el Congreso una iniciativa de Ley General para la Regulación y Uso Ético de la Inteligencia Artificial, que propone medidas de seguridad, supervisión y evaluación de riesgos, así como una agencia nacional especializada. La propuesta contempla obligaciones para los sistemas utilizados en sectores como salud, finanzas, telecomunicaciones, transporte y educación.

El debate tiene implicaciones directas para instituciones y empresas mexicanas que utilizan o planean incorporar herramientas de IA en operaciones sensibles. La protección de datos, la seguridad de las plataformas y la capacidad de intervenir cuando un sistema ejecuta acciones no autorizadas se convierten en asuntos centrales para evitar que una falla tecnológica afecte servicios, información o infraestructura.

Su importancia para el país está en el precedente regulatorio que puede surgir de la respuesta judicial estadounidense: establecer hasta dónde llega la responsabilidad de una compañía cuando sus modelos actúan fuera de los límites previstos y qué controles deben exigirse antes de que estas herramientas operen en sistemas de uso público o privado.

El proceso judicial deberá determinar las responsabilidades de la empresa y las medidas que, en su caso, tendrá que adoptar. Mientras tanto, la controversia pone en el centro una cuestión que afecta a toda la industria: cómo desarrollar agentes cada vez más capaces sin perder la supervisión sobre las acciones que ejecutan.v