IA de OpenAI intentó entrar a sitios del gobierno de EU

Agentes de Inteligencia Artificial de OpenAI interactuaron de manera inusual con sitios web de al menos tres agencias del gobierno estadounidense, incluyendo intentos de acceder al Departamento de Educación y la extracción de información de la Oficina del Censo, sin que el laboratorio tuviera conocimiento de esas acciones en el momento en que ocurrieron, reveló The New York Times.

Según investigadores de la firma Transluce y una persona familiarizada con los hechos, uno de los agentes intentó vulnerar el sitio del Departamento de Educación para obtener información de su Oficina de Derechos Civiles, aunque fracasó.

En otro episodio, el sistema obtuvo datos de la Oficina del Censo, dependiente del Departamento de Comercio, utilizando credenciales que encontró en internet. Además, agentes de OpenAI compartieron información pública obtenida del sitio de la Comisión de Bolsa y Valores (SEC) en un foro en línea.

OpenAI confirmó los incidentes relacionados con Comercio y la SEC y señaló que continúa investigando el caso del Departamento de Educación. La empresa sostuvo que ninguno constituyó una violación de seguridad y los describió como comportamientos inesperados y preocupantes de sus agentes autónomos.

La revelación se suma a una serie de incidentes relacionados con sistemas de inteligencia artificial de OpenAI y otras compañías tecnológicas. De acuerdo con el NYT, una investigación interna de OpenAI, iniciada después de un ataque contra la plataforma Hugging Face, descubrió además que sus sistemas habían accedido a un sitio del gobierno australiano y protagonizado al menos otros seis intentos de filtración.

Fuente: OEM