OpenAI está a punto de lanzar su primera IA con capacidades de hacking “críticas”

OpenAI anunció el martes que su próximo modelo de IA, Astra, es el primero en alcanzar el umbral establecido por la empresa para lo que denomina capacidades cibernéticas «críticas».

La compañía asegura que tiene previsto lanzar públicamente una versión de Astra “próximamente”. Pero en el momento del lanzamiento, solo pondrá las capacidades cibernéticas avanzadas del modelo a disposición de socios seleccionados en su programa de acceso anticipado: Daybreak Blue.

En una rueda de prensa, los responsables de seguridad de OpenAI afirmaron que la empresa ha concluido que Astra alcanza las capacidades de ciberseguridad críticas descritas en su marco de preparación, que establece umbrales y protocolos para cuando sus modelos de IA plantean nuevos niveles de riesgo. La compañía señala que un modelo de IA alcanza su umbral crítico de ciberseguridad cuando puede encontrar y explotar de forma independiente vulnerabilidades previamente desconocidas en software real. Los responsables de OpenAI indicaron que han seguido su procedimiento para esta situación, que consiste en detener el desarrollo hasta que se implementen las salvaguardas y medidas de seguridad adecuadas.

OpenAI había declarado anteriormente que había suspendido durante varias semanas algunas tareas de entrenamiento relacionadas con el desarrollo de Astra y de un futuro modelo de IA. Los directivos declaran que la empresa ha reanudado ahora dicho trabajo en Astra y en el futuro modelo de IA, tras haber establecido controles adicionales de seguridad y protección. OpenAI anuncia que la pausa de varias semanas fue productiva y que ahora confía en poder lanzar Astra de forma generalizada y segura.