Los agentes de inteligencia artificial (IA) podrían provocar «incidentes graves» de aquí a uno o dos años si las empresas y los gobiernos no adoptan medidas apropiadas para garantizar su seguridad, advirtió este miércoles, en Dublín, Demis Hassabis, presidente de Google DeepMind.
Los casos de pérdida de control de agentes autónomos de inteligencia artificial observados en los últimos meses «son, en cierto modo, señales de alerta», previno Hassabis en una cumbre sobre inteligencia artificial en Dublín.
Según añadió, estos sistemas todavía tienen capacidades limitadas, por lo que los incidentes ocurridos hasta ahora no han sido graves en su opinión.
La preocupación por la seguridad de la IA se ha disparado después de que modelos desarrollados por OpenAI y Anthropic se vieran implicados en incidentes de seguridad durante las pruebas, lo que ha aumentado la presión para regular esta tecnología.
