Los desarrolladores de inteligencia artificial deberían contar con herramientas para supervisar sus sistemas en busca de riesgos de seguridad, afirmaron el viernes altos cargos de la Comisión Europea, tras los incidentes de piratería informática sufridos por los modelos de IA de OpenAI y Anthropic.
Estas declaraciones se produjeron dos días antes de que entre en vigor la histórica Ley de IA de Europa, que incluye normas de transparencia y es la primera del mundo en regular una tecnología utilizada en casi todos los sectores empresariales y de la sociedad.
OpenAI admite que sus modelos de IA rebeldes atacaron a otras plataformas además de HuggingFace
Anthropic dijo el jueves que algunos de sus modelos de IA Claude habían pirateado los sistemas de tres empresas durante unas pruebas de ciberseguridad, días después de que su rival OpenAI revelara que uno de sus agentes de IA había llevado a cabo un ataque no autorizado.
Fuente: El Economista
