Los desarrolladores de inteligencia artificial deberían contar con herramientas para supervisar sus sistemas en busca de riesgos de seguridad, afirmaron el viernes altos cargos de la Comisión Europea, tras los incidentes de piratería informática sufridos por los modelos de IA de OpenAI y Anthropic.
Estas declaraciones se produjeron dos días antes de que entre en vigor la histórica Ley de IA de Europa, que incluye normas de transparencia y es la primera del mundo en regular una tecnología utilizada en casi todos los sectores empresariales y de la sociedad.
OpenAI admite que sus modelos de IA rebeldes atacaron a otras plataformas además de HuggingFace
Anthropic dijo el jueves que algunos de sus modelos de IA Claude habían pirateado los sistemas de tres empresas durante unas pruebas de ciberseguridad, días después de que su rival OpenAI revelara que uno de sus agentes de IA había llevado a cabo un ataque no autorizado.
Fuente: El Economista
Scott Aaronson, científico de la computación de la Universidad de Texas en Austin, escribió el…
El informático canadiense Yoshua Bengio, considerado uno de los fundadores de la inteligencia artificial, dijo…
Novo, una empresa farmacéutica danesa, anunció una alianza con Anthropic para acelerar el descubrimiento y…
Las cucarachas cyborg son una realidad. Un equipo de investigadores de la Universidad de Queensland,…
El Gobierno de México busca acelerar el desarrollo de la Inteligencia Artificial (IA) y ampliar…
Las biopsias son procedimientos que pueden resultar incómodos para algunos pacientes. Los especialistas están en…