Uno de los investigadores de inteligencia artificial (IA) más citados del mundo lanza una nueva organización sin ánimo de lucro que diseñará sistemas de IA seguros.
Yoshua Bengio, científico canadiense francés especializado en inteligencia artificial, ganador del prestigioso premio Alan Turing por sus trabajos sobre aprendizaje profundo y apodado uno de los padrinos de la Inteligencia Artificial, anunció el lanzamiento de LawZero en Montreal.
La nueva organización sin ánimo de lucro está reuniendo a un equipo de investigadores de IA de talla mundial que se dedica a «dar prioridad a la seguridad frente a los imperativos comerciales», reza un comunicado de la organización sin ánimo de lucro.
«Los modelos actuales de inteligencia artificial están desarrollando capacidades y comportamientos peligrosos, como el engaño, la autopreservación y la desalineación de objetivos», afirma Bengio en el comunicado, en el que señala que la organización ayudará a liberar el inmenso potencial de la IA reduciendo al mismo tiempo estos riesgos.
Bengio explicó que la organización sin ánimo de lucro nació de una nueva dirección científica de 2023 y que ha culminado en ‘Scientist AI’, un nuevo sistema de IA no agenética que él y su equipo están desarrollando para que actúe como barandilla contra los sistemas incontrolados de IA agenética.
La Comisión de Ciencia y Tecnología del Senado presenta un nuevo marco normativo para regular…
La inteligencia artificial no solo sirve para estudiar o trabajar. También puede dar lugar a…
El auge de pagos digitales, transacciones de dinero digital vía SPEI o CoDi ha incrementado…
Spotify presentó una función para ayudar a los oyentes a distinguir a los músicos humanos…
La integración de Inteligencia Artificial (IA) en servicios financieros está transformando la arquitectura del sistema…
Un estudio reciente advierte que los grandes modelos de lenguaje pueden generar respuestas racistas o…