Uno de los investigadores de inteligencia artificial (IA) más citados del mundo lanza una nueva organización sin ánimo de lucro que diseñará sistemas de IA seguros.
Yoshua Bengio, científico canadiense francés especializado en inteligencia artificial, ganador del prestigioso premio Alan Turing por sus trabajos sobre aprendizaje profundo y apodado uno de los padrinos de la Inteligencia Artificial, anunció el lanzamiento de LawZero en Montreal.
La nueva organización sin ánimo de lucro está reuniendo a un equipo de investigadores de IA de talla mundial que se dedica a «dar prioridad a la seguridad frente a los imperativos comerciales», reza un comunicado de la organización sin ánimo de lucro.
«Los modelos actuales de inteligencia artificial están desarrollando capacidades y comportamientos peligrosos, como el engaño, la autopreservación y la desalineación de objetivos», afirma Bengio en el comunicado, en el que señala que la organización ayudará a liberar el inmenso potencial de la IA reduciendo al mismo tiempo estos riesgos.
Bengio explicó que la organización sin ánimo de lucro nació de una nueva dirección científica de 2023 y que ha culminado en ‘Scientist AI’, un nuevo sistema de IA no agenética que él y su equipo están desarrollando para que actúe como barandilla contra los sistemas incontrolados de IA agenética.
El uso masivo de la inteligencia artificial (IA) para redactar y revisar el CV provoca…
La integralidad en los servicios financieros contemporáneos ha comenzado a medirse más allá de los…
Anthropic actualizó las políticas de uso de Claude para prohibir los comportamientos abusivos o crueles,…
Los inversionistas institucionales en el país están dirigiendo su capital hacia la infraestructura de la…
La inteligencia artificial de Amazon comienza a intervenir en procesos que van más allá de…
El secretario de Educación Pública, Mario Delgado Carrillo, destacó que el Gobierno de México impulsa…