Los expertos han advertido durante mucho tiempo sobre la amenaza que representa el descontrol de la Inteligencia Artificial (IA), pero un nuevo artículo de investigación sobre esta tecnología en expansión sugiere que ya está sucediendo.
Los sistemas de IA actuales, diseñados para ser honestos, han desarrollado una preocupante habilidad para el engaño, según un artículo de un equipo de científicos publicado en la revista Patterns.
Y si bien los ejemplos pueden parecer triviales, los problemas subyacentes que exponen podrían tener graves consecuencias, dijo el primer autor Peter Park, becario postdoctoral en el Instituto de Tecnología de Massachusetts (MIT), especializado en seguridad de la IA.
“Estos peligros tienden a descubrirse solo después de ocurrido el hecho”, declaró Park a la AFP, para acotar que “nuestra capacidad de entrenarnos para tendencias de honestidad en lugar de tendencias de engaño es muy baja”.
A diferencia del software tradicional, los sistemas de IA de aprendizaje profundo no se “escriben” sino que “crecen” mediante un proceso similar a la reproducción selectiva, indicó Park.
Eso significa que el comportamiento de la IA que parece predecible y controlable en un entorno de entrenamiento puede volverse rápidamente impredecible fuera de este.
Fuente: france24.com
El codirector ejecutivo de Netflix, Ted Sarandos, declaró que se empleó inteligencia artificial (IA) en…
WeTransfer, la popular plataforma para enviar archivos de gran tamaño, anunció un cambio significativo en…
El presidente estadounidense, Donald Trump, acompañado del senador republicano por Pensilvania Dave McCormick, anunció una…
La compañía de inteligencia artificial de Elon Musk, xAI, firmó un contrato con el Departamento…
Menores de edad, quienes practican videojuegos 10 horas o más, presentan signos de ansiedad y…
La Universidad Nacional Autónoma de México (UNAM) ha desarrollado un proyecto pionero que utiliza inteligencia…