El Concejo Municipal de Nueva York emitió una citación contra Elon Musk y SpaceXAI para obligar a la compañía a participar en una audiencia sobre los riesgos de la inteligencia artificial.
La comparecencia está prevista para el 5 de octubre y forma parte de una investigación con la que la ciudad busca determinar si los riesgos asociados con los sistemas de IA justifican nuevas medidas de seguridad y regulación.
La citación llegó después de que SpaceXAI no respondiera a las solicitudes del Concejo para participar en la audiencia. Otras compañías convocadas, entre ellas OpenAI, Google, Anthropic y Meta, sí confirmaron su participación, aunque algunas lo hicieron después de que la presidenta del Concejo, Julie Menin, advirtiera que también podrían enfrentar citaciones.
En la audiencia participarán los 51 integrantes del Concejo Municipal como parte de un Comité de Pleno, con el objetivo de revisar los riesgos que plantea el desarrollo acelerado de la IA, las medidas de seguridad que aplican las principales compañías y las herramientas que tiene la ciudad para establecer nuevas reglas.
¿Qué quiere investigar Nueva York sobre la IA?
De acuerdo con una carta enviada por Menin a Musk, la investigación busca evaluar si los riesgos emergentes de la IA para la seguridad pública, la ciberseguridad , la estabilidad económica, la privacidad, los consumidores y las empresas requieren acciones legislativas inmediatas.
La ciudad también quiere conocer qué salvaguardas están utilizando las compañías que desarrollan modelos avanzados y qué medidas adicionales podrían ser necesarias para reducir los riesgos asociados con estas tecnologías.
De manera simultánea, el Concejo analiza un paquete de propuestas que cambiaría las obligaciones de las empresas de IA que operan en Nueva York. Una de las iniciativas plantea que los sistemas de IA comercializados, vendidos o desplegados en la ciudad tengan una validación independiente que revise aspectos como calidad de datos, sesgos, privacidad y seguridad. También contempla que estos sistemas cuenten con un mecanismo de control humano que permita apagarlos.
