El avance acelerado de la inteligencia artificial llegó hasta el Consejo de Seguridad de las Naciones Unidas. Sam Altman, CEO de OpenAI, participó de una sesión dedicada a analizar los desafíos y riesgos que plantean los modelos de IA cada vez más avanzados.
Durante su intervención del 23 de septiembre, Altman sostuvo que gobiernos y empresas tecnológicas deberán trabajar juntos y remarcó la necesidad de mantener los sistemas más poderosos bajo control humano. También defendió una supervisión con legitimidad democrática y cooperación internacional en materia de seguridad.
El empresario planteó que el rápido progreso de los modelos hace que tanto las oportunidades como los riesgos sean cada vez más inmediatos. En ese escenario, advirtió sobre la importancia de evitar que decisiones trascendentales sobre el futuro de la IA queden concentradas exclusivamente en unas pocas compañías o países.
En la sesión también participó por videoconferencia Dario Amodei, CEO de Anthropic, quien presentó una postura especialmente cautelosa frente a los modelos más avanzados y reclamó mecanismos internacionales para evaluar y reducir riesgos que podrían atravesar fronteras.
El encuentro puso sobre la mesa una discusión que crece a nivel mundial: cómo aprovechar el enorme potencial económico, científico y social de la inteligencia artificial sin perder el control sobre sistemas cada vez más capaces.
Importante: la reunión abrió un debate y reunió propuestas de cooperación y estándares de seguridad, pero no significó que la ONU haya aprobado un organismo mundial para “controlar la IA”.
