Sam Altman se acuerda tarde de que la IA puede ser un problema y pide que alguien lo controle

El otro día se me trabó el control remoto del aire acondicionado y, durante diez minutos, viví en una casa que no respondía a mis decisiones. Imaginen eso, pero con una inteligencia artificial que maneja desde la receta del café hasta la defensa de un país. Eso, más o menos, fue lo que vino a decir Sam Altman, el CEO de OpenAI, la empresa detrás de ChatGPT, que de golpe se puso solemne y lanzó una advertencia a la humanidad: ojo, esto puede terminar muy mal.

En una serie de declaraciones recientes, Altman identificó dos riesgos centrales. El primero es el clásico de las películas de ciencia ficción, pero con chances reales de concretarse: que los humanos perdamos el control sobre sistemas cada vez más capaces. Como cuando le das las llaves del auto a alguien que no sabe manejar y te subís igual porque tenés miedo de quedar a pie.

“Podríamos perder el control del futuro ante la IA. Esto es inaceptable; estamos, sin disculpas, en el Equipo Humanidad, y la IA debe siempre servir a las personas.”Sam Altman, CEO de OpenAI

El segundo riesgo: que un solo jugador se quede con todo

El otro escenario que preocupa a Altman es más terrenal y, para mí, más probable: que una persona, una empresa o un país acumule un poder desproporcionado gracias a esta tecnología. Traducido: que el que tenga la mejor IA termine marcando la cancha para todos los demás, como el dueño del único supermercado en un pueblo de cien habitantes.

“Si una IA extraordinariamente poderosa es utilizada por una persona o empresa para imponer su visión del mundo a todos los demás, los resultados podrían ser extremadamente distópicos.”Sam Altman, CEO de OpenAI

Altman reconoció que evitar ambos riesgos al mismo tiempo es como caminar por una cornisa en pleno centro porteño un día de viento: hay que ir despacio, sin mirar para abajo y sin perder el equilibrio. Lo que propone, en concreto, es un marco regulatorio federal que fije requisitos de seguridad comunes para los modelos de frontera, esos que están en el límite de lo que la tecnología puede dar hoy. Además, reclama que entren auditores independientes a controlar lo que hacen las empresas, y que los gobiernos de distintos países se sienten a coordinar reglas en común, porque si cada uno va por su lado, las chances de que alguien haga cualquier cosa se multiplican.

• Regulación federal con estándares de seguridad comunes para los modelos más avanzados.
• Incorporación de auditores independientes que supervisen a las empresas.
• Coordinación internacional entre gobiernos para evitar que la competencia entre países derive en imprudencia.
• Aplicación de medidas de seguridad por parte de las empresas aun antes de que existan nuevas leyes.

Ahora bien, mi consejo práctico de hoy, que vale tanto para esta nota como para la vida: no esperemos a que alguien nos cuente los riesgos para empezar a prestar atención. Si hasta el dueño de la herramienta está preocupado, algo de razón tendrá. Mientras tanto, podemos ir mirando qué hace cada empresa, qué país presiona para qué, y exigir que las discusiones sobre IA no pasen únicamente por los escritorios de quienes la están construyendo. La ventana para meter la cabeza en este asunto todavía está abierta. Después, como siempre, será tarde.