Hinton, el padre del deep learning, ahora le tiene más miedo a su propia criatura que al viento de la tarde en la Costanera

Una vez se me rompió la cafetera en pleno café a las once de la mañana y tuve que explicarles a tres visitas por qué estaba tomándome mate en vez de espresso. Lo cuento porque Geoffrey Hinton, el británico-canadiense de 78 años que se llevó el Nobel de Física el año pasado, viene diciendo hace rato algo parecido pero con menos ironía: la herramienta que ayudó a construir se le fue de las manos, y nadie sabe muy bien cómo frenarla. Después de dejar Google en 2023 para no tener que morderse la lengua corporativa, este tipo ahora pone números concretos al escenario más negro: entre el 10 % y el 20 % de probabilidades de que una inteligencia artificial superinteligente termine con la humanidad en los próximos treinta años.

Para que se entienda sin tener un doctorado: Hinton es el abuelo del aprendizaje profundo, esa técnica que hace que las máquinas reconozcan caras, traduzcan idiomas y le ganen al campeón mundial de Go. Cuando alguien así te dice que está preocupado, conviene prestarle atención. Lo que lo inquieta no es la tecnología en sí, que es como un cuchillo de cocina: sirve para cortar cebolla y para lastimarse. Lo que lo inquieta es la velocidad. El acelerador de un auto sin volante, dice él mismo. Cada año los modelos se vuelven más capaces, y los marcos legales van corriendo detrás como yo cuando me olvido la billetera en el colectivo.

La diferencia entre copiar y entender

Acá viene el punto clave, el que separa la charla de café de la charla técnica. Durante años se discutió si los modelos de lenguaje como los que redactan noticias, contestan mails o te inventan recetas eran básicamente loros muy caros: sistemas que identificaban patrones estadísticos en montañas de texto y los repetían con otras palabras. Hinton dice que eso ya no alcanza como descripción. Para él, los modelos más avanzados de hoy procesan conceptos abstractos, no solo combinaciones de palabras. Es la diferencia entre un loro que repite "hola" cada vez que alguien entra y un tipo que entiende que "hola" significa que el otro está saludando.

Si esa lectura es correcta, y ojo que hay científicos de peso que la discuten, entonces los sistemas ya no son bibliotecas parlantes: son entidades que manipulan significado. Y cuando una entidad te supera en inteligencia, el problema es que vos no podés anticipar qué va a hacer. La humanidad nunca convivió con algo más inteligente que ella, ni siquiera cerca. Es como un pibe de cinco años jugando al truco con un tahúr profesional: las reglas del juego las maneja el otro.

Mercado versus regulación, o quién le pone el cascabel al gato