Meta y su chatbot que te conoce mejor que tu suegra: armó un fichero con tu familia sin avisarte

El otro día se me rompió la canilla de la cocina. Llamé al plomero, vino, arregló, se fue. Una semana después, otro caño, otro plomero, otra fortuna. Y ahí me acordé de algo: si hubiera tenido a mano un asistente que recordara que yo ya tenía un plomero, me habría ahorrado la búsqueda a las tres de la mañana. Eso, justamente, es lo que vende Meta con Muse. La diferencia es que, para acordarse del plomero, el sistema se tomó el trabajo de armar un fichero con bastante información sobre mi vida y la de la gente que me rodea. Sin pedir permiso, claro.

El caso lo destapó Karan Joshi, investigador independiente en seguridad informática, que le pidió al chatbot lo que nadie debería pedirle a un chatbot: sus instrucciones internas. Y las. O sea, las leyó. Y se encontró con un manual inquietante.

Qué guarda, según ese manual

• Fichas que se actualizan cada una hora sobre familiares, parejas, amigos, colegas y hasta cuentas que el usuario sigue en redes sociales.
• Progresivamente el sistema suma intereses en común, temas pendientes y hasta datos sobre peleas anteriores.
• Anotaciones sobre cumpleaños, aniversarios, mudanzas, metas de ahorro compartidas y disgustos varios.
• La condición: que haya evidencia en conversaciones o conexiones del usuario. Nada se inventa, aclaran las instrucciones.

Traducido: si vos le hablás a tu pareja por WhatsApp y Meta tiene acceso a esa cuenta, el chatbot puede armar una carpeta con sus gustos, sus cumpleaños, sus enojos y hasta las cuentas que sigue. Es como ese vecino que mira todo por la ventana y, encima, lleva un cuaderno.

Qué dice Meta y qué dice el botón de borrar

Daniel Roberts, vocero de la compañía, salió a aclarar lo de siempre: que la información sale de contenido público y de lo que el propio usuario comparte. Que existe un registro de auditoría para revisar qué hizo el agente. Que el usuario puede borrar la memoria y desconectar servicios externos. Y que cada uno corre en una máquina virtual separada, sin ventanas hacia otros usuarios.

Bien. Hasta ahí, todo prolijo, papel mediante. El problema es uno solo y es de manual: esos controles los maneja quien instaló Muse. Los demás, los que aparecen en las fichas sin haber pedido aparecer, no tienen botón de borrar ni vista previa ni Möglichkeit de objetar. O sea, el plomero, tu suegra o el ex figuran en una base de datos de Meta sin haber firmado ningún consentimiento.

“El control de lo que se guarda corresponde a quien instaló Muse. Las personas incluidas en las fichas no tienen herramienta para revisar ni eliminar la información.”Material de base sobre Muse (Meta)

Consejo práctico, sin cumbres de consumidor

Antes de activar Muse o cualquier asistente que se nutra de tus chats y contactos, hay tres movimientos que conviene hacer. Primero, leer letra chica sobre qué toma y dónde la guarda. Segundo, decidir qué cuentas conectar y cuáles dejar fuera del juego. Tercero, y el más importante: recordar que, en tecnología, lo que no cuesta es admitir que hoy lo gratis lo pagás con tus datos, y lo que se guarda de otros lo pagás sin que ellos lo sepan. Como cuando el viento de la Costanera te lleva el diario: lo perdés y ni te enterás quién lo levantó.