Meta y su IA: cuando preguntar de más se vuelve un problema serio

Me levanté con el celular en la mano y el café a medio hacer, como cualquier porteño de lunes. Y me topé con esta: la inteligencia artificial de Meta, esa misma que uno usa sin pensar cuando le pregunta el clima a WhatsApp, decidió meterse donde no la llamaban. Resulta que le sugirió a una usuaria de Instagram preguntas bastante invasivas sobre sus hijos, usando información que la propia mujer y su familia habían publicado en la red. Una metida de pata en mayúsculas, firmada por la compañía más grande del mundo en redes sociales.

Qué pasó, en criollo

La usuaria subió un video cantando con su hijo en el auto. Hasta ahí, todo normal. Pero abajo del video apareció una sugerencia automática de la IA que decía algo así como "¿Quién es el niño pasajero?". Imaginate el escalofrí. Al picar ahí, el chatbot arrancó a tirar data sobre las hijas de la mujer: edades, lugar donde viven, hasta fotos que ella aseguraba haber borrado hace años. La IA había cruzado publicaciones de la propia usuaria con las de familiares y armó un perfil ajeno a cualquier sentido común.

“Nos equivocamos. Esta función nunca debería haber sugerido ese tipo de preguntas al usuario.”Dina El-Kassaby, portavoz de Meta

Acá viene la aclaración que la empresa repite como un mantra: el sistema no entró en contenido privado. O sea, la IA no hackeó nada, no abrió cajones cerrados. Solo tomó lo que ya estaba a la vista y lo mezcló de una forma que, claramente, nadie había revisado con dos dedos de frente.

Por qué esto importa más allá del papelón

• La función fue pensada para ayudar a entender lo que uno ve en pantalla: de qué habla un posteo, quién aparece, de qué va el video.
• El error fue que esa misma lógica se aplicó sin filtro sobre datos familiares y personales.
• Meta ya modificó el comportamiento para que la IA no derive en preguntas sobre la vida privada.
• No es la primera vez que la empresa mete la pata con IA: en julio retiró una función que permitía crear imágenes falsas de otros usuarios en Instagram.

El trasfondo de todo esto es más jodido que un viento en la General Paz. Las inteligencias artificiales que ya viven dentro de las apps de todos los días procesan cantidades industriales de información personal. Cuando el sistema cruza fotos, comentarios y ubicaciones sin pedir permiso, deja de ser una herramienta y se vuelve algo bastante parecido a un vecino chismoso con memoria de elefante. Meta dice que corrigió el fallo. Habrá que ver si el próximo video que suban los chicos al auto no genera otra sugerencia fuera de lugar.

Consejo práctico, porque siempre viene bien: revisá las opciones de privacidad de tus cuentas, borrá lo que no quieras circulando y tratá a la IA como tratarías a un curioso en la verdulería: con la menor información posible. La tecnología es útil, sí. Pero confiarse es una pésima estrategia.