La IA de Meta se metió en la vida privada de una madre y la empresa tuvo que pedir disculpas

Una mujer filmó un video cantando con su hijo en el auto y lo subió a Instagram. Debajo de la publicación apareció una sugerencia automática del asistente de inteligencia artificial de Meta: preguntarle al chatbot quién era el niño que se veía en el viaje. Lo que parecía una función inofensiva derivó en una respuesta inesperada: la herramienta empezó a aportar datos sobre las hijas de la usuaria, incluida su edad y la ciudad donde vive la familia, y mostró fotografías que la mujer asegura haber borrado tiempo atrás.

El episodio volvió a poner bajo la lupa el alcance de los sistemas automatizados que las grandes plataformas incorporan dentro de sus redes sociales. En este caso, la IA no accedió a contenido privado al que la usuaria no pudiera entrar: simplemente tomó información que ya estaba disponible en sus propias publicaciones y en las de familiares y la reordenó de un modo que terminó siendo invasivo.

Qué reconoció Meta y qué dijo su vocera

Dina El-Kassaby, portavoz de la empresa, admitió que la compañía se equivocó y que la función nunca debería haber sugerido ese tipo de preguntas. Según explicó, el asistente está pensado para ayudar a los usuarios a entender mejor lo que ven en la plataforma, pero en esta oportunidad aplicó esa lógica sobre datos personales y familiares sin los filtros adecuados.

Para entenderlo con un ejemplo cercano: es como si alguien que solo podía mirar la puerta de una casa decidiera, a partir de unas pocas señales visibles, armar un relato detallado sobre la familia que vive adentro. No entró por la fuerza, pero sacó conclusiones que nadie le había pedido y que el dueño de la casa no esperaba compartir.

Cómo intenta corregirlo la empresa

• Eliminó el comportamiento que generaba ese tipo de sugerencias automáticas sobre menores y familiares.
• Trabaja para que las recomendaciones sigan siendo útiles al explorar publicaciones, pero sin derivar hacia preguntas sobre la vida privada.
• Reafirmó que el sistema solo opera sobre información que el propio usuario ya puede ver en la plataforma.
• No aclaró aún qué cambios visibles notarán los usuarios en los próximos días.

No es la primera vez que Meta tiene que dar marcha atrás con una función de inteligencia artificial. En julio pasado retiró una herramienta que permitía generar imágenes falsas de otros usuarios de Instagram tras recibir críticas similares por el uso indebido de la tecnología.

Qué sigue abierto en el debate

El caso reaviva una discusión que todavía no tiene reglas claras: hasta dónde puede llegar un asistente de IA cuando cruza datos personales que están al alcance de cualquiera, y quién se hace cargo cuando esa combinación de información produce respuestas que nadie habilitó. La empresa dice haber corregido el error, pero todavía no publicó detalles técnicos sobre los filtros que aplicará ni prometió auditorías externas que eviten que un fallo similar vuelva a repetirse en otra parte del sistema.