El caso comenzó cuando una usuaria de Instagram publicó un video en el que aparecía cantando con su hijo dentro de un auto. Debajo del contenido, el asistente de inteligencia artificial de Meta sugirió automáticamente la pregunta: "¿Quién es el niño pasajero?". Al seleccionarla, el chatbot empezó a ofrecer información sobre sus hijas, incluyendo referencias a su edad y al lugar donde reside la familia.

La usuaria afirmó además que la herramienta le mostró fotografías de sus hijas publicadas previamente en la plataforma, entre ellas una imagen que aseguró haber eliminado años atrás. Según su relato, el sistema cruzó datos provenientes de sus propias publicaciones y de las de otros familiares para construir esas sugerencias.

Dina El-Kassaby, portavoz de Meta, reconoció que la empresa "se equivocó" y que la función "nunca debería haber sugerido ese tipo de preguntas al usuario". La compañía aclaró que su sistema no accede a contenido privado al que el usuario consultante no tenga permiso: el asistente solo opera sobre información que esa persona ya puede ver en la plataforma.

El problema, según Meta, no estuvo en el acceso a datos prohibidos sino en la forma en que la IA interpretó y relacionó información disponible para producir sugerencias que resultaron invasivas. La función fue diseñada para ayudar a los usuarios a obtener más contexto sobre lo que están viendo; el error fue que el sistema aplicó esa lógica sobre datos personales y familiares sin filtros adecuados.

La empresa indicó que ya corrigió el comportamiento que permitía generar ese tipo de recomendaciones y que trabaja para que las sugerencias sigan siendo útiles al explorar publicaciones, pero sin derivar hacia preguntas sobre la vida privada o el entorno familiar de las personas.

No es la primera vez que Meta enfrenta cuestionamientos por sus herramientas de IA: en julio pasado retiró una función que permitía crear imágenes falsas de otros usuarios de Instagram luego de recibir críticas similares.

El episodio reaviva la discusión sobre los límites que deben tener los asistentes de inteligencia artificial cuando procesan información personal, aun cuando esa información sea técnicamente pública. ¿Qué criterios deberían definir hasta dónde puede llegar una IA al relacionar datos sobre las personas?