Meta admitió que su chatbot de IA se extralimitó con datos de una familia y dice que ya lo corrigió

Lo que empezó como un video doméstico terminó encendiendo una alarma sobre los límites de la inteligencia artificial dentro de las redes sociales. Meta, la compañía dueña de Facebook e Instagram, reconoció públicamente que su chatbot incorporado en esas plataformas se pasó de rosca: a partir de una publicación cotidiana, el sistema fabricó preguntas invasivas sobre los hijos de una usuaria y hasta exhibió fotografías de las niñas que la mujer aseguraba haber borrado hacía años.

Cómo se desencadenó el episodio

Una usuaria de Instagram subió a su cuenta un clip en el que se la ve cantando junto a su hijo dentro de un auto. Debajo de la publicación, el asistente de inteligencia artificial de Meta desplegó automáticamente una sugerencia: preguntar quién era el niño que viajaba como acompañante. Al aceptar esa invitación, el chatbot comenzó a desplegar información sobre las hijas de la mujer, con datos sobre su edad y referencias al lugar donde vive la familia.

La usuaria sostuvo, además, que la herramienta le devolvió imágenes de sus hijas que ella había compartido tiempo atrás en la plataforma, incluso una foto que, según su propio relato, había eliminado hacía años. De acuerdo con su denuncia, el sistema cruzó publicaciones propias con las de otros familiares para armar ese cuadro de sugerencias.

“Se equivocaron. La función nunca debería haber sugerido ese tipo de preguntas al usuario.”Dina El-Kassaby, portavoz de Meta

Qué dice Meta y qué cambió

Dina El-Kassaby, vocera de la empresa, salió a admitir el fallo y a aclarar un punto sensible: el asistente no entró a contenidos privados a los que la persona que consultaba no pudiera acceder. En otras palabras, la IA no hackeó cuentas ni abrió puertas cerradas: trabajó con información que ya estaba visible para la usuaria dentro de la plataforma. El problema, según reconoció la propia compañía, estuvo en cómo el sistema interpretó y relacionó esos datos para producir sugerencias que terminaron siendo invasivas.

La función fue pensada como una ayuda para que el usuario obtenga más contexto sobre lo que está viendo en su feed. El error fue que esa lógica se aplicó sobre datos personales y familiares sin los filtros adecuados. Meta aseguró que ya corrigió el comportamiento que disparaba ese tipo de recomendaciones y que trabaja para que las sugerencias sigan siendo útiles a la hora de explorar publicaciones, pero sin derivar hacia interrogantes sobre la vida privada o el entorno cercano de las personas.

No es la primera vez

• En julio pasado, Meta ya había retirado una función que permitía generar imágenes falsas de otros usuarios de Instagram, tras recibir críticas por el uso indebido de la herramienta.
• El episodio reaviva el debate sobre hasta dónde pueden llegar los asistentes de inteligencia artificial cuando procesan información personal, aun cuando esa información sea pública.
• Especialistas en privacidad recuerdan que, aunque un dato esté publicado, eso no equivale a un permiso para que un sistema lo cruce, lo relance y lo devuelva como respuesta personalizada.

Como usuaria o usuario, la recomendación práctica es revisar cada tanto qué fotos, etiquetas y publicaciones siguen asociadas a nuestro perfil y a nuestros hijos, ajustar los niveles de audiencia de contenidos antiguos y tener presente que cualquier cosa compartida en redes puede ser leída, indexada y recombinada por un algoritmo. Hoy Meta dice que tapó esta puerta; que no se abran otras parecidas depende, en buena medida, de que la empresa mantenga los filtros prometidos y de que los usuarios sigamos atentos a lo que la plataforma hace con nuestra información.