Muse, el chatbot de Meta que arma fichas de los contactos del usuario: qué datos guarda y cómo se controlan
El asistente de inteligencia artificial genera perfiles de familiares, amigos y colegas cada sesenta minutos. La empresa asegura que se nutre de lo que el usuario comparte y de contenido público, y que solo el dueño de la cuenta puede borrar esa memoria.
Reconocer al plomero que contrató el verano pasado o recordar las flores favoritas de la pareja son dos ejemplos del uso que Meta imagina para Muse. Para cumplir con esas tareas, el asistente de inteligencia artificial reúne información sobre el usuario y sobre las personas con las que se relaciona, según explicó Daniel Roberts, vocero de la compañía.
El mecanismo quedó expuesto por Karan Joshi, investigador independiente en seguridad informática e inteligencia artificial, que logró que el chatbot le mostrara sus archivos de instrucciones internas mediante un pedido dentro de la conversación habitual. La rutina que halló se ejecuta cada hora y prepara fichas sobre familiares, parejas, amistades, colegas y otras personas, incluidas cuentas que sigue en redes sociales. Los registros incorporan progresivamente antecedentes del vínculo, intereses compartidos, asuntos pendientes y datos sobre la relación.
Qué información puede terminar en una ficha
Qué información puede terminar en una ficha
- Cumpleaños y aniversarios.
- Cambios de domicilio.
- Objetivos de ahorro en común.
- Desacuerdos anteriores.
- Asuntos pendientes entre las partes.
- Intereses compartidos y antecedentes del vínculo.
Para incorporar cada dato, las instrucciones internas exigen que haya evidencia en las conversaciones o conexiones del usuario. En otras palabras, el sistema no completa las fichas con detalles inventados: trabaja solo con lo que encuentra en el material disponible.
Roberts sostuvo que ese contexto ayuda al asistente a cumplir los objetivos de quien lo usa y que la información procede de contenidos públicos y de lo que el usuario comparte. Meta también asegura que cada usuario dispone de una máquina virtual separada, sin acceso para otros usuarios o agentes. Antes de mandar un correo o concretar una compra, el sistema pide confirmación.
Los controles disponibles y lo que todavía falta
Los controles disponibles y lo que todavía falta
- Revisar la actividad del agente en un registro de auditoría.
- Eliminar la información guardada en la memoria.
- Cortar la conexión con servicios externos que aportan datos.
- Confirmar cada paso sensible, como envíos de mail o pagos.
El control, sin embargo, queda en manos de quien instaló Muse. Las personas incluidas en las fichas no tienen acceso a esos registros ni pueden pedir que se borren. El material de base queda cortado antes de explicar cómo se los excluye, un punto clave que Meta todavía no precisa en detalle y que mantiene abierto el debate sobre privacidad en los agentes de inteligencia artificial.
