Muse, el ayudante de Meta que se acuerda de todos: cómo funciona y qué controles tenés a mano

¿Te imaginás que la aplicación de inteligencia artificial de Meta te recuerde hasta el regalo de cumpleaños de tu cuñado? Eso es exactamente lo que hace Muse, el asistente que la compañía viene empujando para meterse en la vida cotidiana de la gente. La promesa suena tentadora: que la IA te reconozca la factura del plomero o te recuerde las flores que le gustan a tu pareja. La pregunta del millón es a qué precio de privacidad.

Qué es Muse y para qué junta datos sobre tu entorno

Muse es el agente de inteligencia artificial que Meta viene probando y, según contó Daniel Roberts, portavoz de la empresa, el sistema arma perfiles no solo del usuario sino también de las personas con las que se cruza en el día a día. La idea, dicen en la compañía, es que el asistente pueda anticiparse a lo que necesitás usando el contexto de tus vínculos.

• Fichas de familiares, parejas, amistades, colegas y otras personas registradas como contactos en redes sociales.
• Datos como cumpleaños, aniversarios, cambios de domicilio, metas de ahorro compartidas y hasta discusiones pendientes.
• Información que aparece de a poco: a medida que el sistema incorpora antecedentes del vínculo, intereses en común y temas por seguir.

Para graficarlo con algo bien criollo: es como ese vecino memorioso de cualquier barrio de Córdoba que se acuerda del nombre de tu perro, de cuándo se casó tu primo y de que el mes pasado tuviste un cruce con el dueño del kiosco. La diferencia es que este vecino no se entera por las buenas, sino que va escarbando en lo que vos mismo publicás.

Un investigador destapó las instrucciones internas

El hallazgo que puso el tema en debate lo hizo Karan Joshi, investigador independiente en seguridad informática e inteligencia artificial. Joshi le pidió al chatbot, en una conversación de lo más normal, que le mostrara sus archivos de instrucciones. Y el sistema le pasó documentación interna que describe una rutina que se ejecuta cada hora para actualizar esos perfiles de personas del entorno del usuario.

Lo notable es que las instrucciones son bastante estrictas: el sistema tiene prohibido inventar datos. Si no hay evidencia en las conversaciones o en el contenido público, el perfil no se completa con suposiciones. Es como una receta que dice: con lo que haya en la heladera, cocina; pero si falta el ingrediente, no lo fabriques.

“La información procede de contenidos públicos y de aquello que el usuario comparte con el asistente. Cada usuario dispone de una máquina virtual separada, sin acceso para otros usuarios o agentes.”Daniel Roberts, portavoz de Meta

Qué controles existen y dónde está el punto flojo

Meta asegura que hay varios mecanismos de control: un registro de auditoría para revisar la actividad del agente, la posibilidad de borrar la memoria guardada y la opción de cortar la conexión con servicios externos que aportan datos. Además, según la empresa, el asistente pide confirmación antes de mandar un correo o hacer una compra.

Hasta acá, todo lindo. El problema, como señaló Joshi en su informe, es que esos controles están en una sola mano: la del usuario que instaló Muse. Las personas que aparecen en las fichas, o sea tus amigos, tu pareja, tu socio, no tienen forma de revisar qué dice de ellos el sistema, ni de pedir que se borre. Es decir, vos podés decidir qué se acuerda la IA sobre tu propia vida, pero no sobre la de los demás.

Dicho en criollo: es como si en un grupo de WhatsApp solo el administrador pudiera borrar mensajes, mientras que el resto mira cómo archivan sus nombres sin poder hacer nada. Meta sostiene que la información viene solo de contenido público y de lo que cada usuario comparte, pero el alcance de esa recolección deja, como mínimo, una pregunta incómoda sobre los demás.

Qué tener en cuenta antes de usarlo

• Revisá el registro de auditoría de Muse con regularidad para ver qué datos está guardando sobre vos y sobre tu entorno.
• Usá la opción para borrar la memoria si notás que el sistema se está pasando de colectivero con la información ajena.
• Desactivá la conexión con servicios externos cuando no la necesites: menos cables enchufados, menos datos circulando.

Mi lectura, después de leer el reporte de Joshi y los dichos de la empresa, es la siguiente: Muse es un asistente con buena memoria, pero esa memoria no es del todo tuya. La podés borrar, podés auditar, podés cortar el chorro. Lo que no podés, al menos por ahora, es controlar lo que el sistema archiva sobre tu prima, tu jefe o tu ex. La promesa de la IA personalizada choca con un derecho básico: el de las personas a decidir qué dice de ellas un sistema que no pidieron usar. Si te sirve, probalo, pero primero echale un ojo a qué está guardando de los que te rodean.