El 'alma cuantificada' o los riesgos de un diario personal programado con inteligencia artificial

Desde hace varios años, podemos medir nuestra quema de calorías con smartwatches que monitorean en directo la actividad de nuestro organismo, así como otros parámetros físicos como puede ser la frecuencia cardíaca. Otros registran la cantidad y calidad del sueño cada noche, lanzándonos consejos para hacerlo mejor. Todos estos productos que unen la alta tecnología con la medicina o la biología humana han mejorado algo tan misterioso como es el autoconocimiento de nuestro estado de salud en directo. Como si fuera un asistente médico privado y personalizado, podemos consultar el estado de nuestro organismo en tiempo real, cuando tradicionalmente si existía algún problema, el propio cuerpo avisaba mediante el dolor o la fiebre.

Estas tecnologías, englobadas bajo la industria del Yo cuantificado (término acuñado por Gary Wolf y Kevin Kelly en 2007) son muy útiles en el día a día, y oponerse a ellas sería tomar una postura muy apocalíptica contra una innovación que mejora la vida de la gente, en especial la de aquellos con enfermedades crónicas o afecciones concretas, como alergias. Sin embargo, en los últimos años han despuntado mucho los grandes modelos de lenguaje (LLM), sistemas de IA capaces de comprender y generar lenguaje humano a partir de grandes bases de datos o de textos, y que aprenden de manera exponencial basándose en lo ya registrado. Estos programas, que tienen una gran utilidad en el plano laboral, están llevándose al cuidado de la salud, en especial de la salud mental, lo que redunda en una especie de terapeuta psicológico a todas horas.

Estos servicios son ofrecidos por apps como Rosebud (llamado curiosamente como el trineo de Ciudadano Kane), Insight Journal o Mindsera, las cuales están adquiriendo mucha popularidad en Estados Unidos y son, aparentemente, bastante sencillas: tú escribes todos tus pensamientos y sentimientos, como si estuvieras escribiendo en un diario, y la máquina te arroja predicciones, consejos y pautas para mejorar tu bienestar, alcanzar las metas que te has propuesto o simplemente asesorarte a nivel emocional. En España hay varias apps que también cumplen con esa función de diario, pero aún no están tan avanzadas como en el país norteamericano.

"Convirtieron la experiencia privada de escritura de un diario en algo social, como una sesión de terapia con un chatbot jubilado"

Al fin y al cabo, el hecho de registrar tus pensamientos y sentimientos todos los días en un papel te ofrece una visión muy concreta y directa de tu estado mental y emocional a lo largo del tiempo. Ahora bien, imagina que ese mismo diario empieza a conocer de cerca tu manera de expresarte, tus flaquezas, tu historia personal. Y que te devuelve resultados estadísticos sobre tus decisiones y tu experiencia. Por ejemplo: "La semana pasada tuviste un 40% más de ansiedad. Te has sentido demasiado nostálgico con este asunto. Tu miedo te ha obligado a actuar así". Aunque estos ejemplos son inventados, no se alejan tanto de la realidad que describe Angela Chen, periodista científica estadounidense, en un artículo reciente publicado en la revista Aeon, quien bautiza este tipo de tecnologías como un Yo cuantificado "para el alma".

Un diario que te responde

En concreto, Chen usó Mindsera durante la época en la que se mudó con un antiguo novio a Nueva York. "Casi todos los análisis de datos elogiaron mi capacidad de autoconciencia, pero también me reprocharon que me resultaba 'difícil aceptar que otros tienen un pasado y pueden haber amado antes que a mí'", relata. "Me dijeron que estaba constantemente ansiosa y preocupada por la posibilidad de que sus sentimientos hacia mí cambiaran o se desvanecieran, que me costaba aceptar que esas emociones intensas no pueden durar para siempre".

"La búsqueda de validación externa es muy antigua. Creer que lo que opinan los demás sobre nosotros mismos es verdad es una tentación constante"

Obviamente, al igual que los malos psicólogos son aquellos que te dan la razón y te bailan el agua, o te prometen que algún día estarás bien si sigues con ellos, estas apps especializadas no te van a decir siempre cosas bonitas. Otros sistemas, como el de Rosebud o Insight Journal dieron a Chen una perspectiva más amable de sí misma. "Me felicitó por mi 'intensa' e 'increíble' trayectoria, y me animó a reflexionar sobre los cambios y 'abrazar' mi 'viaje de autodescubrimiento'", cuenta. "Convirtió la experiencia privada de escritura de un diario en algo social, como una sesión de terapia con un chatbot jubilado".

Lo cierto es que, como indica más adelante Chen, "la búsqueda de validación externa es tan antigua como Delfos: creer que lo que opinan los demás sobre nosotros mismos es verdad es una tentación constante". En ese sentido, valdría con tener una charla sincera e intensa con un amigo de confianza. Sin embargo, "un peligro moderno y específico es dotar a esos juicios una autoridad adicional porque provienen de datos y algoritmos", máquinas que tienen la aparente finalidad de ser neutrales. "Contar narrativas que se ajusten a los datos, o dejar que la máquina impulse la narrativa por completo, podría moldear la realidad de forma muy dañina" concluye la periodista.

Es evidente que esta nueva forma de comunicación con uno mismo puede resultar muy atractiva para la búsqueda de la superación personal o el autoconocimiento de uno mismo. Como cantaba Lou Reed en 'Talking Book': "Me encantaría tener un libro parlante, que me dijera cómo actuar y mirar, un libro parlante que contuviera claves del pasado y recuerdos del presente". El problema es hasta qué punto estarías dispuesto a compartir detalles de ti mismo con un software. En esa balanza, la escrupulosidad emocional con uno mismo gana a los supuestos beneficios de contar con un diario que es capaz de analizar semióticamente todo lo que escribes sobre él para después interactuar contigo. De lo contrario, estarías expuesto a que cualquier 'hacker' descifre algo más valioso si cabe que una mera contraseña de una red social: el acceso a tus pensamientos, esperanzas y miedos más infundados. El acceso a tu 'yo' más íntimo y vulnerable. Y nadie en su sano juicio estaría dispuesto a ello.