El MIT entrenó una IA para leer conversaciones de crisis: qué palabras delata el riesgo

Un equipo de científicos del Instituto McGovern para la Investigación del Cerebro, dependiente del MIT, desarrolló un sistema de inteligencia artificial capaz de detectar señales de riesgo suicida en conversaciones de texto. El objetivo no es reemplazar a los especialistas, sino cerrar una brecha que la clínica tradicional no logra cubrir: predecir quién, entre las personas con ideación suicida, podría llegar a un intento.

La herramienta fue descripta en un artículo publicado en la revista Journal of Psychopathology and Clinical Science. Según sus responsables, el sistema rastrea palabras y frases asociadas a casi 50 factores de riesgo y las usa para estimar niveles de peligro en charlas con consejeros o en líneas de atención.

Un problema difícil de anticipar

Jennifer Michalowski, del instituto, explicó por qué la detección temprana es tan compleja. "Se han vinculado docenas de factores de riesgo y hasta los clínicos capacitados tienen dificultades para identificar quién intentará quitarse la vida entre aquellas personas que presentan algún tipo de ideación suicida", señaló. La herramienta busca justamente cubrir ese espacio.

Daniel Low, uno de los científicos a cargo del desarrollo, amplió el diagnóstico: "Cuando se observan todos estos factores de riesgo, se ve que interactúan de formas que realmente no comprendemos". Y agregó: "Hay muchas vías distintas que pueden llevar a una persona a sentir que desea escapar de su dolor interno y es complejo determinar qué camino conducirá a un intento de suicidio o a la muerte".

Low trabajó junto a Satra Ghosh, del Child Mind Institute y de la Universidad de Harvard.

16.000 conversaciones reales

Para calibrar el sistema, los investigadores recurrieron a Crisis Text Line, una organización sin fines de lucro cuyos voluntarios ofrecen apoyo confidencial y gratuito por mensaje de texto a personas en situación crítica. Analizaron cerca de 16.000 conversaciones con los consejeros.

A partir de ese material establecieron tres niveles de riesgo: nulo, ideación suicida sin riesgo inminente y riesgo inminente. El foco estuvo puesto en este último grupo.

"Queríamos saber qué tipo de síntomas predicen el mayor riesgo de suicidio", dijo Low. "Crisis Text Line nos brindó la oportunidad de evaluar síntomas y posibles factores mientras las personas están atravesando la crisis", destacó, y marcó la diferencia con los enfoques basados solo en encuestas sobre experiencias pasadas.

Cómo se arma el léxico de riesgo

Según detalló Michalowski en MIT News, el equipo usó inteligencia artificial para generar un listado de léxicos vinculados a los factores de riesgo, asociados a los tres niveles mencionados. Después de una depuración manual, la lista final quedó con unas 60 palabras por cada uno de los 50 factores. La relevancia de cada elemento fue revisada y confirmada por expertos clínicos.

Con ese insumo, entrenaron un modelo de aprendizaje automático para que busque el léxico en las conversaciones y haga las predicciones. "Por ejemplo, las menciones a medios letales para el suicidio (...) tienen un peso importante, mientras que los términos relacionados con la desesperanza, como 'no sé qué hacer' contribuyen en menor medida", indicaron.

La herramienta no solo sirvió para analizar las charlas ya disponibles en la base de datos: también logró predicciones precisas en conversaciones nuevas que el modelo no había visto antes.

El factor humano, intacto

Más allá de los resultados que muestran la utilidad de la automatización, Ghosh aclaró que el rol de los especialistas no corre riesgo. "Es un ámbito tan complejo, que creo que la intervención humana seguirá siendo fundamental durante mucho, mucho tiempo", afirmó.

Los investigadores involucrados remarcaron además que cualquier modelo predictivo de este tipo debe someterse a una validación exhaustiva antes de usarse en clínica. También podría necesitar ajustes continuos para adaptarse a los cambios en el uso del lenguaje o en las poblaciones objetivo.