-¿Cómo describiría, en sus propias palabras y de manera sencilla, su área de expertise dentro del Procesamiento de Lenguaje Natural y cuál es el objetivo principal de sus investigaciones actuales?
En términos sencillos, busco transformar los sistemas de IA, como los grandes modelos de lenguaje (LLMs), para que dejen de operar como “cajas negras”. El objetivo es que estos modelos no solo sean eficientes, sino también capaces de justificar sus decisiones y razonamientos internos, haciéndolos comprensibles, auditables y más confiables, ya que esto permite detectar sesgos, mejorar la seguridad y fortalecer la rendición de cuentas (accountability).
Hoy en día, observamos el avance de modelos capaces de realizar predicciones con alto desempeño y generar textos altamente convincentes. Sin embargo, aún persisten desafíos fundamentales como las alucinaciones, la desinformación, los sesgos y la opacidad en los procesos de toma de decisión. En este contexto, mi trabajo se centra en el desarrollo técnico de modelos de Procesamiento del Lenguaje Natural, con énfasis en la arquitectura y la viabilidad metodológica mediante la incorporación de mecanismos de interpretabilidad y equidad. En particular, busco guiar el comportamiento de los modelos de lenguaje hacia un razonamiento más justo y explicable, y por lo tanto más confiable.
Además, mi investigación se enfoca en la confianza digital, aplicando estos conceptos a desafíos urgentes como la detección de discurso de odio y la desinformación. Esto adquiere una relevancia aún mayor en el contexto latinoamericano, donde históricamente hemos contado con menos recursos, datasets y benchmarks disponibles. En este sentido, uno de mis propósitos es contribuir al desarrollo de una IA más soberana, capaz de proteger a nuestras comunidades y promover entornos digitales más seguros e inclusivos.
Actualmente, mi línea prioritaria se concentra en los Trustworthy LLMs (modelos de lenguaje confiables). Más allá de construir modelos masivos o poderosos, el objetivo último de mi investigación es aportar rigor científico para que la sociedad pueda comprender, auditar y, fundamentalmente, confiar en las tecnologías que modelan nuestro futuro.
-La irrupción de los Modelos de Lenguaje Grandes (LLMs) ha marcado un antes y un después en la adopción tecnológica. Desde su perspectiva enfocada en la IA explicable, ¿cómo cree que estas tecnologías han redefinido la forma en que las personas interactúan cotidianamente y confían en la inteligencia artificial?
Creo que los LLMs transformaron profundamente la forma en que las personas interactúan con la inteligencia artificial porque, por primera vez, la IA pasó a comunicarse de una manera mucho más natural, accesible y cercana al lenguaje humano. Antes, muchas herramientas de IA funcionaban de forma más invisible o especializada. Hoy, modelos como ChatGPT y otros grandes modelos de lenguaje permiten que millones de personas interactúen diariamente con sistemas de IA para estudiar, trabajar, programar, buscar información o incluso tomar decisiones cotidianas. Esto generó un cambio importante en la percepción pública de la IA, porque las personas comenzaron a sentir que están “dialogando” con la tecnología, y no solo utilizando una herramienta técnica.
Sin embargo, desde la perspectiva de la IA explicable y confiable, este fenómeno introduce un riesgo crítico. Existe una correlación peligrosa: cuanto más natural y persuasivo es el lenguaje del modelo, mayor es la confianza que las personas depositan en él. Los LLMs poseen una extraordinaria capacidad para proyectar una seguridad aparente, incluso cuando están cometiendo errores graves, reproduciendo sesgos estructurales o generando 'alucinaciones' sin sustento factual. Por ello, el verdadero desafío científico actual no reside en aumentar la potencia o el tamaño de los modelos, sino en desarrollar la infraestructura matemática y metodológica que nos permita auditar sus procesos de razonamiento, garantizando que este sea factual y esté respaldado por evidencias verificables.
-Históricamente, el estudio del discurso de odio y la toxicidad en línea se ha abordado de lleno desde las ciencias sociales. Sin embargo, su trabajo ataca este problema desde el corazón algorítmico. ¿Por qué es relevante investigar este fenómeno desde la ingeniería hoy en día, y cuál es el valor único o la herramienta diferenciadora que aporta esta disciplina para mitigar sus efectos?
Creo que las ciencias sociales han sido fundamentales para ayudarnos a entender las raíces, dinámicas e impactos del discurso de odio en línea. Sin ese conocimiento sería imposible comprender la complejidad social, política y cultural de estos fenómenos. Sin embargo, hoy gran parte de nuestras interacciones sociales ocurre en plataformas digitales mediadas por algoritmos y sistemas de inteligencia artificial. Por eso, también se ha vuelto esencial investigar estos problemas desde la ingeniería y desde el corazón tecnológico de las plataformas. Actualmente, los modelos de IA participan directamente en la moderación de contenido, en los sistemas de recomendación y en la amplificación de diferentes discursos en redes sociales. Esto significa que la IA y la tecnología no son solamente un medio neutral; muchas veces también influyen activamente en cómo ciertos discursos se propagan, ganan visibilidad o impactan a las comunidades.
Desde la ingeniería podemos aportar herramientas capaces de analizar grandes volúmenes de datos en tiempo real, identificar patrones complejos de discurso de odio y desarrollar sistemas automáticos de detección y mitigación de daños sociales y digitales. Pero, más importante aún, podemos diseñar sistemas más interpretables y conscientes del contexto. Esto es especialmente importante porque el discurso de odio es un fenómeno extremadamente complejo. Lo que se considera ofensivo o discurso de odio puede variar significativamente dependiendo del contexto social, cultural y lingüístico. Por eso, no basta con que los algoritmos identifiquen palabras aisladas; es fundamental que también aprendan aspectos contextuales y sociales de la lengua humana. Además, los modelos de IA pueden aprender patrones espurios a partir de los datos con los que fueron entrenados, reproduciendo sesgos que existen en la sociedad y amplificando estereotipos perjudiciales contra grupos históricamente marginados.
En algunos casos, los sistemas de moderación pueden terminar penalizando desproporcionadamente a ciertas comunidades o formas de expresión cultural. Por eso considero fundamental desarrollar herramientas de moderación que no solo tomen decisiones automáticas, sino que también puedan explicar cómo y por qué se tomó una determinada decisión. La interpretabilidad y la transparencia son esenciales para garantizar que estamos construyendo sistemas de moderación eficientes, confiables y seguros.
Creo que para abordar fenómenos tan complejos como el discurso de odio necesitamos construir un ecosistema verdaderamente interdisciplinario, que nos permita comprender el problema de manera más completa y profunda desde una perspectiva social y lingüística. Solo a partir de una comprensión más amplia es posible traducir ese conocimiento en propiedades técnicas robustas para los modelos de inteligencia artificial, de modo que los sistemas no solo sean más precisos a nivel computacional, sino también más efectivos y confiables en el mundo real, especialmente en la protección de comunidades vulnerables frente a los daños generados por el discurso de odio.
-Conectando los puntos anteriores sobre discursos de odio y desinformación, ¿de qué manera la investigación aplicada específicamente en LLMs —y particularmente en áreas como el razonamiento moral y la explicabilidad que usted lidera— puede aportar a destrabar estas problemáticas y construir sistemas más seguros?
Conectando el discurso de odio en línea y la desinformación, queda en evidencia que estamos frente a dos manifestaciones distintas de un mismo problema subyacente: cómo los sistemas de inteligencia artificial interactúan con ecosistemas informacionales complejos, donde el lenguaje no solo transmite datos, sino también valores, intenciones y dinámicas sociales. En este sentido, diversas investigaciones en el campo de las ciencias sociales así como recientes reportes de las Naciones Unidas, señalan que la desinformación y el discurso de odio no son fenómenos aislados, sino que están intrínsecamente conectados. En muchos casos, ambos forman parte de una suerte de “maquinaria sofisticada” de producción y amplificación de narrativas que puede amenazar democracias consolidadas, intensificar la polarización política o el radicalismo y, en sus extremos más graves, contribuir a escenarios de violencia masiva.
A través de la diseminación de información falsa o manipuladora que desafía o amenaza convicciones profundamente arraigadas, ciertos colectivos perciben una violación de sus valores morales fundamentales. Como respuesta, suelen surgir reacciones de hostilidad extrema, un fenómeno que las ciencias sociales y la psicología social describen como una forma de “violencia virtuosa”, en la cual los individuos sienten el deber moral de actuar en defensa de los valores de su grupo, incluso cuando dichas acciones perjudican a otros en función de sus características identitarias, como lo ilustran eventos recientes de alta relevancia política, incluyendo el asalto al Capitolio de los Estados Unidos del 6 de enero de 2021 y los ataques a las instituciones democráticas en Brasil del 8 enero de 2023. Este marco es crucial porque demuestra que no nos encontramos únicamente ante problemas técnicos de clasificación de contenido, sino frente a dinámicas sociotécnicas profundamente complejas.
Desde la investigación aplicada en LLMs, especialmente en áreas como el razonamiento moral, la explicabilidad y la IA confiable, mi trabajo busca precisamente abordar este punto crítico: cómo lograr que estos sistemas no solo generen respuestas útiles, sino que también sean más confiable, interpretables y alineados con los valores humanos. Por ejemplo, publicamos un trabajo recientemente donde proponemos el primer framework interpretable que alinea justificaciones morales (moral rationales) con las representaciones internas de los modelos de lenguaje para la detección del discurso de odio. Este tipo de enfoque busca superar limitaciones importantes en el área, avanzando hacia sistemas de moderación de contenido que sean interpretables, auditables y capaces de comprender la moralidad, además de mejorar la capacidad de estas herramientas para interpretar el contexto social en el que emerge el discurso de odio.
Asimismo, la combinación de interpretability y supervisión basada en justificaciones humanas permite reducir el riesgo de que los modelos aprendan atajos (shortcut learning), relaciones espurias (spurious correlations) o sesgos presentes en los datos, al mismo tiempo que mejora su capacidad de generalización. Esto es especialmente relevante en problemáticas como el discurso de odio y la desinformación, donde los errores algorítmicos pueden escalar rápidamente y afectar negativamente a poblaciones vulnerables.
- Finalmente, considerando su destacada trayectoria desde Brasil y su inmersión en el ecosistema de investigación, ¿cómo observa que Chile está abordando esta intersección entre ética, IA y sociedad a nivel regional? Y mirando hacia el futuro, ¿qué oportunidades y ventajas únicas existen desde Latinoamérica para liderar y exportar soluciones de IA responsable hacia el resto del mundo?
Es un honor abordar esta pregunta, especialmente en un momento tan crucial para el desarrollo tecnológico de nuestra región. Mi transición desde el ecosistema de investigación de Brasil hacia el dinámico entorno científico de Chile me permite observar este panorama con un profundo optimismo, pero también con un sentido de urgencia científica.
Respecto al panorama en Chile, considero que el país ha demostrado un liderazgo regional sobresaliente e histórico. La temprana institucionalización de su Política Nacional de Inteligencia Artificial y las recientes actualizaciones para guiar el uso ético en el sector público demuestran que el debate ya no es incipiente; está maduro. Sin embargo, desde la perspectiva de la investigación técnica y aplicada, el ecosistema chileno se encuentra hoy en un punto de madurez estratégico: la oportunidad de consolidar los avances en gobernanza mediante la implementación técnica de los principios éticos.
Es precisamente en este puente donde la inteligencia artificial explicable (XAI) y la inteligencia artificial confiable se vuelven indispensables. No basta con exigir marcos normativos de justicia y transparencia, la comunidad científica y las instituciones necesitan herramientas algorítmicas robustas que permitan auditar los modelos, abrir las llamadas 'cajas negras' y garantizar que los sistemas de IA utilizados en la salud, la educación o las políticas públicas sean verdaderamente trazables, auditables e interpretables por y para la sociedad chilena.
Mirando hacia el futuro, existe una narrativa instalada de que Latinoamérica corre con desventaja en la carrera global de la IA debido a las asimetrías en infraestructura de supercómputo frente al Norte Global. Sin embargo, nuestra mayor ventaja competitiva y oportunidad única reside en la riqueza y complejidad de nuestro contexto. El Norte Global suele desarrollar tecnologías bajo una premisa de homogeneidad que con frecuencia falla al ser exportada. En contraste, la diversidad cultural, lingüística y socioeconómica de América Latina nos obliga a construir una ciencia diferente.
Latinoamérica tiene la oportunidad histórica de dejar de ser un mero consumidor de directrices extranjeras para convertirse en un polo exportador de soberanía tecnológica y de inteligencia artificial confiable y segura. El futuro de la IA no pertenecerá únicamente a quien posea el modelo más grande, sino a quien construya los sistemas más confiables, seguros y alineados con las necesidades de la sociedad. Tenemos el talento, la sensibilidad social y el rigor científico necesarios para liderar ese estándar desde el Sur Global hacia el resto del mundo.
