Con la tesis de magíster "Model Interpretability Through the Lens of Computational Complexity", el estudiante de postgrado del Departamento de Ciencias de la Computación (DCC), Bernardo Subercaseaux, obtuvo el primer lugar del Latin American Conference on Computational Intelligence (LA-CCI). “Esta investigación trata de estudiar qué tan 'interpretables' son distintos modelos de Machine Learning, es decir, qué tan sencillo es entender las decisiones que toman. Por ejemplo, un modelo de Machine Learning puede tomar una foto de una vaca y clasificarla como tal, pero quizás la razón por la que lo clasificó así es porque en la foto hay pasto, no porque realmente reconozca la vaca. Esto se vuelve especialmente importante cuando consideramos modelos que impactan nuestras vidas, como recomendaciones en redes sociales, o peor aún, modelos que un banco utilizaría para decidir si dar un crédito a una persona. El área de interpretabilidad se dedica entonces a intentar entender las razones detrás de las decisiones que un modelo toma. Esta tesis da un paso hacia la formalización de estas nociones, relacionando la interpretabilidad de distintos modelos con la complejidad computacional de obtener explicaciones para sus decisiones”, explicó Bernardo.
Esta investigación, guiada por el profesor del DCC Jorge Pérez y el profesor de la Pontificia Universidad Católica de Chile Pablo Barceló, crea herramientas más formales para comparar rigurosamente la interpretabilidad de distintos modelos. “En términos más técnicos, uno de los aportes de la tesis es mostrar que los árboles de decisión, que normalmente se consideran bien interpretables, son difíciles de tratar para ciertas explicaciones. Nuestro resultado resuelve un problema que otros papers han dejado abierto”, destacó Bernardo. Y agregó: “Además, estudiamos cómo la complejidad de explicar redes neuronales aumenta entre más capas de profundidad tienen, conectando el área con complejidad parametrizada”.
La premiación se realizó el pasado 2 de noviembre de manera online, destacando que la investigación del estudiante postgrado presenta contribuciones científicas y tecnológicas del trabajo, potencial impacto en la sociedad y potencial impacto en el área de inteligencia computacional y otras áreas relacionadas. “Este premio, es sin duda un reconocimiento al trabajo que se realiza en el DCC y creo que es importante también destacar que los papers asociados a esta tesis fueron aceptados en conferencias top del área, por ejemplo, en la Conference on Neural Information Processing Systems (NeurIPS'2020). Ahora que estoy haciendo investigación en otro país, me queda muy claro que la investigación y la preparación que se hace en el DCC es de primer nivel.”, enfatizó Bernardo.
Cabe destacar, que Latin American Conference on Computational Intelligence busca promover una mayor participación de los estudiantes de postgrado en el evento y fomentar la mejora continua de las presentaciones de tesis de doctorado y maestría en Inteligencia Computacional. Además, tiene como objetivo entregar un escenario y un foro internacional de alto nivel para que científicos, investigadores, ingenieros y educadores publiquen sus últimos resultados de investigación e intercambien puntos de vista para futuras direcciones de investigación sobre sistemas neuronales y de aprendizaje, modelado difuso y estocástico, evolución y Swarm Computation y sus aplicaciones relacionadas.
Actualmente, Bernardo se encuentra realizando un doctorado en Carnegie Mellon, en Estados Unidos. “Este año nos aceptaron un paper como spotlight (i.e., aceptado con honores, entre el mejor 3% de los papers) en la NeurIPS'2021, que es una de las conferencias más importantes de Machine Learning. Esta investigación, que también es consecuencia del trabajo de la tesis, fue realizada junto al profesor Jorge Pérez, Daniel Báez, estudiante de pregrado del DCC, y los profesores Pablo Barceló y Marcelo Arenas de la PUC”, concluyó.
