Entre el 24 y el 25 de septiembre, la investigadora Francielle Vargas representó a la Universidad de Chile en el Digital Trust Council AI Trust Summit, un encuentro internacional realizado en la Universidad de Harvard, en Cambridge, Massachusetts (Estados Unidos). La cumbre congregó a especialista globales para debatir sobre la gobernanza, seguridad y confianza en los sistemas tecnológicos del futuro.
"Esta participación representa una oportunidad para fortalecer y ampliar la agenda de investigación centrada en el desarrollo de sistemas de IA confiables, seguros y alineados con valores humanos", señala Francielle Vargas, académica de la Iniciativa de Datos e Inteligencia Artificial (IDIA) de la Facultad de Ciencias Físicas y Matemáticas (FCFM) de la Universidad de Chile.
Investigación sobre certificación en seguridad de IA
En su línea de investigación, la académica busca desarrollar mecanismos concretos para aumentar la seguridad en el diseño y operación de las tecnologías emergentes. Su trabajo, desarrollado junto a líderes internacionales en la materia, explora y analiza dimensiones críticas para fortalecer la confianza en los sistemas de IA, tales como la transparencia, la privacidad y gobernanza de datos, la equidad, los derechos humanos, así como la necesidad de una rendición de cuentas activa, supervisión humana constante y mecanismos de reparación ante posibles fallos.
Su asistencia al evento en Estados Unidos está directamente vinculada a su calidad de coautora del trabajo científico Closing the AI Trust Gap: The Case for Independent Certification for Trustworthy AI, publicado en 2026. El paper plantea un desafío fundamental en la industria: cómo transitar desde una "IA responsable", entendida hoy mayormente como un compromiso interno y voluntario de las empresas, hacia un ecosistema de IA que pueda ser evaluado, verificado y reconocido de forma externa. Para lograrlo, el estudio analiza a fondo mecanismos de certificación e instrumentos de evaluación independiente orientados a promover sistemas comprobablemente seguros.
“Lo que proponemos en este artículo es que no bastan las autoevaluaciones. Es imperativo implementar mecanismos de certificación y evaluación independiente. Solo cuando un sistema de inteligencia artificial pueda ser verificado y reconocido de forma externa y objetiva, podremos asegurar que su diseño y operación son verdaderamente seguros, equitativos y respetuosos con los valores humanos", explica la académica de la Universidad de Chile.
Organizado por el Digital Trust Council y el Berkman Klein Center for Internet & Society de la Universidad de Harvard, el programa de la cumbre abordó la urgente "brecha de confianza" en torno a estas herramientas. Los paneles de discusión exploraron cómo crear incentivos, estándares legales e institucionales que fomenten prácticas seguras frente a la paradoja actual: un altísimo interés en adoptar la IA contrastado con profundas dudas sobre su confiabilidad. En las jornadas se profundizó en enfoques como el continuous risk discovery (descubrimiento continuo de riesgos), que busca identificar vulnerabilidades desde el diseño y la arquitectura hasta el comportamiento de la IA en la interacción humana.
El encuentro reunió a investigadores, investigadoras, representantes de organismos públicos y altos ejecutivos de empresas tecnológicas. Entre quienes expusieron destacan figuras como Sarah Bird, Chief Product Officer de IA Responsable en Microsoft; James Mickens, profesor de Ciencias de la Computación de Harvard; Julie Inman Grant, comisionada de eSafety de Australia, y Christina Montgomery, Chief Privacy and Trust Officer de General Motors. A ellos se sumaron Avijit Ghosh de Hugging Face; Amit Goldenberg y Alex Pascal de Harvard; Nicholas Thompson, COO de The Atlantic, y los líderes del Digital Trust Council, Catherine Feldman (directora ejecutiva) y Jeff Dunn (director de operaciones).
).jpg)
