Ingeniero civil eléctrico y bachiller en computación de la Universidad de Chile, magíster en Ingeniería Eléctrica y magíster en Ciencias de la Computación por la misma universidad, y doctor en Ciencia de la Computación de la Universidad de Waterloo, Canadá, comenta que fue su paso por Beauchef el que lo inspiró a seguir el área de la ciencia. Desde entonces ha recorrido un largo camino. Profesor Titular del Departamento de Ciencias de la Computación (DCC) de la Facultad de Ciencias Físicas y Matemáticas (FCFM) de la Universidad de Chile e investigador senior del Instituto Milenio Fundamentos de los Datos (IMFD), hoy se encuentra en Silicon Valley, donde es director de Investigación del Instituto de Inteligencia Artificial Experiencial de Northeastern University. Allí trabaja en temas de inteligencia artificial (IA) responsable y políticas tecnológicas, aunque la mayor parte de su carrera la ha desarrollado en las áreas de algoritmos, recuperación de la información y minería de datos.
Tienes amplia experiencia no solo en Chile, sino en Europa y Estados Unidos. ¿Cuáles son las principales diferencias que ves en el desarrollo de la computación entre ambos mundos?
En Chile es más difícil hacer investigación y tenemos una masa crítica pequeña de investigadores. En los diez años que estuve en España —en la Universidad Pompeu Fabra— era más fácil tener recursos, pero la masa crítica no era mucho más grande comparada con el tamaño de la población de España. La diferencia es que está en Europa y hay muchos recursos de la Unión Europea. Está muy cerca, además, de universidades importantes como ETH en Suiza, que es tal vez la mejor universidad europea, u Oxford o Cambridge en Inglaterra. Y en Estados Unidos diría que, por supuesto, hay más recursos y una masa de investigadores muy grande, lo que cambia es que la competencia por esos recursos es mucho más dura.
¿Cómo ves la computación: como ciencia o solo como una tecnología?
Siempre han sido las dos cosas. No es solamente una tecnología, también es ingeniería que es la parte más aplicada y hay una parte que es ciencia misma que viene de las matemáticas y de la lógica, que ahora se juntan con otros temas como neurociencia y ética debido a la inteligencia artificial. Ahora, es difícil hablar de una ciencia de la computación pura, tiene ya un alcance mucho más horizontal a todas las ciencias. Por ejemplo, hoy en día ya no es difícil encontrar una aplicación en inteligencia artificial en todos los temas de investigación en el mundo.
Hay una parte positiva, pero también una negativa muy importante. Hay muchas aplicaciones que permiten que las personas entiendan hoy qué es la inteligencia artificial sin tener que entender cómo funciona la tecnología, y eso es parte del problema. Cuando las cosas se vuelven muy fáciles de usar, uno se olvida exactamente de las implicancias que tiene; genera pereza en la gente que deja de aprender —y ese es el primer tema que me preocupa— si hay una app que les ayuda a hacer esas cosas. Por ejemplo, ¿cuántas personas pueden encontrar un lugar en una ciudad sin el GPS? Algo que hemos aprendido en miles de años fue a ubicarnos en un entorno sin tener muchos puntos de referencia, solamente con el sol y, en la noche, con las estrellas. Eso se perdió y me preocupa que se pierdan otras habilidades. Es decir, todavía tenemos que aprender a hablar, a leer y escribir cuando somos niños, y si las tecnologías nos ayudan a desaprender, es un tema de fondo para el futuro. Por supuesto, hay otros temas como salud mental y desinformación que son tal vez los dos más importantes del impacto negativo, sin contar la discriminación.
¿Cómo ves el papel de las empresas tecnológicas en términos de responsabilidad social?
Es importante poner el contexto global. Tal vez, el culpable número uno es el sistema financiero imperante que valoriza el corto plazo. La ciencia y la tecnología necesitan muchas veces más de un año para poder desarrollarse en forma ética y ese es el gran problema. La ética va corriendo detrás de la tecnología hasta que ocurre algún incidente negativo. Hace veinte años usaba la metáfora de Alicia (en el país de las maravillas) que decía que tenía que correr el doble de rápido para poder estar en el mismo lugar. Hoy esa metáfora es peor aún, tienes que correr diez veces más rápido porque hay otra compañía que está tratando de avanzar más rápido. Hay una responsabilidad social muy grande, pero no se cumple porque hay una falta de ética muy grande en todo el mundo, no solamente en las empresas tecnológicas. Lo vemos en la política, en los negocios, en todas partes.
Si uno recuerda que la ética es humana, cada vez nos estamos haciendo más inhumanos y la IA no está ayudando mucho en ese sentido.
“Ahora es difícil hablar de una ciencia de la computación pura, tiene ya un alcance mucho más horizontal a todas las ciencias”
¿Cuán serio es el problema de la desinformación?
El 2024 fue el año de la desinformación. Hubo elecciones en más de cien países y fue el año en que ha votado más gente en el mundo. Desde la elección en la India hasta la elección en Estados Unidos, que fueron tal vez las dos más grandes, el impacto de la desinformación es mucho más alto de lo que uno cree. Ha habido malos actores que han tratado de manipular a la gente. Harari (historiador israelí) hace unos años dijo: “La gente más fácil de manipular es la que cree que no puede ser manipulada”. Y eso es lo que está pasando.
Otro tema mucho más complicado —y sutil— es la colonización cultural. Hoy en día toda la IA generativa usa principalmente material de Estados Unidos o de países desarrollados y cualquier pregunta que uno haga va a ser contestada por la cultura de esos datos. Mi ejemplo favorito es que si uno pregunta cuántos continentes hay, la respuesta va a ser siete porque para Estados Unidos América está dividida en dos. Pero, básicamente, si aplicamos eso a otros temas más complicados podemos estar aprendiendo cosas que son de otra cultura y perdiendo la nuestra, y ese es otro tipo de desinformación.
“Hoy en día toda la IA generativa usa principalmente material de Estados Unidos (...) cualquier pregunta que uno haga va a ser contestado por la cultura de esos datos”.
Ahora, además de las tecnologías de IA, ¿qué crees que tenemos que hacer desde el sur para evitar estos temas de incidencia cultural y defender nuestra identidad?
De hecho, ya comenzó (a hacerse algo) desde el sur. Australia estableció una ley que prohíbe a menores de 16 años usar redes sociales. Es interesante porque es un país desarrollado que hace algo importante para evitar el impacto que tienen las redes sociales y la IA en nuestros niños, niñas y jóvenes. Creo que el primer tema es tener políticas claras, regulaciones claras como la de Australia. En Estados Unidos se han propuesto casi mil leyes estatales y federales para regular la desinformación de las cuales solamente el 15% ha sido aprobada a nivel estatal y casi ninguna a nivel federal. Ahora, quiénes son los que proponen esto, son los políticos, porque son sus puestos de trabajo los que están en peligro con la desinformación. Por tanto, yo creo que, primero, necesitamos regular esto a una velocidad mucho más rápida de lo que lo estamos haciendo. También creo que no tenemos que copiar. Por ejemplo, (con la propuesta de ley de IA) vamos a copiar muchas ideas de la Unión Europea que son erradas.
Dada la diversidad de regulaciones en todo el mundo, ¿qué opinas sobre los distintos marcos regulatorios existentes como el chino, europeo, estadounidense y la propuesta chilena?
La primera regulación sobre IA generativa fue hecha en China a mediados de 2023 y la razón es muy entendible: la desinformación. Porque al mismo tiempo que Harari publicaba en The Economist una opinión diciendo que la desinformación y la inteligencia artificial eran un peligro para la democracia, los chinos ya habían comprendido que esto es un peligro para cualquier forma de gobierno. Entonces, regularon todo el tema de la IA generativa y, por supuesto, pensaron en todos los problemas tecnológicos, ya que abarca derechos de autor, datos que se usan para el entrenamiento, todo el tema de manipular a la gente, de salud mental, etc. Y es un buen ejemplo de cosas que hay que analizar para copiar lo que sería útil, por ejemplo, en Chile.
“Australia estableció una ley que prohíbe a menores de 16 años usar redes sociales. Es interesante porque es un país desarrollado que hace algo importante para evitar el impacto que tienen las redes sociales y la IA en nuestros niños, niñas y adolescentes”.
Respecto a Estados Unidos, está la falacia de que la regulación implica afectar la innovación. Es una falacia porque no toda la innovación es positiva. La buena regulación genera la mejor innovación y, también, impide la mala innovación.
En Europa hay una legislación bastante política que tiene tres problemas fundamentales. Primero, no creo que lo correcto sea regular el uso de la tecnología; la regulación debiera ser del problema en sí, por ejemplo, de la protección de datos. Entonces, en vez de trabajar en regulaciones sectoriales, se reguló algo para todos y ese es parte del problema. El segundo es que está basada en cuál es el riesgo de esas aplicaciones. Hay un riesgo prohibido, uno alto, uno bajo y, por defecto, aplicaciones sin riesgo, pero todavía no sabemos ni siquiera medir el riesgo. Tampoco sabemos medir el impacto y estamos inventando categorías que realmente no existen. El tercer problema es que se está regulando solamente el uso de la IA, pero cualquier software puede hacer daño —por supuesto, la IA es la tecnología de software que puede hacer más daño—. El caso de Horizon en el Reino Unido, conocido gracias a una serie de televisión de comienzos del 2024, es el mejor ejemplo de un software que afectó a miles de familias.
¿Cómo te imaginas el mundo digital dentro de diez a veinte años?
Prefiero no hacer predicciones, sino hablar de una utopía, pero para eso necesitamos hacer algunos cambios. El primer cambio que me gustaría hacer es crear una app que sea nuestra consciencia digital y te diga todas las cosas falsas que te dijeron (o que crea que son falsas) cuando te intentaron manipular, te discriminaron y, al mismo tiempo, que señale si tú trataste de manipular, discriminar o dijiste cosas que no eran ciertas. Sería la IA ayudando a la IA.
Mi utopía es que si la IA hace todos los trabajos que no nos gusta hacer, y eso permitiera tener un salario universal, todas las personas podrían dedicarse a sus verdaderas pasiones. La cantidad de escritores/as, músicos/as, poetas, bailarines/as, etc. que habría sería increíble. Esto sería para mí el verdadero renacimiento de los seres humanos.
Para terminar, ¿qué consejos le darías hoy a los y las estudiantes que están comenzando su carrera en la computación para navegar en un campo tan dinámico y en constante cambio como este?
Daría un consejo a todos los estudiantes, no solo a los de computación. Lo primero es no hacer planes y recordar que las pasiones van cambiando, es decir, uno a veces se convence de algunas cosas y descubre tarde que los gustos que uno tiene son otros. Eso significa estar siempre abierto a cosas nuevas o a otras oportunidades. Incluso aunque uno tenga un plan, hay que considerar todas las oportunidades. Lo segundo es que es normal equivocarse y esa es la mejor manera de aprender. Uno no tiene que arrepentirse, sino aprender para que en la siguiente oportunidad puedas tomar una mejor decisión. Finalmente, no pensar mucho en lo que tienes que hacer, pues pierdes tiempo para hacerlas. Solo hazlas.
.jpg.jpg)
