¿Puede la inteligencia artificial predecir lo que pensamos? Esa es la pregunta que se planteó Andrés Abeliuk y Vanessa Gaete, integrantes del Departamento de Ciencias de la Computación de la Facultad de Ciencias Físicas y Matemáticas de la Universidad de Chile, junto a Naim Bro, académico de la Escuela de Gobierno de la Universidad Adolfo Ibáñez (UAI), en el estudio “Auditing socio-demographic and cross-societal fairness in LLM-simulated public opinion”.
La investigación buscó determinar qué tan bien los modelos de inteligencia artificial pueden predecir la opinión pública de las personas a partir de su información demográfica. Y los resultados revelaron una diferencia significativa: los modelos funcionan considerablemente mejor al predecir la opinión pública de Estados Unidos que la de Chile.
“Y no porque tenga prejuicios propios, sino porque aprende a partir de datos que pueden reflejar las desigualdades del mundo real”, comenta el profesor Abeliuk.
¿La razón? Una posible explicación está en los propios datos con los que se entrenan estos modelos. Según el académico, una gran parte de ellos proviene del contexto estadounidense, por lo que a los modelos les resulta más difícil representar otras realidades culturales y sociales, como la nuestra.
“Además, mirando en el contexto de Chile, observamos que los modelos cometen más errores al representar a mujeres, personas mayores, personas religiosas y personas con menor nivel educativo”, explica Abeliuk.
Esto podría estar reflejando desigualdades presentes en los datos utilizados para entrenar los modelos, donde algunos grupos pueden estar menos representados o contar con menor cantidad de información disponible. Y cuando estas características se combinan, las diferencias pueden ser aún mayores.
Los resultados plantean así una pregunta relevante para el desarrollo y uso de la inteligencia artificial: ¿qué tan bien puede representar una IA a una sociedad que no está suficientemente presente en los datos con los que aprendió?
Para el equipo investigativo, avanzar hacia sistemas de inteligencia artificial realmente útiles y justos requiere considerar esta diversidad. “En su totalidad, estos resultados muestran que, para que la inteligencia artificial sea realmente útil y justa en nuestras sociedades, necesitamos desarrollar modelos más inclusivos y adaptados a la diversidad cultural y social de países como el nuestro”, concluye el profesor Abeliuk.
