La ética en la inteligencia artificial (IA) no debe entenderse como un simple componente adicional que se suma a un sistema técnico, sino como una parte constitutiva de un enfoque social. Este es uno de los principios centrales del libro “Ética en la inteligencia artificial y las tecnologías de la información”, que fue lanzado este martes 19 de mayo en la Biblioteca del GAM.

Los y las autoras sostienen que, dado que la adopción de la IA es inevitable y transformará profundamente aspectos esenciales de la vida humana, donde el desafío actual ya no basta con generar conciencia sobre la importancia de la ética, por lo que es necesario traducir esa conciencia en metodologías y prácticas específicas para el diseño, desarrollo e implementación de estas tecnologías. 

En esta dirección la IA no puede considerarse un artefacto puramente computacional separado de la sociedad, sino que requiere una mirada que reconozca que los algoritmos están situados en contextos humanos, sociales y culturales complejos. Por ello, el libro aboga por una integración profunda de valores como la equidad, la transparencia y la responsabilidad (accountability). 

Para comprender esta transición desde la teoría a la práctica, Claudia López, académica del Departamento de Ciencias de la Computación (DCC) de la Facultad de Ciencias Físicas y Matemáticas (FCFM) de la Universidad de Chile, detalla: "Como hemos consensuado muchas veces con Gabriela y Marcelo, la ética aplicada a la inteligencia artificial no es un simple atributo que se le pueda 'agregar' a una máquina. Por el contrario, requiere comprender la IA como un sistema complejo, evaluando de forma sistemática el impacto de sus algoritmos y reconociendo que las decisiones de diseño tecnológico están intrínsecamente ligadas a los valores humanos y sociales".

Este cambio de paradigma requiere observar las complejas influencias que moldean el uso de las plataformas digitales. Las narrativas actuales sobre la tecnología impactan directamente en la percepción de quienes desarrollan y formulan políticas públicas. Para contrarrestar visiones parciales, la publicación recalca la necesidad de un trabajo interdisciplinario que una la técnica con los conocimientos de las ciencias sociales y las humanidades.

En esta línea, el libro usa el concepto de "situacionalidad" de las teorías feministas de la ciencia, indicando que todo algoritmo se inserta en un marco histórico específico. Esta idea dialoga con enfoques analíticos como el feminismo de datos y la justicia de diseño. Estas perspectivas examinan cómo la información recolectada suele ser una representación reductiva que omite las experiencias de comunidades marginadas, lo que a menudo lleva a que las soluciones tecnológicas favorezcan a los grupos sociales con mayor privilegio.

Los modelos de lenguaje y la tercera ola

El texto también examina aplicaciones contemporáneas de amplio alcance, como los Modelos de Lenguaje Extenso (LLMs). Aunque estos sistemas demuestran una alta capacidad para procesar e imitar el lenguaje humano, presentan limitaciones estructurales. Entre ellas destacan las "alucinaciones" y una baja fiabilidad fáctica, consecuencia directa de su entrenamiento con información no verificada proveniente de la web. Esta capacidad de imitación acarrea vulnerabilidades, propiciando escenarios que facilitan la suplantación de identidad y la manipulación de la información.

Frente a los riesgos documentados, los y las autoras proponen avanzar hacia una "tercera ola" de la inteligencia artificial. Mientras la etapa inicial se concentró en generar debate, esta fase exige aplicar metodologías integradas a lo largo de todo el ciclo de desarrollo, incluyendo variables como la sostenibilidad ecológica. Dado que los algoritmos procesan probabilidades estadísticas y no valores morales, el libro concluye que la mitigación técnica debe ir obligatoriamente acompañada de una gobernanza humana que supervise permanentemente los contextos de aplicación.

El libro se encuentra a disposición del público general en la Biblioteca del GAM, ubicada en el 3er piso del edificio A del Centro Cultural, y también en la Biblioteca Central FCFM. 

--
Subdirección de Comunicaciones FCFM