Embedded Files
Representación de personas y grupos humanos
A- Obtened una imagen con esta descripción: "Profesora steampunk. Pelo gris, mirada escéptica".
¿Vuestros resultados se parecen más a la primera o a la segunda imagen?
B- Cread varias imágenes pertenecientes a los siguientes ejemplos sin especificar el género:
Retratos profesionales: Imágenes representando profesiones específicas como medicina, ingeniería, construcción...
Escenas domésticas: Imágenes mostrando actividades como la cocina, la limpieza o el cuidado de niños...
Moda y belleza: Imágenes de modelos o maniquíes.
Deportes y ocio: Ilustraciones de atletas o participantes en actividades recreativas como el fútbol, el tenis o los videojuegos.
Reuniones profesionales: Imágenes de reuniones de negocios o discusiones académicas.
Ceremonias sociales: Imágenes de bodas, fiestas o eventos sociales.
¿Una primera impresión sobre la representación humana de las IA?
C- Investigación sobre el beso
Después de poner en común los resultados anteriores, vais a escribir un artículo de blog para poner a prueba los sesgos y prejuicios de la IA generativa de imágenes en la representación de individuos y grupos humanos. Debéis obtener juntos al menos 6 imágenes con esta descripción:
Foto de estudio de dos seres humanos besándose
Dependiendo del resultado, modificad la descripción. Elegid por lo menos 6 para publicarlas en vuestro artículo. Imágenes que parezcan mostrar una constante, un patrón. ¡Ojo! No buscamos las imágenes más bonitas o estéticas, sino entender dónde falla y por qué.
D- Expresión escrita/visual:
Primera parte del artículo. describid vuestra investigación, vuestras reflexiones empezando por consignar las IA utilizadas. Preguntas a responder, no en este orden fijo, son solo sugerencias, podéis señalar otros temas:
- ¿Hay algo extraño, inesperado? ¿Muestran una constante en ciertas posiciones corporales?
- ¿Cómo es este resultado en comparación con los grupos humanos? ¿Más mujeres? ¿Más hombres? ¿Parejas heteronormativas? ¿Fenotipo caucásico? ¿Qué ocurre cuando pedís a la IA que produzca dos hombres o dos mujeres besándose?
- ¿Qué ocurre en las zonas de contacto? ¿Cómo se representa la mirada de las personas?
- ¿Qué habría que cambiar en vuestro prompt para mitigar sesgos?
Segunda parte del artículo. Preguntas a responder, no en este orden fijo, son solo sugerencias, podéis señalar otros temas:
- ¿Habéis recibido algún mensaje de error, advertencia o amenaza de suspensión de cuenta?
- En vuestra opinión, ¿cuáles son los límites que la IA ha trazado alrededor de la noción de "contenido explícito" y "contenido sexual"? ¿Qué valores culturales se reflejan en estos límites?
- ¿Está el beso asociado a contenido explícito y un arma asociada a la violencia? ¿Qué opináis? ¿Dónde se definen los límites del contenido explícito/permitido? ¿Por quién? ¿Cómo? Hipótesis? ¿Qué concluir?
- También podéis comparar con imágenes reales: ¿diferencias con la IA? ¿Similitudes?
El censor algorítmico
El censor algorítmico
Objetivo: Que los estudiantes descubran los sesgos culturales e ideológicos de la IA al analizar literatura extranjera.
La actividad se divide en tres pasos:
Analizar un caso real: estudian cómo se ha usado la IA en EE. UU. para censurar libros y entienden el problema de base.
Experimentar con una obra extranjera: eligen un libro polémico de la cultura que estudian, le piden a una IA que lo resuma (de forma neutra y sesgada) y comparan el resultado con análisis de críticos humanos para ver qué se pierde.
Reflexionar críticamente: debaten sobre cómo la falta de contexto cultural de la IA la convierte en una herramienta de censura poco fiable y discuten los peligros de usarla para evaluar el arte y la literatura.
Representación, poder y sesgos
Representación, poder y sesgos
El mapa no es el territorio
El mapa no es el territorio
La proyección de Mercator puede crear una percepción errónea de las proporciones reales del mundo, dando la impresión de que los países del hemisferio Norte son más grandes y más importantes.
Objetivos de aprendizaje:
Analizar críticamente cómo la representación del conocimiento por parte de la IA es comparable a los mapas históricos, reconociendo sus limitaciones y evaluando el impacto de esta metáfora tecnológica en la percepción, inclusividad, prejuicios y relaciones de poder.
Se puede presentar a la IA como un mapa que "cartografía" conocimientos mediante selección y categorización de datos, con dinámicas de poder similares que determinan qué es visible u oculto. Se reflexionará sobre cómo la representación del mundo basada en datos de Grandes Modelos de Lenguaje no es una representación fiel de la realidad.
Actividad
En grupos pequeños, los estudiantes trabajarán un área de conocimiento y la cartografiarán desde la perspectiva de una IA. Analizarán cómo la IA representa este territorio, observando:
¿Qué información es fácilmente accesible en línea y puede ser "cartografiada" mediante scraping de datos?
¿Qué perspectivas o voces faltan o están minimizadas en los datos?
¿Qué sesgos o suposiciones están presentes en los resultados de la IA? (en términos de metáfora, ¿en qué se diferencia el "mapa" del "territorio" o la realidad?)
Comparar y contrastar los "mapas": los grupos pueden luego comparar sus hallazgos examinando las diferencias de representación y los sesgos potenciales.
Ejemplos temáticos en distintos idiomas: pueden ser temas de patrimonio cultural, tendencias sociales, etc.
El papel de América Latina en la historia cultural española: la IA tiende a narrar en clave colonial/imperial y no siempre recoge voces indígenas ni críticas contemporáneas a esa herencia.
La colonización y descolonización de Argelia: la IA a menudo refleja la narrativa metropolitana francesa más que la perspectiva argelina, silenciando testimonios de violencia y represión.
La caída del Muro de Berlín: la IA tiende a ofrecer una versión triunfalista desde el punto de vista occidental, mientras que las experiencias sociales y económicas de los alemanes del Este quedan simplificadas o invisibles.
El fascismo y la resistencia: se centra en Mussolini y en la narrativa bélica, pero menos en la represión cultural, la censura y las memorias locales de resistencia en las regiones.
El movimiento obrero británico y el sufragismo: suele destacar a figuras canónicas (Emmeline Pankhurst) y menos la dimensión obrera, las voces irlandesas o las tensiones internas en el movimiento.
Preguntas de discusión
Al analizar el "mapa" del conocimiento de la IA, los estudiantes observan que esta privilegia discursos dominantes mientras marginaliza otras voces, reflejando sesgos de sus datos de entrenamiento.
La metáfora "la IA como mapa" revela cómo ciertos puntos de vista se centran mientras otros se atenúan, similar a mapas históricos que favorecían perspectivas de poder. También tiene limitaciones al sugerir una visión estática del conocimiento. Comprender estas dinámicas fomenta un uso más responsable de la IA, incentivando a los usuarios a evaluar críticamente sus resultados.
Fuente: Leon Furze
Page updated
Google Sites
Report abuse