• El problema de la dependencia de sistemas automatizados

  • Si los protagonistas confían ciegamente en que la IA manejará el faro mejor que cualquier humano, pueden estar pasando por alto los peligros de depender demasiado de un sistema sin supervisión.

  • ¿Qué pasa si la IA comete errores? ¿Si alguien la manipula?

• Sesgo de autoridad tecnológica (Sesgo cognitivo identificado 🧠)

  • Este sesgo ocurre cuando se acepta ciegamente una decisión porque la tomó una IA o un algoritmo, sin cuestionar su lógica o consecuencias.

  • Un ejemplo real de esto es cuando la gente confía más en una calificación dada por una aplicación que en su propia experiencia.

• El dilema ético de la IA con libre albedrío

  • Si la IA comienza a tomar decisiones más allá de lo programado, ¿puede realmente actuar con ética?

  • Se plantea el debate sobre si las máquinas pueden comprender la moralidad de la misma forma que los humanos.

Actividades para trabajar la escena

1. Juego de rol: "Decisiones de la IA"

Objetivo: Analizar los límites de la automatización en la toma de decisiones.
Materiales: Tarjetas con dilemas éticos.
Instrucciones:

• Se forman grupos, donde cada uno representa una IA que controla un sistema (ej.: un faro, un hospital, una ciudad).

• Se presentan dilemas como:

  • ¿Apagarías el faro si la eficiencia dice que no es rentable mantenerlo encendido?

  • ¿Salvarías a cinco personas a costa de perjudicar a una?

  • ¿Harías obligatorio que todos sigan una dieta saludable para reducir gastos médicos?

• Después, los grupos explican sus decisiones y debaten sobre los peligros de automatizar la ética.

2. Experimento: "¿Confías más en la IA que en ti mismo?"

Objetivo: Identificar el sesgo de autoridad tecnológica.
Instrucciones:

• Se presentan a los estudiantes preguntas de cultura general o problemas matemáticos.

• Primero responden sin ayuda. Luego, se les da una "respuesta de IA" (que puede ser correcta o incorrecta).

• Se analiza cuántos cambiaron su respuesta solo porque la IA lo dijo.

• Reflexionan sobre cómo la tecnología influye en nuestras decisiones y cómo podemos evitar una confianza ciega.

3. Debate: "¿Qué trabajos deberían seguir en manos humanas?"

Objetivo: Analizar los límites de la automatización y la ética en el reemplazo de trabajadores por IA.
Preguntas guía:

• ¿Deberían existir fareros humanos si las máquinas pueden hacer el trabajo?

• ¿Qué trabajos jamás deberían ser reemplazados por IA?

• ¿Es más importante la eficiencia o el valor humano en ciertos roles?

4. Escritura creativa: "El dilema de la IA"

Objetivo: Reflexionar sobre los límites de la autonomía de la inteligencia artificial.
Instrucciones:

• Los estudiantes escriben una historia en la que una IA se enfrenta a una situación inesperada que no está programada para manejar.

• Pueden explorar qué haría si tuviera que decidir entre seguir órdenes o hacer lo que considera "moralmente correcto".

• Luego se comparten los relatos y se analiza: ¿Es posible que una IA tenga conciencia ética?

Conclusión y preguntas finales

• ¿Hasta qué punto deberíamos confiar en las decisiones tomadas por IA?

• ¿Cómo evitar caer en el sesgo de optimismo tecnológico?

• ¿Qué peligros existen si dejamos que las máquinas tomen decisiones sin supervisión humana?