De una entrada FB de Antonio Diéguez Lucena
Publicación original de Piero Bianucci aquí
(Artículo que he traducido con IA, aunque necesitando un poco de mi ayuda)
LA INTELIGENCIA ARTIFICIAL NO NECESITA INTELIGENCIA
Luciano Floridi, filósofo de la información de la Universidad de Oxford: La IA se comporta como si fuera inteligente pero funciona precisamente porque su acción está separada de la "comprensión". Y precisa: “La IA no trata de la capacidad de reproducir el pensamiento humano sino de la capacidad de prescindir de él”
Piero Bianucci
11 marzo 2022 a las 11:58
Después de los pioneros Norbert Wiener, fundador de la cibernética, y Alan Turing, fundador de la informática, la Inteligencia Artificial (IA) ha encontrado un filósofo militante que la redefine en el contexto de los desarrollos tecnológicos más recientes. Luciano Floridi -en la foto de arriba: 57 años, romano, egresado de "La Sapienza", naturalizado británico- se dedica a esta tarea en la Universidad de Oxford, donde enseña Filosofía y Ética de la Información, y desde hace algunos años también en Universidad de Bolonia, donde ocupa la cátedra de Sociología de la Cultura. El camino de Floridi pasa por una serie de ensayos que desarrollan un sistema de pensamiento robusto y coherente con una impronta pragmática “posanalítica continental” (estas son sus palabras). La última obra, recién distribuida en librerías, es "Ética de la Inteligencia Artificial" (Raffaello Cortina, 384 páginas, 26 euros) y la fuerza teórica que la inspira es tal que reconfigura el mapa del mundo digital respecto al antiguo mundo analógico.
Analógico y digital
Una fuente de chorro continuo es analógica, una fuente que gotea (como "La fuente enferma" en la poesía de Palazzeschi) es digital (discontinua, "discreta"), porque la gota es la unidad de agua más pequeña que puede soltar. La mesa sobre la que escribo es analógica porque aparece como un objeto unitario y compacto, pero sería digital (discontinua, discreta) si pudiera ver los átomos individuales que la componen. La voz de Mina es analógica porque no hay ruptura en sus vibraciones, pero se vuelve digital en un CD donde esas vibraciones, es decir sus ondas sonoras, son muestreadas 44 mil veces por segundo y traducidas a tantos números (dígitos) a través de combinaciones de 1 y 0, es decir, bits individuales, los "átomos" de información.
Según las teorías físicas más avanzadas, la realidad en su esencia es digital: incluso el espacio es "discreto" (discontinuo), sus unidades elementales tienen la "longitud de Planck" (10 a menos 35 metros) y el tiempo no fluye como un río sino “gotea” como la fuente de Palazzeschi a razón de 10 a menos 43 segundos (el “tiempo de Planck”). La realidad analógica que nos rodea es una cuestión de escala y complejidad: al pasar de lo extremadamente pequeño, que es "discreto" (cuantificado), a una escala intermedia o extremadamente grande, su granularidad ya no se percibe y parece analógica ("continua").
El mundo analógico nos rodea, y somos seres analógicos. Pero en las últimas décadas hemos construido un mundo paralelo que es digital, todo hecho con los dos bloques de construcción básicos, Uno y Cero, que en una computadora significan la presencia o ausencia de electricidad. Traducido, sí y no, encendido y apagado. Una computadora es una enorme galaxia de diminutos interruptores que, encendidos y apagados en un orden determinado, pueden representar y producir cualquier cosa: música, voces, conceptos, imágenes fijas y en movimiento, correos electrónicos, libros, periódicos, problemas, soluciones, juegos. , realidades virtuales, incluso objetos físicos cuando se colocan en una impresora 3D. Es importante destacar que, a diferencia de los átomos, los bits son inmateriales, pueden viajar en ondas de radio o dentro de fibras ópticas a la velocidad de la luz. Así, el mundo digital se vuelve tan grande como su red de conexiones (Internet), "continuas" y "discretas" -para usar las palabras de la física y las matemáticas- dan lugar a dos universos paralelos que interactúan entre sí. La Inteligencia Artificial es una de las expresiones más sofisticadas del universo digital.
Poder de dividir
Desde la primera página Floridi fija la idea clave: la principal característica de lo digital es su “poder de división”, que se traduce en una posibilidad casi ilimitada de “cortar y pegar”. Es una propiedad que se deriva directamente de la naturaleza "discreta" subyacente. En el mundo digital, una fotografía es un mosaico de millones de piezas diminutas, los píxeles. Nuestra persona es (también) una asociación de datos - día de nacimiento, estado civil, título educativo, profesión, lugar de residencia, posición instantánea (geolocalización con Gps), número de teléfono, IBAN (cuenta bancaria), número de seguro social, tarjetas de el servicio de salud, de la Coop y quién sabe cuántos más, credenciales para acceder al lugar de trabajo, dirección de Internet, contraseñas de las distintas redes sociales, etc. Digital separa posición y presencia: a través de Internet puedo actuar a distancia en cualquier parte del mundo, cualquier persona, señala Floridi, puede “estar físicamente en un lugar, digamos un bar, y estar presente interactivamente en otro, digamos una página de Facebook”. La ley y la territorialidad están separadas de lo digital: de hecho, sabemos lo difícil que es hacer cumplir las reglas para gigantes web como Microsoft, Amazon y similares. Y, paradójicamente, sigue siendo digital, a través de sitios web y redes sociales, que reencuentra a los individuos con el mundo analógico, por ejemplo, al devolverte la llamada en un determinado restaurante, en un lugar de vacaciones o en una manifestación política.
La mezcla de analógico y digital en la que vivimos, además de las relaciones sociales, políticas y afectivas, ha cambiado la relación entre producción y consumo: nos hemos convertido en prosumer -o, como dice Floridi, produmer-. Consumimos videos, textos, música, pero también los producimos en Tic-Toc, Youtube, Instagram, Twitter, Facebook, etc.
Lo digital -observa Floridi- es una "tecnología de tercer orden", es decir, una tecnología que se interpone entre una tecnología y otra tecnología, que a su vez actúa sobre la realidad. En consecuencia, lo digital “no es simplemente algo que realza o aumenta una realidad sino algo que la transforma radicalmente porque crea nuevos entornos que habitamos y nuevas formas de actuar con las que interactuamos”. Aquí vislumbramos una ontología inédita de lo virtual-real que sería interesante examinar. Pero no lo haremos en estas pocas líneas porque ha llegado el momento de situar a la IA en el marco filosófico que ha trazado Floridi.
El mito de la "singularidad"
Despejemos inmediatamente el campo del mito de la "singularidad", concepto robado a todos aquellos fenómenos en los que se supera un valor umbral, creando una discontinuidad radical con la situación anterior: por ejemplo, en la teoría de los agujeros negros, la región de el espacio es un tiempo de "singularidad" donde las condiciones gravitatorias son tan extremas que las leyes conocidas de la física ya no se aplican. Se produciría una "singularidad" en el desarrollo de la Inteligencia Artificial si el hardware y el software se hicieran tan poderosos como para escapar del control humano: entonces sería la IA la que se apoderaría del hombre convirtiéndolo en un esclavo.
Elon Musk, el hombre de Tesla y el turismo espacial que sueña con la conquista de Marte, se encuentra curiosamente entre los catastrofistas, dice que la IA, muy aplicada en sus cohetes, es el riesgo existencial más grave al que se enfrenta la humanidad. Con base en la aceleración de los desarrollos tecnológicos, hay quienes han calculado cuándo podría tener lugar el adelantamiento del cerebro-máquina al cerebro biológico. Nick Bostrom, como profesor de Filosofía de Floridi en la Universidad de Oxford, aventura una fecha: 2030. Otros, más cautelosos, hablan de 2045 o de fin de siglo. Floridi (y en Italia, por ejemplo, Riccardo Zecchina, Universidad Bocconi), descartan el asunto como ciencia ficción.
Turing fue el primero en preguntarse si las máquinas pueden pensar y se dio una respuesta operativa: podríamos decir que una máquina está pensando cuando un humano, comunicándose desde el exterior a través de una teleimpresora con otro humano y con una máquina encerrada en una habitación, no será capaz de distinguir la inteligencia artificial de la inteligencia biológica. La posición de Floridi es aún más pragmática: gracias al poder divisorio de lo digital y de cortar y pegar, la IA es "una forma de acción que no necesita ser inteligente para tener éxito". En otras palabras, Floridi defiende una visión de ingeniería de la IA y rechaza una visión cognitiva.
"Lo reconozco cuando lo veo"
En un ensayo de 2007, Legg y Hutter enumeraron 53 definiciones de inteligencia humana y 18 de Inteligencia Artificial, pero según Floridi es inútil preguntarse cuidadosamente "cuáles son estas inteligencias": tanto para la inteligencia, ya sea natural o artificial, como para la amistad, estar enamorado o gozar de buena salud, vale la broma del magistrado estadounidense Potter Steward sobre la pornografía: “No puedo decir lo que es pero lo reconozco cuando lo veo” (1964).
Estamos rodeados de formas de IA. “Roomba” barre la casa y cuando tiene hambre (de energía) se va a conectar a su toma de corriente para recargar su batería. Con Siri, Alexa, Bixby y otros "asistentes" similares hablamos en lenguaje natural: aprenden nuestras preferencias musicales, mantienen nuestra agenda, nos leen libros y mensajes, traducen lo que decimos a decenas de idiomas. Coches autónomos se mueven entre el tráfico y nos llevan al destino deseado siguiendo las indicaciones del GPS. Los algoritmos vencen a los humanos en juegos como el ajedrez y el Go, operan hábilmente en la bolsa de valores, hacen predicciones, reconocen los rostros de las personas, superan la inteligencia biológica en tareas complejas. En todas estas cosas tienen éxito, pero precisamente porque separan el resultado de la inteligencia. La IA actúa como si fuera inteligente.
La IA no es "cognitiva"
Hasta la fecha, argumenta Floridi, la IA es una inteligencia "reproductiva", no "cognitiva". Es eficiente precisamente porque su acción está separada de la inteligencia: la tarea que realiza es inteligente para nuestros criterios cognitivos pero no es inteligente para la máquina diseñada que la realiza. “En la IA lo que importa es el resultado, no si el agente o su comportamiento son inteligentes. Por eso, la IA no se trata de la capacidad de reproducir la inteligencia humana sino de la capacidad de prescindir de ella”.
Una forma de lograrlo es transformar el problema a resolver en un juego, es decir, "jugarlo": ya sabemos que las máquinas juegan mejor al ajedrez que nosotros... Pero la inteligencia "productiva" (cognitiva) sigue estando aún muy lejos. Inducimos, deducimos, inferimos. En el mejor de los casos, la IA infiere sobre una base estadística probabilística. Además, la calidad de la inferencia depende más de la calidad que de la cantidad de los datos proporcionados. Big Data corre el riesgo de generar “ruido”, perturbación, confusión. Mejor pocos datos pero fiables. Ontológicamente diferentes pero a veces útiles son los "datos sintéticos" generados por las mismas máquinas informáticas. (Para un análisis crítico del uso de datos, véase "Big Data y algoritmos" de Teresa Numerico, Profesora Asociada de Lógica y Filosofía de la Ciencia en la Universidad de Roma Tre - Carocci editore, 290 páginas, 26 euros. El libro presenta un marco histórico de la Inteligencia Artificial y las cuestiones éticas relacionadas desde sus orígenes hasta el Aprendizaje Profundo).
La razón de un éxito
Gran parte del éxito de la IA reproductiva, es decir, diseñada (coches autónomos, asistentes de voz, almacenes de Amazon) depende del hecho de que la hayamos envuelto, a veces sin darnos cuenta, como cuando compramos muebles bajo los cuales "Roomba" pueda deslizarse, en un ambiente adecuado para hacerla efectiva. La conducción autónoma será completamente segura cuando las carreteras, la señalización y la geolocalización hayan creado un hábitat a su medida: así es ya con los "trenes" de camiones y los tractores autónomos trabajando la tierra en los cultivos extensivos de Estados Unidos. No es la IA la que se adapta a nosotros, somos nosotros los que nos adaptamos a ella, y esto, subraya Floridi, no es en absoluto una actitud despectiva hacia las tecnologías inteligentes, al contrario, tiende a potenciarlas al máximo.
Redes neuronales
En un breve capítulo, Floridi examina el aprendizaje automático, el aprendizaje automático a través de redes neuronales de varias capas. El resultado es a veces asombroso, la máquina aprende de sus errores mejorando continuamente los resultados (Deep Learning). ¿Sigue siendo ingeniería reproductiva o es inteligencia productiva-cognitiva? Es tentador elegir la segunda solución porque no sabemos exactamente cómo llegará la máquina al resultado: sigue siendo una "caja negra" incluso para quienes la construyeron. Sin embargo, las redes neuronales, por sofisticadas que sean, no son comparables a las cien mil conexiones que cada una de nuestras 86 mil millones de neuronas tiene con las demás. Hay más complejidad en un milímetro cúbico de sustancia cerebral que en una habitación equipada con supercomputadoras.
Juega y "envuelve"
Para no banalizarlo, no hablaremos aquí de la segunda parte del libro, la estrictamente ética, que es también la más sustanciosa en cuanto a número de páginas. En cambio, es más coherente cerrar hablando del último capítulo de la primera parte, dedicado a los desarrollos previsibles de la IA. Después de la discusión ya mencionada sobre los datos - grandes, pequeños, históricos, híbridos, sintéticos - Floridi sugiere que "ludificar" los problemas (es decir, tratarlos como juegos que representan un modelo del problema a resolver) y "envolver" la IA en ambientes adecuados a su funcionamiento son las formas más prometedoras.
La ludificación funciona de maravilla cuando las “reglas” son rígidas y bien definidas: por ejemplo el ajedrez o el go, pero no el fútbol. El ajedrez y el go, entre otras cosas, demuestran la utilidad de los "datos sintéticos" porque la máquina aprende de los mismos juegos que juega contra sí misma en el proceso de autoaprendizaje. A pesar de las innumerables variaciones de combinaciones posibles, en juegos como el ajedrez y el go las reglas te permiten centrar la IA en la solución. En el fútbol las reglas existen pero están demasiado sujetas a las interpretaciones e improvisaciones de los jugadores y el árbitro. Cuanto más ludificable sea un problema, más fielmente se podrá modelar, y si la fidelidad es máxima, la máquina aprovechará al máximo los datos sintéticos que genera y más perfecto será el "envolvimiento". Iluminando la cita de Wiener: “El mejor modelo material de un gato es otro, o preferiblemente el mismo gato”.
Entre difícil y complejo
Aquí es donde encaja la distinción entre problemas difíciles y complejos. Los científicos generalmente definen problemas "complicados" que son difíciles pero tratables con el método reduccionista que los descompone en muchos problemas más simples (partes del problema) y únicamente solubles, por ejemplo, el funcionamiento de una proteína en un organismo vivo; por otro lado, consideran problemas complejos en los que las interacciones entre las partes no se pueden predecir (modelar) a partir de las partes individuales. En este caso es necesario abandonar el método reduccionista y pasar a un método holístico, quizás de tipo estadístico -es el caso del funcionamiento de todo el organismo humano o de la atmósfera y el clima. Obviamente, la potencia de cálculo necesaria crece fuertemente (no linealmente) a medida que aumenta la complejidad.
En el mundo real, señala Floridi, la dificultad y la complejidad a menudo se mezclan. Encender la luz es fácil y sencillo: de hecho Alexa y Siri lo hacen muy bien. En cambio, atarse los zapatos es fácil (para un humano) pero complejo: trata de anotar paso a paso todas las operaciones que haces con los dedos, los brazos y el cuerpo cuando te los abrochas (es una prueba que hago en mis cursos de divulgación científica) . Lavar los platos es más difícil que encender la luz, pero menos complejo que atarse los zapatos, y atarse los zapatos es menos complejo que planchar la camisa.
Una cuestión de diseño
En definitiva - da a entender Floridi - para obtener una IA que no sea inteligente pero se comporte como si lo fuera, debemos invertir mucha inteligencia biológica (la nuestra) en problemas de ingeniería, y la ingeniería en el caso de la IA es esencialmente jugar y envolver. Es decir, en pocas palabras, la IA es una cuestión de diseño. Diseño de juegos y entornos para jugar.