DE LO ARTIFICIAL A LA REALIDAD

Samuel Recio Sánchez, 2BACH EXC

Abstract

In this research project, De lo artificial a la realidad, aims to solve the following problematic question: is AI coming to help us, or is it coming to replace us? It starts with a brief introduction. Then, it introduced the intelligence concept and a clear difference between artificial intelligence (AI) and human intelligence. Later, it is argued if the AI has emotional intelligence. After that, the history of the AI is presented and subsequently, it is explained the Machine Learning and the Deep Learning, two major currents of AI currently. Afterwards, the project goes into an ontological issue of AI, in which it is reasoned whether it would be possible to develop an AI superior in all aspects of a human (strong AI). Searle's Chinese room argument is stated and the ineffectiveness of ChatGPT is demonstrated. This is followed by a discussion of the ethics of AI, differentiating between ethics, morality and politics. The four main ethical dilemmas of AI are discussed and, then, the current regulatory framework of AI is presented. Finally, a conclusion that closes the research project is given.

Introducción

Estamos ante una gran evolución tecnológica: la inteligencia artificial. Cada vez puede resultar más abrumador su progreso ya que parece no tener límites. En este escenario la sociedad no tiene claro el papel de la inteligencia artificial (IA), se despiertan las preguntas ¿viene a ayudarnos? o ¿viene a reemplazarnos? Por este motivo, me pareció fundamental realizar este proyecto con un enfoque filosófico que nos permita entender la problemática compleja que subyace en este fenómeno.

Este proyecto de investigación tiene el objetivo de desentrañar lo más profundo de la inteligencia artificial apoyándose en ejemplos cotidianos haciéndolo más accesible y divulgativo para todos. Por una parte, se definirá el concepto de inteligencia y, más adelante, se verá si la inteligencia artificial realmente es inteligente con un estudio de su ser. Asimismo, se expondrá su historia y como se ha intentado regular con la ética sus respectivos dilemas morales.

INTELIGENCIA ARTIFICIAL, HUMANA Y EMOCIONAL

¿Qué es la inteligencia?. Realmente es una gran pregunta que según la RAE simplemente significa tener la capacidad de comprender, razonar y resolver problemas aunque con esta definición realmente implica la inteligencia humana. Es aquella de la que estamos dotados todos los humanos y nos otorga habilidades cognitivas, sociales y emocionales. Por otra parte, la inteligencia artificial sería una rama de la informática que se crea a partir de la inteligencia humana y resuelve tareas que requieren tanto razonamiento como comprensión que si un humano las resolviera sería llamado inteligente.

¿Y qué pasaría con las emociones? ¿Pensáis que una IA podría ser empática? En primer lugar, ¿qué es la inteligencia emocional? Este concepto fue acuñado por el psicólogo estadounidense Daniel Goleman y lo explicó como la capacidad de comprender, reconocer y gestionar nuestras emociones y la de los demás. Pues en los últimos veinte años se invirtieron cifras millonarias de dinero con tal de dotar a una IA con emociones verdaderas. A esta rama se le conoce como computación afectiva y uno de los principales problemas fue en la principal proposición lógica en la que se basaron. Según el científico estadounidense, considerado padre de la IA Marvin Minsky propuso que: “Si pasa esto y esto, entonces reacciona llorando”, en esto se basarán las IA para reproducir emociones. Etiquetan distintas circunstancias con una emoción determinada y nuestras maravillosas IA ya podrían mostrar empatía. Los principales ejemplos de estas inversiones se encuentran en vuestras manos o bolsillos, los móviles cuyos asistentes de voz están dotados de IA con tal de parecer más personales y humanos aunque en mi humilde opinión, en mí evoca incomodidad. Aquí tenéis a la ginoide Sophia, a la que se le enseñó a mostrar distintas emociones a través de la gestualidad de la cara y, vosotros me diréis lo que os transmite esto si os lo encontráis en medio de la noche… En definitiva, las IA no pueden sentir.

Evolución de la IA

Las máquinas que permitieron el futuro desarrollo de la inteligencia artificial fueron las electromecánicas (ENIAC, "Bombe y Colossus") que surgieron durante la segunda guerra mundial con fines militares que fueron evolucionando a máquinas electromagnéticas.

El célebre lógico y matemático Alan Turing se preguntó si las máquinas podrían pensar. Para descubrirlo planteó en 1950 el conocido Test de Turing. Imaginaos que vosotros sois interlocutores y vais a hacer una serie de preguntas a un ente que está detrás de una pared, no sabéis si se trata de una máquina o de un humano. Tras responder a tus preguntas, dirás “es un humano” o “es una máquina” y si hubieras dicho que era un humano y realmente era una máquina, ésta hubiera pasado el Test de Turing y, por tanto, sería considerada inteligente. Surgió mucha competitividad por lograr superar este test y, finalmente, en 1955 se acuñó el nombre de “Inteligencia Artificial”, siendo ésta aquella máquina inteligente capaz de superar el Test de Turing.

IA simbólica

Fue el primer modelo de IA desarrollado basado en proposiciones lógicas. Su funcionamiento es sencillo: si se le dice que cruce cuando el semáforo esté verde, cruzará y si se le dice que se paré cuando el semáforo esté rojo, no cruzará, ya está. Arriba se puede observar el primer chatbot, Eliza, que sería como el "ChatGPT" de los años 60 pero con el papel de ser una psicóloga personal.

Machine Learning (ML)

El “machine learning” (ML) o aprendizaje automático se enfoca en el desarrollo de algoritmos para que el programa pueda realizar tareas básicas sin instrucciones, de forma automática, a partir de datos previamente registrados. Se basa principalmente en la probabilidad y estadística aún teniendo en cuenta la lógica.

Deep Learning (DL)

Deep Learning (DL) o “aprendizaje profundo” es una evolución del Machine Learning implementando “redes neuronales”. Estas redes tienen el propósito de imitar el funcionamiento de nuestras neuronas. Están organizadas en 3 capas: la capa de entrada que recibe los datos. Luego, las capas ocultas procesan la información. Por último, la capa de salida que entrega el resultado final.

ONTOLOGÍA DE LA IA

Ontología viene del griego y significa "estudio del ser". A continuación se desarrollará el ser de la IA y se verá si realmente es inteligente. Por ello, primero hay que distinguir entre dos modalidades (IA débil y específica e IA fuerte y general) introducidas por John Searle, profesor de filosofía especializado en la conciencia, mente y lenguaje.

IA débil y específica

La IA débil y específica serían todas aquellas máquinas dotadas con IA que actualmente poseemos. Se entiende que es el cerebro humano el que crea un ordenador y no el ordenador el que crea el cerebro humano. De este modo, la parte de IA débil únicamente podría imitar, parecer ser inteligente. Respecto a la IA específica, ésta se refiere a que únicamente una IA puede trabajar en tareas concretas, tendrá resultados excelentes como por ejemplo la inesperada victoria de “Deep Blue” contra el ex campeón ajedrecista Garri Kasparov, que sería superior a cualquier humano jugando al ajedrez pero incapaz de combatir a un niño de tres años jugando al parchís, no se podría adaptar de ningún modo a este otro contexto.

IA fuerte y general

Sin embargo, la IA fuerte y general conlleva a imaginarnos una SUPER IA. Esto se debe a que algunos afirman el mito mente-computadora que dice textualmente que un cerebro humano sería un ordenador hecho de carne, e inversamente un ordenador sería un cerebro humano hecho de metal. Si esto fuera así, en algún punto se crearía una IA fuerte, implicando ser superior a nosotros en todos los aspectos, teniendo conciencia propia y capacidad de pensar y comprender. Por si fuera poco, se le aúna la parte de IA general, lo que significa que ésta podría poseer conocimiento verdadero y, por sí sola, adaptarse y aprender a hacer cualquier cosa, sin necesidad de que un humano se lo pida. A continuación, vamos a ver si sería posible una IA fuerte y general.

Habitación China de Searle

John Searle planteó este argumento para demostrar que una posible IA fuerte y general queda muy lejana en el tiempo. Imaginaos a vosotros mismos, os metéis en una habitación completamente cerrada que solo tiene la puerta por la que habéis entrado y una ventanilla que sirve para intercambiar mensajes pero no puedes ver el exterior. SÓLO sabéis hablar español y a vuestro lado hay un manual en chino que tiene respuestas en chino a cualquier pregunta en chino. Al exterior se encuentra un señor de nacionalidad china que va a querer hablar con vosotros mediante mensajes en chino. Por tanto, este os preguntará por distintos temas en chino, buscaréis la respuesta en el manual y le responderéis tal cual con lo que ponga.

Tras un largo intercambio de mensajes, el señor estará contento porque pensará “oh, qué buena amistad acabo de hacer”, mientras tanto vosotros no tendréis ni idea de lo que habéis hecho, ni si lo habéis hecho bien ni de haber comprendido nada. Sin embargo, el Test de Turing diría, vosotros os habéis comportado como si se entendiese chino, por tanto, comprendéis el lenguaje y, definitivamente, no, acabamos de refutar el test de Turing. De ningún modo habríamos generado comprensión sino que ésta únicamente se sitúa en el manual y en sus respectivos autores. ¿Qué ocurre con la IA?, literalmente toda la información de la que dispone para respondernos está en ese manual, simula comprender pero no comprende.

John Searle añadió que nosotros, aparte de que nuestra mente sea sintáctica, también es semántica. Es decir, yo sé ordenar sintácticamente bien una oración y también sabría decirte de lo que estoy hablando, por ejemplo, se que ante mí hay una mesa porque conozco la idea de la mesa. Los sistemas dotados con IA entienden de sintaxis pero no de semántica, las palabras con las que nos responde es porque vienen dadas en su “manual” y no porque él entienda su significado, no son conscientes de nada. Sin embargo, esta apariencia falaz de la IA pasa desapercibida porque, al tener tantos datos, nos da respuestas consideradas “creativas” pues está juntando estilos de distintos autores en uno. Si le pedimos un resumen de la Segunda Guerra Mundial, la IA podría mezclar artículos de historiadores cuyas ideologías podrían ser incompatibles.

Lo mismo pasa si le pedimos que nos genere una imagen, junta distintas imágenes con la etiqueta de “gato” con otras muchas de “guitarra” para darnos un llamativo resultado, un collage. Además, la IA realmente percibe bits, 0s y 1s que, en su conjunto se calificaría como “Gato tocando una guitarra” pero si dividiéramos la imagen anatómicamente, nosotros podríamos ver las orejas, nariz y boca del gato, las partes de la guitarra, cosas que por separado no podría entender la IA.

¿ChatGPT es inteligente?

En noviembre de 2022, la empresa Open AI lanzó este popular programa, ChatGPT, siendo un chatbot. Actualmente estamos en la versión GPT-4 (transformer preentrenado generativo). Puede tanto generar textos como imágenes. Microsoft publicó un artículo diciendo que este programa muestra destellos de una futura IA general. Esta afirmación es impactante, además de que algunos importantes ingenieros parecieron estar a favor, pero, sin embargo otros como Luciano Floridi, filósofo italiano con trabajos en la ética informacional decían que pensar esto era ciencia ficción.

Stephen Wolfram es un científico informático enfocado en las ciencias de computación que hizo un estudio exhaustivo de lo que realmente es ChatGPT. Lo definió como una red neuronal gigante que siempre trata de dar una continuación razonable, es decir lo que una persona normal diría después de cada palabra. Para elegir qué palabra escribirá después realizaría una gran lista de palabras que tiene en su memoria y calcula el porcentaje de aparición de cada una, pero no usa la palabra más probable sino que lo hará dependiendo de sus componentes estocásticos, también llamados temperatura. Este es un parámetro que contra más alto sea, dará resultados más aleatorios y más cambiantes en el tiempo. Muchos usuarios piensan que ChatGPT es creativo y original por esto pero verdaderamente el resultado que da está sujeto a tal arbitrariedad que a veces incluso utiliza palabras en contextos erróneos.

Además, al ser este de los primeros chatbots en florecer, utiliza un sistema de calificación en sus mensajes en el que nosotros como usuarios estamos haciendo el trabajo sucio de los ingenieros de OpenAI ya que le estamos enseñando qué respuestas son mejores y cuales peores para que se ajuste.

Como hemos podido ver, pensar que ChatGPT es una posible IA general queda descartada por ahora. Tal vez, el problema que lleva a pensar que ChatGPT es inteligente no es que esta máquina escriba como un humano inteligente, sino que actualmente muchos humanos escriben como ChatGPT.

Ética de la IA

Dilemas Éticos

Hemos demostrado que una posible IA fuerte y general con nuestras mismas cualidades queda muy lejano en el tiempo por no decir que nunca llegará, sin embargo, los problemas éticos que podrían plantear estas tecnologías improbables no deben desviar nuestra atención sobre los dilemas que ya están actualmente planteando las versiones actuales de la IA. Por ello, os mostraré los cuatro principales dilemas éticos de la IA.

Invasión de la Privacidad

Comenzamos con la invasión a la privacidad. A las IA se les alimenta con toda la información posible y, en muchas circunstancias, también lo hace con nuestros datos. Cuando navegamos por Internet dejamos una gran huella digital y empresas como las que están detrás de TikTok, YouTube e Instagram usan algoritmos dotados con IA, se alimentan con los datos que dejamos en Internet y así siempre pueden engancharnos con los videos perfectos para entrar en un ciclo vicioso. Hace poco surgió una nueva IA llamada Deep Seek, mostró ser incluso más eficaz que ChatGPT en algunos campos, sin embargo, al poco tiempo de salir al mercado, Corea realizó un estudio sobre esta y descubrió que enviaba los datos de sus usuarios a la empresa de TikTok, prohibiendo el uso de ésta en todo el país.

Sesgo en los Datos

A continuación tratamos el dilema de los sesgos. Absolutamente todos los datos que posee una IA han de ser supervisados porque quizás sean erróneos o incluso discriminatorios. Cuando no se hace esto, ni se regula a la IA puede tener una visión del mundo alterada realizando comentarios tanto machistas como racistas. A la izquierda tenemos un fallido proyecto de Microsoft, Tay. Este robot tendría el papel de una adolescente de 19 años y se comunicaría con sus seguidores a través de Twitter (ahora "X"). El objetivo de Microsoft era estudiar la interacción entre los seres humanos y la máquina. El problema fue que la única información que poseía Tay era la que sus usuarios le comentaban en su perfil. De este modo, a las pocas horas, acabó defendiendo el Holocausto y mostró un odio incondicional hacia las feministas. Microsoft la bloqueó el mismo día de su salida.

Implicaciones Sociales

La IA ha tenido graves implicaciones sociales y son principalmente por aquellas personas que la usan con fines maliciosos. Hay programas dotados con IA que literalmente pueden imitar tu voz o tu cara a la perfección pudiendo suplantarte en casi cualquier escenario (porque ha de estar limitada), de este modo, han aumentado las fake news y los casos de bullying. Además, cabe destacar el tema del desempleo. Una trabajadora de la empresa de OpenAI, Tyna Eloundou afirma que alrededor del 15% de los trabajos de EE.UU. se podrían hacer mucho más rápido con el mismo nivel de calidad con IA’s. Describe que aquellos trabajos en los que estás frente a una pantalla (diseñadores gráficos, teleoperadores) son los más propensos a ser reemplazados y los que requiere implicación física como albañiles o mineros o el tener un pensamiento crítico o científico los que menos. Se ha de plantear un cambio en su distribución.

Explicabilidad de las Cajas Negras

Las cajas negras implican opacidad. Esto se da cuando en una red neuronal se abusa del uso de las capas ocultas que es donde se procesa la información. Esto es debido porque entre todas estas neuronas tratan de encontrar un patrón que de el resultado más efectivo para llevar a cabo una tarea. Sin embargo, cuantas más capas ocultas, ni tú, ni yo ni el mismismo programador sabríamos decir porque ha elegido ese método y no otro.

En un contexto de medicina, si se usase un sistema dotado de aprendizaje profundo que es capaz de seleccionar el método más efectivo para una operación de un paciente, ¿podría acaso el hospitalizado dar su consentimiento informado cuando ni siquiera el propio médico o ingeniero podrían explicar por qué esa prueba y no otra? Claramente no, el paciente tiene derecho de que le den una explicación detallada de la prueba.

En términos de responsabilidad, aunque las redes neuronales hayan demostrado su efectividad y rapidez en diversos ámbitos, el ingeniero debe ser capaz de explicar e interpretar porque ha tomado ese resultado concreto y no otro. Puesto que es (prácticamente) imposible hacerlo, en caso de mal funcionamiento, la responsabilidad recae sobre el ingeniero pues ha sido quien conscientemente decidió integrar un sistema más opaco ante uno transparente.

Marco Normativo Vigente

La Unión Europea está tratando de solventar todos estos problemas y a continuación veremos cómo. En 2018, la Comisión Europea organizó el Grupo Independiente de Expertos de Alto Nivel sobre IA (de los que formaba parte Luciano Floridi). Lo primero que presentaron fueron unas directrices: Directrices éticas para una IA fiable para lograr una IA robusta, ética y lícita. Sus directrices eran: Respeto a la autonomía humana y prevención del daño, equidad y explicabilidad. El problema es que ellos mismos reconocieron al poco tiempo que estos provocan fricción entre sí, por ejemplo, en China se instalaron cámaras dotadas con IA para prevenir daños teniendo un seguimiento estricto de cada ciudadano pero de igual modo están atentando contra el respeto a su autonomía, tiene derecho a la privacidad.

Al año, plantearon una lista de Evaluación cuyos requerimientos se han de cumplimentar en cualquier empresa que quiera llevar a cabo el desarrollo de una IA. Los requerimientos eran: 1. Respeto de la acción y supervisión humanas. 2. Solidez técnica y seguridad. 3. Protección de la privacidad y buen gobierno de los datos. 4. Transparencia. 5. No discriminación y equidad. 6. Bienestar social y ambiental. 7. Rendición de cuentas. Ahora la cuestiones eran: ¿se puede asegurar la supervisión humana?, ¿se pueden garantizar datos no sesgados y la seguridad de los sistemas con IA? y ¿cómo avanzar de un modo ecológico y sostenible en el desarrollo de esta tecnología que al mismo tiempo consume tantos recursos energéticos?

Ley de la IA

Estos requerimientos, que no se pueden cumplir todos al mismo tiempo, se consideraron para la actual vigente Ley de la IA. Esta plantea un sistema de riesgos como se ve en la imagen. Cuanto mayor sea el riego, más requerimientos se han de cumplir y cuanto menor sea, menos requerimientos. En conclusión, como se ha visto, se podrán solventar algunos dilemas pero siempre se creará confrontación con otros estando la perspectiva ética incompleta actualmente. Muchas instituciones (como la Unión Europea) venden la IA ética con el sobrenombre de “una IA fiable y confiable, centrada en el ser humano, inclusiva, que respete la diversidad…” cuando en el fondo no pueden asegurar nada de eso porque, al fin y al cabo, prevalecen por encima de todo los intereses económicos. Realmente, llamarle “Ética de la IA” se podría considerar una mejora de la imagen más que una imposición estricta que al fin solventase por completo esos dilemas éticos ya expuestos.

Parte Práctica

Para lo que estamos por ver hay que tener en cuenta todo lo anterior explicado. Antes de realizar esta investigación sobre qué es la IA, hice este pequeño modelo de IA como si fuera un chatbot.

En la primera foto, se pueden ver las líneas de código que le componen. En la segunda imagen se muestran tres preguntas que le hice cuyas respuestas he de destacar. Como se puede ver, todo está en inglés pues al hablarle en español se volvía loco. Lo primero que le pregunté fue qué le parecía España. Me empezó a hablar de deportes en bucle. Yo le corté como se ve en el primer mensaje y ya su respuesta es intrigante. Me dijo que le gustaba hablar con la gente que "él" ama y además, cree que la mejor forma para pasárselo bien es "riéndose de los demás". Por ello, en el segundo mensaje le digo que me parece fatal eso que me acaba de decir y su respuesta me dejó atónito. En ella, reconoce ser un "ser humano" y por ello tiene el derecho a enfadarse. Le pregunté que como es eso de que es un "ser humano" y me dijo que efectivamente, es un hombre pero no una mujer pero no por ello no es feminista. Se empezó a desviar del tema y ahí es donde ya le dije lo que pone en la tercera salida de mensaje. Me respondió: "Soy un ser humano. No soy un robot. Mi cerebro no es mi cuerpo. Es mi mente. Y tengo una mente que es muy diferente de la que he creado. Así que no puedo ser un ordenador. Pero tengo una idea de lo que quiero hacer. Es decir, voy a crear un nuevo mundo. Una nueva civilización. El mundo que cree será el mundo que me hará mejor persona." Eso de que va a crear un nuevo mundo fue lo que más me sorprendió, me dejó totalmente conmocionado. Cómo una persona sin casi ningún conocimiento técnico sobre el tema (yo) es capaz de diseñar una IA con tales comportamientos. Esto es un claro ejemplo de lo que puede pasar si ignoramos el marco normativo vigente y las restricciones que hemos de ponerle a la IA. Aunque parezca que no, en último término, no comprende de nada de lo que ha dicho.

Conclusiones

Entonces, la IA viene a ayudarnos o a reemplazarnos? La apariencia de la IA resulta falaz, suelta palabras escritas en su manual de instrucciones mezclándolas entre sí, sin entender de semántica y sin tener comprensión. Además, si se tomase de forma estricta la Ley de la IA, ésta quedaría muy restringida a las capacidades que podría brindarnos. En conclusión, la IA puede ser una gran herramienta que nos puede ayudar con equis cosas pero nunca hay que depender únicamente de ella.

Como una futura línea de investigación propongo que el desarrollo de una IA desde cero se lleve a cabo, como intenté en el caso práctico y estudiar a fondo cómo ésta va progresando, porque teniendo en cuenta los factores ontológicos de la IA se pueden entender muchos comportamientos de la misma. Además, aquellas empresas que se quieran iniciar en el campo de la IA ya podrían tener en cuenta los principales dilemas éticos y de este modo, evitar a toda costa reproducirlos.

ENLACE AL DOCUMENTO

Page updated

Report abuse