The age of artificial intelligence (AI) has transformed our interactions, but threatens human dignity on a worldwide scale, according to a study led by Charles Darwin University (CDU).

Study lead author Dr Maria Randazzo, an academic from CDU's School of Law, found the technology was reshaping Western legal and ethical landscapes at unprecedented speed but was undermining democratic values and deepening systemic biases.

Dr Randazzo said current regulation failed to prioritize fundamental human rights and freedoms such as privacy, anti-discrimination, user autonomy, and intellectual property rights - mainly thanks to the untraceable nature of many algorithmic models.

Calling this lack of transparency a "black box problem," Dr Randazzo said decisions made by deep-learning or machine-learning processes were impossible for humans to trace, making it difficult for users to determine if and why an AI model has violated their rights and dignity and seek justice where necessary.

"This is a very significant issue that is only going to get worse without adequate regulation," Dr Randazzo said.

"AI is not intelligent in any human sense at all. It is a triumph in engineering, not in cognitive behavior.

"It has no clue what it's doing or why - there's no thought process as a human would understand it, just pattern recognition stripped of embodiment, memory, empathy, or wisdom."

Currently, the world's three dominant digital powers - the United States, China, and the European Union - are taking markedly different approaches to AI, leaning on market-centric, state-centric, and human-centric models respectively.

Dr Randazzo said the EU's human-centric approach is the preferred path to protect human dignity but without a global commitment to this goal, even that approach falls short.

"Globally, if we don't anchor AI development to what makes us human - our capacity to choose, to feel, to reason with care, to empathy and compassion - we risk creating systems that devalue and flatten humanity into data points, rather than improve the human condition," she said.

"Humankind must not be treated as a means to an end."

"Human dignity in the age of Artificial Intelligence: an overview of legal issues and regulatory regimes" was published in the Australian Journal of Human Rights.

The paper is the first in a trilogy Dr Randazzo will produce on the topic.

La era de la inteligencia artificial (IA) ha transformado nuestras interacciones, pero amenaza la dignidad humana a nivel mundial, según un estudio dirigido por la Universidad Charles Darwin (CDU).

La autora principal del estudio, la doctora Maria Randazzo, académica de la Escuela de Derecho de la CDU, descubrió que esta tecnología está remodelando los paisajes legales y éticos de Occidente a una velocidad sin precedentes, pero al mismo tiempo está socavando los valores democráticos y profundizando los sesgos sistémicos.

La doctora Randazzo señaló que la regulación actual no logra priorizar los derechos humanos y las libertades fundamentales, tales como la privacidad, la no discriminación, la autonomía del usuario y los derechos de propiedad intelectual, principalmente debido a la naturaleza no rastreable de muchos modelos algorítmicos.

Al calificar esta falta de transparencia como un “problema de caja negra”, la doctora Randazzo explicó que las decisiones tomadas por procesos de aprendizaje profundo o de aprendizaje automático son imposibles de rastrear para los humanos, lo que dificulta que los usuarios determinen si, y por qué, un modelo de IA ha violado sus derechos y dignidad, e impide que busquen justicia cuando es necesario.

“Este es un problema muy significativo que solo va a empeorar sin una regulación adecuada”, afirmó la doctora Randazzo.

“La IA no es inteligente en ningún sentido humano. Es un triunfo de la ingeniería, no del comportamiento cognitivo.

No tiene idea de lo que está haciendo ni por qué: no existe un proceso de pensamiento como lo entendería un ser humano, solo un reconocimiento de patrones despojado de corporalidad, memoria, empatía o sabiduría.”

Actualmente, las tres potencias digitales dominantes del mundo —Estados Unidos, China y la Unión Europea— están adoptando enfoques marcadamente diferentes hacia la IA, apoyándose respectivamente en modelos centrados en el mercado, en el Estado y en el ser humano.

La doctora Randazzo sostuvo que el enfoque humanocéntrico de la Unión Europea es el camino preferido para proteger la dignidad humana, pero que, sin un compromiso global con este objetivo, incluso ese enfoque resulta insuficiente.

“A nivel mundial, si no vinculamos el desarrollo de la IA con lo que nos hace humanos —nuestra capacidad de elegir, de sentir, de razonar con cuidado, de tener empatía y compasión— corremos el riesgo de crear sistemas que devalúen y reduzcan a la humanidad a simples puntos de datos, en lugar de mejorar la condición humana”, dijo.

“La humanidad no debe ser tratada como un medio para un fin.”

El artículo “La dignidad humana en la era de la Inteligencia Artificial: una visión general de las cuestiones legales y los regímenes regulatorios” fue publicado en la Revista Australiana de Derechos Humanos.

Este trabajo es el primero de una trilogía que la doctora Randazzo producirá sobre el tema.

La era de la inteligencia artificial (IA) ha transformado nuestras interacciones, pero amenaza la dignidad humana a escala mundial, según un estudio dirigido por la Universidad Charles Darwin (CDU).

La autora principal del estudio, la Dra. María Randazzo, académica de la Facultad de Derecho de la CDU, descubrió que la tecnología estaba remodelando los paisajes legales y éticos occidentales a una velocidad sin precedentes, pero estaba socavando los valores democráticos y profundizando los sesgos sistémicos.

El Dr. Randazzo dijo que la regulación actual no prioriza los derechos humanos y las libertades fundamentales, como la privacidad, la antidiscriminación, la autonomía de los usuarios y los derechos de propiedad intelectual, principalmente gracias a la naturaleza imposible de rastrear de muchos modelos algorítmicos.

Llamando a esta falta de transparencia un "problema de caja negra", el Dr. Randazzo dijo que las decisiones tomadas por los procesos de aprendizaje profundo o aprendizaje automático eran imposibles de rastrear para los humanos, lo que dificultaba a los usuarios determinar si y por qué un modelo de IA ha violado sus derechos y dignidad y buscar justicia cuando sea necesario.

"Este es un problema muy importante que solo empeorará sin una regulación adecuada", dijo el Dr. Randazzo.

"La IA no es inteligente en ningún sentido humano. Es un triunfo en la ingeniería, no en el comportamiento cognitivo.

"No tiene idea de lo que está haciendo o por qué: no hay un proceso de pensamiento como un humano lo entendería, solo un reconocimiento de patrones despojado de la encarnación, la memoria, la empatía o la sabiduría".

Actualmente, las tres potencias digitales dominantes del mundo, Estados Unidos, China y la Unión Europea, están adoptando enfoques marcadamente diferentes de la IA, apoyándose en modelos centrados en el mercado, centrados en el estado y centrados en el ser humano, respectivamente.

El Dr. Randazzo dijo que el enfoque centrado en el ser humano de la UE es el camino preferido para proteger la dignidad humana, pero sin un compromiso global con este objetivo, incluso ese enfoque se queda corto.

"A nivel mundial, si no anclamos el desarrollo de la IA a lo que nos hace humanos: nuestra capacidad de elegir, sentir, razonar con cuidado, empatía y compasión, corremos el riesgo de crear sistemas que devalúen y aplanen a la humanidad en puntos de datos, en lugar de mejorar la condición humana", dijo.

"La humanidad no debe ser tratada como un medio para un fin".

“Human dignity in the age of Artificial Intelligence: an overview of legal issues and regulatory regimes” fue publicado en el Australian Journal of Human Rights.

El documento es el primero de una trilogía que el Dr. Randazzo producirá sobre el tema.