Internet Segura

“Assim como um papagaio pode aprender a falar frases que ouviu, o ChatGPT foi treinado para gerar respostas baseadas em padrões e exemplos de texto, mas não tem capacidade de entender ou processar informações como um ser humano”. A afirmação é de Mariana Ochs, coordenadora do EducaMídia, durante uma oficina para educadores no Festival LED.

“Rumo a uma abordagem centrada no ser humano para o uso de IA generativa”

Desde final de novembro de 2022, as ferramentas de inteligência artificial generativa têm-se multiplicado rapidamente, sem dar tempo aos governos e às instituições educativas de se posicionarem face às mesmas nem de criarem orientações ou regulamentação. A ausência de regulamentação sobre inteligência artificial generativa na maioria dos países deixou a privacidade dos dados dos utilizadores desprotegida e as instituições educativas sem preparação para validar as ferramentas, pelo que se afigurava urgente dar um passo nesse sentido. Assim, a Unesco (Organização das Nações Unidas para a Educação, a Ciência e a Cultura) publicou, no dia 7 de setembro de 2023, um texto para orientar o uso de ferramentas de inteligência artificial generativa em contexto educativo e investigação, que visa apoiar os países a implementar ações imediatas, planificar políticas de longo prazo e desenvolver a capacidade de garantir uma visão centrada no ser humano no uso destas novas tecnologias, mitigando potenciais riscos para os valores humanísticos fundamentais.

De acordo com a Recomendação sobre a Ética da lnteligência Artificial, o presente documento está ancorado numa abordagem humanista da educação e responde ao apelo do relatório de 2021 da Comissão Internacional - Reimaginar os nossos futuros juntos: um novo contrato social para a educação, apontando a necessidade de redefinir a nossa relação com a tecnologia, como parte integrante dos esforços para renovar o contrato social para a educação.”

Artigo completo em: https://blogue.rbe.mec.pt/unesco-apresenta-guia-para-ia-2766681

“O documento é constituído por seis capítulos:

O primeiro capítulo procura esclarecer o que é a inteligência artificial generativa e a forma como funciona, salientando a sua especificidade e limitações, nomeadamente o facto de per se não poder gerar novas ideias ou soluções para os desafios do mundo real (não apreende o mundo real, objetos nem as relações sociais que sustentam a linguagem) e de não ser isenta de erros. Apresenta ferramentas alternativas ao ChatGPT, de acesso aberto ou gratuito, e outros produtos baseados em LLM (Large Language Model) para criar texto, imagem, som, o que requer competências e capacidades muito precisas aquando da interação com esses sistemas para efetivamente tirar partido das suas potencialidades.

O segundo capítulo centra-se nas controvérsias em torno da inteligência artificial generativa e suas implicações para a educação e investigação, alertando os decisores políticos para a necessidade de tomar medidas urgentes para impedir o agravamento das assimetrias resultantes do acesso desigual à criação, controlo e acesso a modelos de inteligência artificial generativa.

É preciso que os utilizadores desenvolvam uma capacidade crítica face às orientações, valores, padrões culturais e costumes sociais incorporados nos modelos de inteligência artificial generativa, para evitar a propagação de deepfakes e polarização. Os outputs podem parecer ser bastante precisos e convincentes, mas, como os dados de treino GPT (Generative Pre-Trained Transformer) são normalmente extraídos da internet, muitas vezes contêm erros e ideias tendenciosas, por isso é fundamental validar a informação e isso requer conhecimentos e capacidades sólidos que têm de ser desenvolvidos. Estes modelos podem, também, reduzir a diversidade de opiniões e marginalizar ainda mais as vozes já marginalizadas, já que os outputs gerados representam somente a visão mais comum ou dominante do mundo no momento em que os seus dados de treino foram produzidos.

O terceiro capítulo detém-se na urgência de regulamentar o uso de inteligência artificial generativa em contexto educativo, para atenuar as controvérsias que gera e aproveitar os potenciais benefícios, o que implica várias etapas e medidas políticas baseadas numa abordagem centrada no ser humano para garantir a sua relevância, ética, segurança e equidade. Assim, neste capítulo propõem-se alguns passos para regular a inteligência artificial generativa na educação e elementos-chave a considerar aquando da elaboração das regulamentações. No que concerne ao limite de idade para o uso de inteligência artificial generativa, a maioria das aplicações ou ferramentas são projetadas principalmente para utilizadores adultos, pois implicam riscos para crianças, incluindo a exposição a conteúdos inadequados ou uma potencial manipulação. À luz destes riscos, é fortemente recomendada uma idade limite para o uso das tecnologias de IA de uso geral a fim de proteger os direitos e o bem-estar das crianças. Atualmente, os termos de uso do ChatGPT exigem que os utilizadores tenham, pelo menos, 13 anos de idade, sendo que os utilizadores com menos de 18 anos devem ter permissão dos pais para usar os seus serviços, no entanto, já se pondera aumentar esse limite, passando de 13 para 16 anos. O Regulamento Geral de Proteção de Dados da União Europeia (2016) especifica que os utilizadores devem ter pelo menos 16 anos para usar os serviços dos media sociais sem permissão dos pais. O aparecimento recente de vários chatbots[1] de inteligência artificial generativa exige que os governos dos diferentes países considerem cuidadosamente – e deliberem publicamente – a idade limite apropriada para conversas independentes com plataformas de inteligência artificial generativa, considerando que o limite mínimo deveria ser 13 anos de idade, e, ainda, formas de verificação do cumprimento desse requisito.

O quarto capítulo procura fixar um quadro político que oriente a utilização de inteligência artificial generativa na educação e investigação, pois somente alguns países adotaram políticas ou planos específicos para o uso da IA nesse contexto específico. São sugeridas recomendações e medidas concretas, sendo o ponto de partida AI and education: guidance for policy-makers (Unesco, 2021).

As oito medidas específicas para orientar governos na formulação, desenvolvimento e implementação de políticas setoriais e específicas sobre IA em educação são:

1.  Promover a inclusão, a equidade, a diversidade linguística e cultural;

2.  Proteger a “agência” humana, a capacidade dos seres humanos de fazerem escolhas, de exercerem o seu livre-arbítrio e de tomarem decisões de forma independente.

3.  Monitorizar e validar sistemas de inteligência artificial generativa para a educação;

4.  Desenvolver competências de inteligência artificial generativa nos alunos;

5.  Capacitar professores e investigadores para fazerem um uso adequado da inteligência artificial generativa;

6.  Promover a expressão de ideias plurais;

7.  Testar localmente a relevância de modelos de inteligência artificial generativa e criar uma base de evidências;

8.  Analisar as implicações da inteligência artificial generativa a longo prazo numa perspetiva intersetorial e interdisciplinar.

O quinto capítulo enfatiza a necessidade de facilitar o uso criativo da inteligência artificial generativa em contexto educativo e ao nível da investigação, pois estas podem ser usadas produtivamente em ambientes educativos trazendo grandes benefícios. Assim, apresenta estratégias institucionais para facilitar o uso responsável e criativo dessas ferramentas e plataformas, sublinhando a necessidade de priorizar, na interação entre humanos e ferramentas de IA, critérios pedagógicos, devendo o recurso a essas ferramentas contribuir para satisfazer necessidades dos seres humanos e tornar a aprendizagem e a investigação mais eficazes. Por isso, a seleção das ferramentas e conteúdos deve atender à faixa etária dos alunos, aos resultados esperados e ao tipo de conhecimento que se procura desenvolver (factual, concetual, processual ou metacognitivo), sendo muito importante uma monitorização contínua.

O sexto e último capítulo foca-se no futuro da inteligência artificial generativa na educação e investigação, prevendo um impacto a médio e longo prazo cujos contornos ainda são desconhecidos, daí a necessidade de atenção imediata e de uma análise mais aprofundada, atendendo a questões éticas, direitos autorais e propriedade

intelectual, fontes de conteúdo e de aprendizagem, avaliação e resultados de aprendizagem. Sublinha-se a ideia de que o recurso à inteligência artificial generativa deve promover a criatividade, a colaboração, o pensamento crítico e outras competências/ habilidades de pensamento de ordem superior.

Considerações finais

Na perspetiva de uma abordagem centrada no ser humano, as ferramentas de inteligência artificial generativa devem ser projetadas para aumentar capacidades intelectuais humanas e competências sociais, pondo-as ao serviço de um futuro inclusivo e sustentável.

A inteligência artificial generativa deve ser posta ao serviço da educação e da investigação, todavia todo o processo deve ser rigorosamente acompanhado e orientado para uma abordagem centrada no ser humano.

Somente desse modo se poderá garantir que as potencialidades da IA, em particular, e de todas as outras tecnologias utilizadas na educação, de forma mais ampla, irão efetivamente melhorar as capacidades humanas e construir futuros digitais para todos.”

Artigo completo em: https://blogue.rbe.mec.pt/unesco-apresenta-guia-para-ia-2766681

 [1] Um chatbot é um software baseado em Inteligência Artificial que pode conversar em tempo real por texto ou voz.

“A inteligência artificial e a tecnologia estão a evoluir a passos largos, trazendo inúmeras oportunidades para todas as áreas do conhecimento e da sociedade, porém é preciso conhecer os seus benefícios e limitações em cada aplicação e uso e, ainda, respeitar questões éticas relacionadas com a autoria.

(…)

Além disso, o uso destes recursos está sujeito a questões éticas, mas a forma como se deve proceder tem gerado posições muito diversas pois, sendo uma realidade recente, as opiniões divergem sobre como os alunos devem usar e citar o ChatGPT e outras ferramentas de inteligência artificial generativa.

Com vista a evitar situações de desinformação e plágio, a própria OpenAI disponibilizou uma ferramenta de deteção de textos produzidos na linguagem natural GPT-2, utilizada pelo ChatGPT, chamada “GPT-2 Output Detector Demo“ https://huggingface.co/openai-detector). Existem outras ferramentas, como a https://aiarchives.org/ que captura a conversa gerada num URL a que qualquer pessoa pode aceder e visualizar.

(…)

Os resultados de uma interação com o ChatGPT não são recuperáveis por outros utilizadores e, por outro lado, o texto gerado não resulta da autoria de uma pessoa. Por isso, citar o texto gerado pelo ChatGPT numa sessão de chat é, portanto, compartilhar a saída de um algoritmo, pelo que há que creditar o autor do algoritmo com uma entrada na lista de referências e a citação correspondente no texto.

Para clarificar a sua posição, o autor apresenta um exemplo concreto:

Exemplo 1 - Face à questão “A divisão entre o cérebro esquerdo e o cérebro direito é real ou uma metáfora?”, o texto gerado pelo ChatGPT indicou que, embora os dois hemisférios cerebrais sejam um pouco especializados, “a noção de que as pessoas podem ser caracterizadas como ‘cérebro esquerdo’ ou ‘cérebro direito’ é considerada uma simplificação excessiva e um mito popular” (OpenAI, 2023).

Neste caso concreto, a referência bibliográfica será- OpenAI. (2023). ChatGPT (Mar 14 version) [Large language model]. https://chat.openai.com/chat.”

Artigo completo em: https://blogue.rbe.mec.pt/como-citar-e-referenciar-o-chatgpt-2764217