ChatGPT: se o vento não se deixa agarrar, aproveitemos a força do vento

Patrícia Rosado Pinto,  opinião, in Público

Nos tempos que vivemos, em que meias verdades são apresentadas como verdades absolutas, esta é uma oportunidade para colocarmos no centro dos nossos currículos a consulta de fontes credíveis.

Lançado no final de 2022, o ChatGPT invadiu o nosso quotidiano e ocupou o espaço académico. Apareceu em força e não podemos dizer que se instalou sem avisar. Há muito que as universidades trabalham as questões da inteligência artificial e as suas aplicações. O que surpreendeu foi a rapidez e a dimensão que atingiu.


Coloquemos, então, os dois pés no real e façamos o exercício a que estamos habituados na academia: novo fenómeno? De que se trata? Como funciona? Que repercussões?

Sabemos que é uma ferramenta acessível, que evolui muito rapidamente e que nos dá sempre respostas, nunca confessando que não sabe. Sabemos que produz resultados, que, embora plausíveis, não são obrigatoriamente verdadeiros ou completos. Ainda (sublinhe-se o “ainda”) não nos explica, de forma cabal, como chega aos resultados que apresenta, oferecendo muitos produtos, mas pouca informação sobre os processos para os obter. Finalmente, aceitemos que o ChatGPT oferece recombinações de textos e não um pensamento original. Este é, pois, o fenómeno em presença.

Olhemos agora para dentro da academia. Temos, desde sempre, defendido a produção original e rigorosa de conhecimento. É esta nossa cultura que nos faz desconfiar de soluções rápidas, à velocidade do pressionar de uma tecla. E, no entanto, também tem sido esta postura que, curiosamente, e no campo pedagógico, nos tem afastado de uma das melhores alavancas para a aprendizagem – o erro.


A utilização desta nova ferramenta volta a banalizar o erro, o incompleto e o incerto, oferecendo-nos uma excelente oportunidade para os detetarmos, para questionar fontes, para defender opiniões sustentadas em dados, para assumir responsabilidades sobre o que afirmamos. Aqui está uma janela para a reflexão e para o pensamento crítico, e para a rejeição do simples recitar do que está “certo”. Voltamos, assim, à nossa essência, voltamos ao básico. Não será de aproveitar a oportunidade?

É verdade que se colocam questões éticas muito relevantes. O ChatGPT retrata o mundo como ele é, não como gostávamos que fosse e, por exemplo, preconceitos e xenofobia(s), porque prevalentes, são recombinados e vulgarizados à exaustão. No caso da academia, avoluma-se, por exemplo, a questão do plágio. Não desejo discutir a honestidade académica e os abusos que tem sofrido. Diria só que não começaram com o ChatGPT e acrescento que, também neste domínio, poderemos voltar a discutir estas questões, para encontrarmos regras de comportamento que nos pareçam mais adequadas. Esta discussão deverá incluir todos – estudantes, professores, investigadores, pessoal não-docente. São os nossos valores, são os pilares da nossa vida na academia. Reduzi-los a uma lista de punições não nos resolve o problema. Não será esta uma discussão urgente e, sobretudo, útil? Poderemos desperdiçá-la?

Outra oportunidade para as nossas instituições centra-se nas questões da formação sobre a ferramenta em si própria. E aqui o desconhecimento é grande. Alguns mais conhecedores, mais afoitos e curiosos já dominam como fazer, mas a maioria está aquém das necessidades. É um tema transversal que não nos obriga a separar por disciplinas, por atividade, por área científica. Não teremos aqui a oportunidade para pensar, em conjunto, uma estratégia institucional?

Não me parece que estes desafios nos vão assustar demasiado. Acabámos de sair de uma pandemia em que nos familiarizámos com aulas totalmente a distância e em que misturámos o online com o presencial. Fizemos tudo na perfeição? Todos sabemos que não. Porém, de repente, foi-nos pedido e às nossas instituições que introduzíssemos tecnologias e as consequentes mudanças nas nossas práticas pedagógicas e aqui estamos, nós e os estudantes, a assumir que não vamos voltar aos tempos do exclusivamente presencial e que continuamos a construir o novo normal.

É escusado dizer que, para conseguirmos acomodar mais esta questão nas nossas instituições, algo terá de mudar. Será necessário ter tempo para analisar quer fontes, quer a própria informação, ter tempo para discutir e formar uma opinião, ter tempo para treinar e exercitar níveis cognitivos mais complexos, para além da memória e da aplicação dos conhecimentos. Por outro lado, sei bem que o número de alunos não diminuiu, que os espaços são os mesmos, que os ambientes de aprendizagem não oferecem a riqueza de recursos educativos que vemos noutras paragens.

Tenho perfeita consciência do que é o dia-a-dia de um professor universitário com a gestão de serviço docente, de atividades de investigação, de cargos dentro da escola, de projetos de articulação com o mundo fora dos muros da academia. É uma sucessão de tarefas, muitas vezes num ritmo que, mais uma vez, não dá tempo para refletir e, sobretudo, que aumenta a insatisfação e o cansaço. Como sempre, a solução para um problema complexo não pode ser única e milagrosa. Aqui, a área científica onde me movimento poderá contribuir para se repensarem currículos, tecnologias educativas, formatos pedagógicos e de avaliação.

Nos tempos que vivemos, em que meias verdades são apresentadas como verdades absolutas, em que imprecisões são vendidas com capa de rigor e em que o falso vai passando por verdadeiro, esta é uma oportunidade para colocarmos no centro dos nossos currículos a consulta de fontes credíveis, a capacidade de análise e de reflexão, a discussão de diferentes pontos de vista. As nossas democracias precisam desesperadamente de cidadãos com estas capacidades.

Assim, como académicos, só poderemos fazer uma coisa – caracterizar o fenómeno, analisar os seus impactos e contribuir para o conhecimento e para a tomada de decisão. Sobretudo, tratemos o assunto com rigor, tal como fazemos nos nossos domínios científicos de pertença. É o que sabemos fazer, é o que fazemos bem e, sobretudo, é a nossa obrigação.

Texto produzido no âmbito do painel “ChatGPT e ferramentas de inteligência artificial: uso responsável na ciência e ensino superior”, na Universidade de Lisboa, em maio de 2023

Professora aposentada, ex-pró-reitora da Universidade Nova de Lisboa

[artigo disponível na íntegra só para assinantes aqui]

Manuel Dias: “Não vamos ser substituídos por IA, mas talvez por humanos que sabem usar IA”

Karla Pequenino, in Público


Manuel Dias, responsável de tecnologia da Microsoft Portugal, fala com o PÚBLICO sobre a explosão de ferramentas com IA generativa e das vantagens e riscos associados aos novos chatbots.


Os novos chatbots com inteligência artificial generativa estão a transformar a forma como interagimos com a tecnologia. Em Portugal, várias empresas e organizações estão a adoptar estas ferramentas para melhorar a experiência do utilizador. Nesta entrevista, falamos com Manuel Dias, National Technology Officer da Microsoft em Portugal, para saber mais sobre o impacto da IA generativa no país. Manuel Dias é um grande fã do chatbot do Bing e pode fornecer informações valiosas sobre como a IA generativa está a ser usada.

A introdução acima foi escrita com a ajuda do chatbot do Bing, o programa de inteligência artificial que a Microsoft lançou em Fevereiro para responder e resumir informação como um ser humano. A tecnologia é a mesma do ChatGPT, que surgiu no final de 2022 pela mão da OpenAI, só que a versão da Microsoft, que é uma das grandes financiadoras do projecto, identifica as fontes da informação. É uma das grandes vantagens da ferramenta, salienta Manuel Dias, em conversa com o PÚBLICO (desta vez, sem ajuda do Bing). O responsável pela estratégia tecnológica da Microsoft Portugal fala-nos sobre o rápido desenvolvimento da IA generativa, os receios associados e a forma como pode ser usada para promover a aceleração digital das empresas portuguesas.

Há cada vez mais empresas e startups a anunciar novos produtos com programas que respondem e resumem informação como um ser humano. O que está por trás deste salto?
Bom, a inteligência artificial não é nova. É algo que está a ser explorado há mais de 50 anos. Na realidade, cerca de 70 anos, com a criação do teste de Turing [prova criada pelo matemático britânico Alan Turing para avaliar se um ser humano sabe que está a falar com uma máquina]. O que vemos agora é a massificação da inteligência artificial generativa. As pessoas tiveram mais contacto por causa do chatGPT, mas o desenvolvimento começou em 2017 impulsionado por um tipo específico de redes neuronais que são os transformers.

O sucesso acontece porque é fácil perceber esta forma de IA. Todos podemos utilizar a interface em linguagem natural. Não é uma coisa demasiado técnica. E a tecnologia vem com um conjunto de capacidades que antes só estavam associadas aos seres humanos, como a capacidade de resumir informação.

Tornou-se mais fácil implementar a tecnologia?
Sem dúvida. Estamos num ponto de inflexão da infra-estrutura tecnológica. Os modelos da OpenAI foram treinados com a infra-estrutura Azure, da Microsoft. Estamos a falar de quase cinco milhões de euros para os treinar, mas, a partir daqui, a forma como qualquer empresa, ou startup, do sector público ou privado, consegue pegar nestes modelos, através da API [Programação de Interface de Aplicações] é muito simples. E não é preciso treinar os modelos com mais dados: como a sigla GPT indica, Generative Pretrained Model, estes modelos são pré-treinados. Posso usá-los como estão.

Em 2020, a Microsoft Portugal estabeleceu um memorando de entendimento com o Governo para reforçar a estratégia de transição digital do país. Como é que os chatbots podem ajudar?
Há quatro grandes cenários. O primeiro é a geração de respostas a partir de uma pergunta. Isto pode ser usado para responder a perguntas sobre uma base de conhecimento, como se fez com o novo chatbot do Ministério da Justiça.

Outro cenário é a sumarização. Estamos a trabalhar nisto com a EDP. Pode-se, por exemplo, sumarizar informação em centenas de PDF escritos à mão. Também podemos usar a tecnologia para criar um resumo de tudo o que é dito sobre uma empresa nas redes sociais. Ou pegar num processo judicial que tem oito milhões de documentos e resumir para que seja humanamente possível conseguir fazer essa análise.

O terceiro cenário é a geração de código que permite que equipas de programadores possam ser mais eficientes. E depois há a procura semântica, que se aplica em tudo o que seja serviço ao cliente ou ao cidadão, porque permite navegar uma base de dados sem "legalês". Como queixas ou informações sobre processos judiciais.

Quais os cuidados a ter?
Nós sabemos que estes modelos linguísticos têm alguma capacidade para a alucinação.

A alucinação em IA refere-se à geração de resultados que podem parecer plausíveis, mas que são factualmente incorrectos ou saem do contexto da pergunta.
Às vezes os modelos são criativos. Em alguns casos, como no chatbot do Ministério da Justiça, foi criadas restrições para o modelo só responder com base na informação no site da Justiça. Há um


As organizações em Portugal estão preparadas para a tecnologia? Quais são os desafios?
Não é tanto a capacitação. Os desafios têm muito que ver com explicar às pessoas o potencial deste tipo de tecnologia, que é a inteligência artificial generativa. Ou seja, explicar o que é possível fazer, quais são os limites e quais são as restrições. E trazer para o mercado soluções concretas.

Quais são os limites destes modelos?
Eu gosto de desmistificar o que é que são os grandes modelos de linguagem. Na verdade, são modelos probabilísticos que prevêem a próxima palavra tendo em conta a frase e todas as palavras que estão atrás. Não são como calculadoras e também não há ninguém por detrás, a pensar ou a fazer uma análise crítica.

A alucinação vem daí. Do facto de o modelo poder, por vezes, encontrar uma palavra que faz sentido depois de outra, mas não faz sentido no contexto real da frase.

Depois, é importante ter noção de que estes modelos podem ser usados para criar notícias falsas e conteúdos ofensivos ou racistas. Na Microsoft, tentamos colocar filtros de IA responsável para que perguntas que incluam conteúdo xenófobo, racista, ou informação pessoal, não sejam respondidas.

Há quem diga que estamos perto da inteligência artificial geral.
Estamos numa fase em que a tecnologia está a melhorar incrementalmente. Não gosto de fazer previsões porque estamos numa fase muito inicial, mas creio que alguns cientistas dizem que estamos no início da inteligência artificial geral. Para mim, estamos num ponto de transição. E os grandes modelos de linguagem, como o GPT-4 [sucessor do GPT-3.5, usado na primeira versão do ChatGPT], apresentam comportamentos emergentes.

O que se entende por comportamento emergente?
Podemos usar a metáfora da água a ferver: quando estamos a ferver água, a temperatura aumenta gradualmente até que chega aos 100 graus e a água passa para o estado gasoso. Com uma pequena alteração na temperatura há uma mudança de fase brutal. Aqui é a mesma coisa, temos algoritmos que vão melhorando o desempenho, e depois há comportamentos que não percebemos como foram adquiridos. Por exemplo, resolver uma função matemática, ou analisar um texto. O potencial vai ser desvendado nos próximos meses à medida que estes modelos crescem.

As empresas têm a capacidade de implementar a tecnologia? Há profissionais para isso?
É uma pergunta complicada. Falta mais gente capacitada nesta área de inteligência artificial, de ciência de dados. Recordo-me de ter dito em 2012 que cientista de dados era a profissão mais sexy do mundo. E o que é facto é que passaram 11 anos e nós continuamos a ver muita falta destes profissionais. Acho que esta tecnologia simplifica muito o processo. Como muitos modelos são pré-treinados, é quase só ir buscar a base de conhecimento e integrar muitas destas API numa solução. Já não é preciso desenvolver o modelo do zero.

A Microsoft é uma das protagonistas nos despedimentos em massa das empresas de tecnologia. Qual é a sua visão do impacto da inteligência artificial no emprego nas grandes tecnológicas?
Estamos num ponto de inflexão tecnológica – seja na Microsoft, seja no mercado em geral – e acredito que vamos ver o aparecimento de novos empregos à volta da implementação destes modelos linguísticos. Fala-se muito da ideia de engenheiros de “prompts” [ideias/estímulos], que eu acho muita piada porque sempre defendi que é muito importante saber fazer as perguntas certas quando falamos de dados. Na inteligência artificial é muito importante saber fazer as perguntas certas.

Não nos vejo [humanos] a sermos substituídos pela inteligência artificial, mas talvez sejamos substituídos por alguém que sabe tirar partido destas ferramentas de inteligência artificial. E eu acho que esse é o ponto-chave. Em todas as revoluções industriais, algumas profissões deixaram de existir e outras foram criadas.

Desta vez, há empregos diferentes afectados.
Vivemos numa altura em que a inteligência artificial começa a entrar nas áreas em que o conhecimento é um ponto importante. Não é só automatizar. O que não deixa de ser bom, porque quem perde meia hora a escrever um email pode perder apenas um minuto, desde que mantenha o sentido crítico sobre o que é produzido. O que nos dá mais tempo para nos dedicarmos a coisas mais avançadas.

Recentemente um grupo de especialistas em IA assinou uma petição que pede uma pausa no desenvolvimento da IA. Qual é a visão da Microsoft?
Temos acompanhado a situação. Sem comentar [directamente], mas falando da nossa visão: na Microsoft não somos a favor de inovar por inovar. Defendemos a inovação com propósito e sabemos que é preciso ter regulamentação na utilização da tecnologia para que seja feita em benefício da sociedade. Obviamente que existem riscos, como em todas as tecnologias, por isso é preciso definir balizas na utilização dessa tecnologia.

A legislação pode ajudar?
Na Microsoft defendemos isso e a Europa está a trabalhar nessa área, tal como trabalhou no RGPD [Regulamento Geral para a Protecção dos Dados].

Tem notado um aumento dos utilizadores da Microsoft e do Bing em Portugal, no resto do mundo?
Mundialmente, sim. Temos cerca de 100 milhões de utilizadores activos diários. Aquilo que eu posso dizer sobre o Bing em Portugal, com base na minha percepção, é que vejo um aumento todos os dias, especialmente depois de explicar como pode ser utilizado. As pessoas conhecem o ChatGPT, mas o Bing é diferente. Tem as fontes de informação, ou seja, é mais transparente, e tem informação actualizada porque [a] tira a partir dos resultados da pesquisa. O chatGPT ficou parado no final de 2021.

A Microsoft Bing não é a única empresa a desenvolver estas tecnologias. A Google, por exemplo, já tem o Bard.
E surgirão outros. A nossa missão, na Microsoft, é facilitar o acesso à tecnologia. A concorrência é boa para nós estarmos constantemente a avançar, mas o nosso foco é pensar em formas de a sociedade e as empresas poderem tirar partido da tecnologia.