A humanidade não cabe na "inteligência artificial"

 Henrique Raposo, opinião, in Expresso

A linguagem humana não é feita apenas com palavras no sentido literal. As nossas palavras podem ter sentidos figurados no subtexto (ironia, metáforas) que o cérebro literal não capta e, acima de tudo, temos uma linguagem não verbal, uma linguagem escondida que é transmitida pelo tom de voz – uma arte em si mesmo -, pelos gestos e pelos olhares

Não compreendo a preocupação ou medo que vai por aí em relação à inteligência artificial (IA), em relação aos sistemas que fazem textos como ChatGPT. Mais uma vez, o debate aparece em tons apocalípticos, "Ela", a IA, vai dominar-nos! Podemos ter calma por uma vez? Para começar, convém dizer que estes sistemas não fazem textos - copiam textos; são gigantescos sistemas de plágio. Essa é, aliás, a discussão que devia estar em cima da mesa: porque é que encolhemos os ombros quando se instala na sociedade um gigantesco sistema de plágio? O ChatGPT não é "inteligência artificial", é roubo.

Além de fomentar o plágio, a IA é literal, não consegue compreender os significados figurados, isto é, a arte, o humor, a metáfora, a ironia, porque para isso é preciso o QE e não apenas o QI. Sem o coeficiente de inteligência emocional que se constrói desde a infância com as memórias e as emoções, o QI não chega para montar uma linguagem humana.

Como dizia a Virginia Woolf, uma única palavra (por exemplo, “feminista”) tem diferentes camadas, diferentes ecos que variam de país para país, de classe para classe, de pessoa para pessoa, uma palavra pode ser banal para uma pessoa, mas pode ser um tabu para outra.

Há quem diga que numa reunião Zoom à distância já corremos o risco de estar a falar com uma inteligência artificial que monta a imagem e o discurso que parece real, um avatar. Mas mesmo assim há um problema para a IA.

A linguagem humana não é feita apenas com palavras no sentido literal. As nossas palavras podem ter sentidos figurados no subtexto (ironia, metáforas) que o cérebro literal não capta e, acima de tudo, temos uma linguagem não verbal, uma linguagem escondida que é transmitida pelo tom de voz – uma arte em si mesmo -, pelos gestos e pelos olhares.

O que faz de nós humanos não é aquilo que dizemos de forma literal na linguagem verbal e captável pelo ChatGPT, o que nos define como humanos está no timbre da voz (que pode ser a negação do que está a ser dito); está nas hesitações no momento de falar, na tosse nervosa, nos tiques e trejeitos, no riso, no sorriso, na linguagem corporal, o encolher de ombros, as mãos no cabelo ou no queixo, as mãos a falar ou não, as caretas e demais expressões do rosto.

Manuel Dias: “Não vamos ser substituídos por IA, mas talvez por humanos que sabem usar IA”

Karla Pequenino, in Público


Manuel Dias, responsável de tecnologia da Microsoft Portugal, fala com o PÚBLICO sobre a explosão de ferramentas com IA generativa e das vantagens e riscos associados aos novos chatbots.


Os novos chatbots com inteligência artificial generativa estão a transformar a forma como interagimos com a tecnologia. Em Portugal, várias empresas e organizações estão a adoptar estas ferramentas para melhorar a experiência do utilizador. Nesta entrevista, falamos com Manuel Dias, National Technology Officer da Microsoft em Portugal, para saber mais sobre o impacto da IA generativa no país. Manuel Dias é um grande fã do chatbot do Bing e pode fornecer informações valiosas sobre como a IA generativa está a ser usada.

A introdução acima foi escrita com a ajuda do chatbot do Bing, o programa de inteligência artificial que a Microsoft lançou em Fevereiro para responder e resumir informação como um ser humano. A tecnologia é a mesma do ChatGPT, que surgiu no final de 2022 pela mão da OpenAI, só que a versão da Microsoft, que é uma das grandes financiadoras do projecto, identifica as fontes da informação. É uma das grandes vantagens da ferramenta, salienta Manuel Dias, em conversa com o PÚBLICO (desta vez, sem ajuda do Bing). O responsável pela estratégia tecnológica da Microsoft Portugal fala-nos sobre o rápido desenvolvimento da IA generativa, os receios associados e a forma como pode ser usada para promover a aceleração digital das empresas portuguesas.

Há cada vez mais empresas e startups a anunciar novos produtos com programas que respondem e resumem informação como um ser humano. O que está por trás deste salto?
Bom, a inteligência artificial não é nova. É algo que está a ser explorado há mais de 50 anos. Na realidade, cerca de 70 anos, com a criação do teste de Turing [prova criada pelo matemático britânico Alan Turing para avaliar se um ser humano sabe que está a falar com uma máquina]. O que vemos agora é a massificação da inteligência artificial generativa. As pessoas tiveram mais contacto por causa do chatGPT, mas o desenvolvimento começou em 2017 impulsionado por um tipo específico de redes neuronais que são os transformers.

O sucesso acontece porque é fácil perceber esta forma de IA. Todos podemos utilizar a interface em linguagem natural. Não é uma coisa demasiado técnica. E a tecnologia vem com um conjunto de capacidades que antes só estavam associadas aos seres humanos, como a capacidade de resumir informação.

Tornou-se mais fácil implementar a tecnologia?
Sem dúvida. Estamos num ponto de inflexão da infra-estrutura tecnológica. Os modelos da OpenAI foram treinados com a infra-estrutura Azure, da Microsoft. Estamos a falar de quase cinco milhões de euros para os treinar, mas, a partir daqui, a forma como qualquer empresa, ou startup, do sector público ou privado, consegue pegar nestes modelos, através da API [Programação de Interface de Aplicações] é muito simples. E não é preciso treinar os modelos com mais dados: como a sigla GPT indica, Generative Pretrained Model, estes modelos são pré-treinados. Posso usá-los como estão.

Em 2020, a Microsoft Portugal estabeleceu um memorando de entendimento com o Governo para reforçar a estratégia de transição digital do país. Como é que os chatbots podem ajudar?
Há quatro grandes cenários. O primeiro é a geração de respostas a partir de uma pergunta. Isto pode ser usado para responder a perguntas sobre uma base de conhecimento, como se fez com o novo chatbot do Ministério da Justiça.

Outro cenário é a sumarização. Estamos a trabalhar nisto com a EDP. Pode-se, por exemplo, sumarizar informação em centenas de PDF escritos à mão. Também podemos usar a tecnologia para criar um resumo de tudo o que é dito sobre uma empresa nas redes sociais. Ou pegar num processo judicial que tem oito milhões de documentos e resumir para que seja humanamente possível conseguir fazer essa análise.

O terceiro cenário é a geração de código que permite que equipas de programadores possam ser mais eficientes. E depois há a procura semântica, que se aplica em tudo o que seja serviço ao cliente ou ao cidadão, porque permite navegar uma base de dados sem "legalês". Como queixas ou informações sobre processos judiciais.

Quais os cuidados a ter?
Nós sabemos que estes modelos linguísticos têm alguma capacidade para a alucinação.

A alucinação em IA refere-se à geração de resultados que podem parecer plausíveis, mas que são factualmente incorrectos ou saem do contexto da pergunta.
Às vezes os modelos são criativos. Em alguns casos, como no chatbot do Ministério da Justiça, foi criadas restrições para o modelo só responder com base na informação no site da Justiça. Há um


As organizações em Portugal estão preparadas para a tecnologia? Quais são os desafios?
Não é tanto a capacitação. Os desafios têm muito que ver com explicar às pessoas o potencial deste tipo de tecnologia, que é a inteligência artificial generativa. Ou seja, explicar o que é possível fazer, quais são os limites e quais são as restrições. E trazer para o mercado soluções concretas.

Quais são os limites destes modelos?
Eu gosto de desmistificar o que é que são os grandes modelos de linguagem. Na verdade, são modelos probabilísticos que prevêem a próxima palavra tendo em conta a frase e todas as palavras que estão atrás. Não são como calculadoras e também não há ninguém por detrás, a pensar ou a fazer uma análise crítica.

A alucinação vem daí. Do facto de o modelo poder, por vezes, encontrar uma palavra que faz sentido depois de outra, mas não faz sentido no contexto real da frase.

Depois, é importante ter noção de que estes modelos podem ser usados para criar notícias falsas e conteúdos ofensivos ou racistas. Na Microsoft, tentamos colocar filtros de IA responsável para que perguntas que incluam conteúdo xenófobo, racista, ou informação pessoal, não sejam respondidas.

Há quem diga que estamos perto da inteligência artificial geral.
Estamos numa fase em que a tecnologia está a melhorar incrementalmente. Não gosto de fazer previsões porque estamos numa fase muito inicial, mas creio que alguns cientistas dizem que estamos no início da inteligência artificial geral. Para mim, estamos num ponto de transição. E os grandes modelos de linguagem, como o GPT-4 [sucessor do GPT-3.5, usado na primeira versão do ChatGPT], apresentam comportamentos emergentes.

O que se entende por comportamento emergente?
Podemos usar a metáfora da água a ferver: quando estamos a ferver água, a temperatura aumenta gradualmente até que chega aos 100 graus e a água passa para o estado gasoso. Com uma pequena alteração na temperatura há uma mudança de fase brutal. Aqui é a mesma coisa, temos algoritmos que vão melhorando o desempenho, e depois há comportamentos que não percebemos como foram adquiridos. Por exemplo, resolver uma função matemática, ou analisar um texto. O potencial vai ser desvendado nos próximos meses à medida que estes modelos crescem.

As empresas têm a capacidade de implementar a tecnologia? Há profissionais para isso?
É uma pergunta complicada. Falta mais gente capacitada nesta área de inteligência artificial, de ciência de dados. Recordo-me de ter dito em 2012 que cientista de dados era a profissão mais sexy do mundo. E o que é facto é que passaram 11 anos e nós continuamos a ver muita falta destes profissionais. Acho que esta tecnologia simplifica muito o processo. Como muitos modelos são pré-treinados, é quase só ir buscar a base de conhecimento e integrar muitas destas API numa solução. Já não é preciso desenvolver o modelo do zero.

A Microsoft é uma das protagonistas nos despedimentos em massa das empresas de tecnologia. Qual é a sua visão do impacto da inteligência artificial no emprego nas grandes tecnológicas?
Estamos num ponto de inflexão tecnológica – seja na Microsoft, seja no mercado em geral – e acredito que vamos ver o aparecimento de novos empregos à volta da implementação destes modelos linguísticos. Fala-se muito da ideia de engenheiros de “prompts” [ideias/estímulos], que eu acho muita piada porque sempre defendi que é muito importante saber fazer as perguntas certas quando falamos de dados. Na inteligência artificial é muito importante saber fazer as perguntas certas.

Não nos vejo [humanos] a sermos substituídos pela inteligência artificial, mas talvez sejamos substituídos por alguém que sabe tirar partido destas ferramentas de inteligência artificial. E eu acho que esse é o ponto-chave. Em todas as revoluções industriais, algumas profissões deixaram de existir e outras foram criadas.

Desta vez, há empregos diferentes afectados.
Vivemos numa altura em que a inteligência artificial começa a entrar nas áreas em que o conhecimento é um ponto importante. Não é só automatizar. O que não deixa de ser bom, porque quem perde meia hora a escrever um email pode perder apenas um minuto, desde que mantenha o sentido crítico sobre o que é produzido. O que nos dá mais tempo para nos dedicarmos a coisas mais avançadas.

Recentemente um grupo de especialistas em IA assinou uma petição que pede uma pausa no desenvolvimento da IA. Qual é a visão da Microsoft?
Temos acompanhado a situação. Sem comentar [directamente], mas falando da nossa visão: na Microsoft não somos a favor de inovar por inovar. Defendemos a inovação com propósito e sabemos que é preciso ter regulamentação na utilização da tecnologia para que seja feita em benefício da sociedade. Obviamente que existem riscos, como em todas as tecnologias, por isso é preciso definir balizas na utilização dessa tecnologia.

A legislação pode ajudar?
Na Microsoft defendemos isso e a Europa está a trabalhar nessa área, tal como trabalhou no RGPD [Regulamento Geral para a Protecção dos Dados].

Tem notado um aumento dos utilizadores da Microsoft e do Bing em Portugal, no resto do mundo?
Mundialmente, sim. Temos cerca de 100 milhões de utilizadores activos diários. Aquilo que eu posso dizer sobre o Bing em Portugal, com base na minha percepção, é que vejo um aumento todos os dias, especialmente depois de explicar como pode ser utilizado. As pessoas conhecem o ChatGPT, mas o Bing é diferente. Tem as fontes de informação, ou seja, é mais transparente, e tem informação actualizada porque [a] tira a partir dos resultados da pesquisa. O chatGPT ficou parado no final de 2021.

A Microsoft Bing não é a única empresa a desenvolver estas tecnologias. A Google, por exemplo, já tem o Bard.
E surgirão outros. A nossa missão, na Microsoft, é facilitar o acesso à tecnologia. A concorrência é boa para nós estarmos constantemente a avançar, mas o nosso foco é pensar em formas de a sociedade e as empresas poderem tirar partido da tecnologia.