Manuel Dias: “Não vamos ser substituídos por IA, mas talvez por humanos que sabem usar IA”

Karla Pequenino, in Público


Manuel Dias, responsável de tecnologia da Microsoft Portugal, fala com o PÚBLICO sobre a explosão de ferramentas com IA generativa e das vantagens e riscos associados aos novos chatbots.


Os novos chatbots com inteligência artificial generativa estão a transformar a forma como interagimos com a tecnologia. Em Portugal, várias empresas e organizações estão a adoptar estas ferramentas para melhorar a experiência do utilizador. Nesta entrevista, falamos com Manuel Dias, National Technology Officer da Microsoft em Portugal, para saber mais sobre o impacto da IA generativa no país. Manuel Dias é um grande fã do chatbot do Bing e pode fornecer informações valiosas sobre como a IA generativa está a ser usada.

A introdução acima foi escrita com a ajuda do chatbot do Bing, o programa de inteligência artificial que a Microsoft lançou em Fevereiro para responder e resumir informação como um ser humano. A tecnologia é a mesma do ChatGPT, que surgiu no final de 2022 pela mão da OpenAI, só que a versão da Microsoft, que é uma das grandes financiadoras do projecto, identifica as fontes da informação. É uma das grandes vantagens da ferramenta, salienta Manuel Dias, em conversa com o PÚBLICO (desta vez, sem ajuda do Bing). O responsável pela estratégia tecnológica da Microsoft Portugal fala-nos sobre o rápido desenvolvimento da IA generativa, os receios associados e a forma como pode ser usada para promover a aceleração digital das empresas portuguesas.

Há cada vez mais empresas e startups a anunciar novos produtos com programas que respondem e resumem informação como um ser humano. O que está por trás deste salto?
Bom, a inteligência artificial não é nova. É algo que está a ser explorado há mais de 50 anos. Na realidade, cerca de 70 anos, com a criação do teste de Turing [prova criada pelo matemático britânico Alan Turing para avaliar se um ser humano sabe que está a falar com uma máquina]. O que vemos agora é a massificação da inteligência artificial generativa. As pessoas tiveram mais contacto por causa do chatGPT, mas o desenvolvimento começou em 2017 impulsionado por um tipo específico de redes neuronais que são os transformers.

O sucesso acontece porque é fácil perceber esta forma de IA. Todos podemos utilizar a interface em linguagem natural. Não é uma coisa demasiado técnica. E a tecnologia vem com um conjunto de capacidades que antes só estavam associadas aos seres humanos, como a capacidade de resumir informação.

Tornou-se mais fácil implementar a tecnologia?
Sem dúvida. Estamos num ponto de inflexão da infra-estrutura tecnológica. Os modelos da OpenAI foram treinados com a infra-estrutura Azure, da Microsoft. Estamos a falar de quase cinco milhões de euros para os treinar, mas, a partir daqui, a forma como qualquer empresa, ou startup, do sector público ou privado, consegue pegar nestes modelos, através da API [Programação de Interface de Aplicações] é muito simples. E não é preciso treinar os modelos com mais dados: como a sigla GPT indica, Generative Pretrained Model, estes modelos são pré-treinados. Posso usá-los como estão.

Em 2020, a Microsoft Portugal estabeleceu um memorando de entendimento com o Governo para reforçar a estratégia de transição digital do país. Como é que os chatbots podem ajudar?
Há quatro grandes cenários. O primeiro é a geração de respostas a partir de uma pergunta. Isto pode ser usado para responder a perguntas sobre uma base de conhecimento, como se fez com o novo chatbot do Ministério da Justiça.

Outro cenário é a sumarização. Estamos a trabalhar nisto com a EDP. Pode-se, por exemplo, sumarizar informação em centenas de PDF escritos à mão. Também podemos usar a tecnologia para criar um resumo de tudo o que é dito sobre uma empresa nas redes sociais. Ou pegar num processo judicial que tem oito milhões de documentos e resumir para que seja humanamente possível conseguir fazer essa análise.

O terceiro cenário é a geração de código que permite que equipas de programadores possam ser mais eficientes. E depois há a procura semântica, que se aplica em tudo o que seja serviço ao cliente ou ao cidadão, porque permite navegar uma base de dados sem "legalês". Como queixas ou informações sobre processos judiciais.

Quais os cuidados a ter?
Nós sabemos que estes modelos linguísticos têm alguma capacidade para a alucinação.

A alucinação em IA refere-se à geração de resultados que podem parecer plausíveis, mas que são factualmente incorrectos ou saem do contexto da pergunta.
Às vezes os modelos são criativos. Em alguns casos, como no chatbot do Ministério da Justiça, foi criadas restrições para o modelo só responder com base na informação no site da Justiça. Há um


As organizações em Portugal estão preparadas para a tecnologia? Quais são os desafios?
Não é tanto a capacitação. Os desafios têm muito que ver com explicar às pessoas o potencial deste tipo de tecnologia, que é a inteligência artificial generativa. Ou seja, explicar o que é possível fazer, quais são os limites e quais são as restrições. E trazer para o mercado soluções concretas.

Quais são os limites destes modelos?
Eu gosto de desmistificar o que é que são os grandes modelos de linguagem. Na verdade, são modelos probabilísticos que prevêem a próxima palavra tendo em conta a frase e todas as palavras que estão atrás. Não são como calculadoras e também não há ninguém por detrás, a pensar ou a fazer uma análise crítica.

A alucinação vem daí. Do facto de o modelo poder, por vezes, encontrar uma palavra que faz sentido depois de outra, mas não faz sentido no contexto real da frase.

Depois, é importante ter noção de que estes modelos podem ser usados para criar notícias falsas e conteúdos ofensivos ou racistas. Na Microsoft, tentamos colocar filtros de IA responsável para que perguntas que incluam conteúdo xenófobo, racista, ou informação pessoal, não sejam respondidas.

Há quem diga que estamos perto da inteligência artificial geral.
Estamos numa fase em que a tecnologia está a melhorar incrementalmente. Não gosto de fazer previsões porque estamos numa fase muito inicial, mas creio que alguns cientistas dizem que estamos no início da inteligência artificial geral. Para mim, estamos num ponto de transição. E os grandes modelos de linguagem, como o GPT-4 [sucessor do GPT-3.5, usado na primeira versão do ChatGPT], apresentam comportamentos emergentes.

O que se entende por comportamento emergente?
Podemos usar a metáfora da água a ferver: quando estamos a ferver água, a temperatura aumenta gradualmente até que chega aos 100 graus e a água passa para o estado gasoso. Com uma pequena alteração na temperatura há uma mudança de fase brutal. Aqui é a mesma coisa, temos algoritmos que vão melhorando o desempenho, e depois há comportamentos que não percebemos como foram adquiridos. Por exemplo, resolver uma função matemática, ou analisar um texto. O potencial vai ser desvendado nos próximos meses à medida que estes modelos crescem.

As empresas têm a capacidade de implementar a tecnologia? Há profissionais para isso?
É uma pergunta complicada. Falta mais gente capacitada nesta área de inteligência artificial, de ciência de dados. Recordo-me de ter dito em 2012 que cientista de dados era a profissão mais sexy do mundo. E o que é facto é que passaram 11 anos e nós continuamos a ver muita falta destes profissionais. Acho que esta tecnologia simplifica muito o processo. Como muitos modelos são pré-treinados, é quase só ir buscar a base de conhecimento e integrar muitas destas API numa solução. Já não é preciso desenvolver o modelo do zero.

A Microsoft é uma das protagonistas nos despedimentos em massa das empresas de tecnologia. Qual é a sua visão do impacto da inteligência artificial no emprego nas grandes tecnológicas?
Estamos num ponto de inflexão tecnológica – seja na Microsoft, seja no mercado em geral – e acredito que vamos ver o aparecimento de novos empregos à volta da implementação destes modelos linguísticos. Fala-se muito da ideia de engenheiros de “prompts” [ideias/estímulos], que eu acho muita piada porque sempre defendi que é muito importante saber fazer as perguntas certas quando falamos de dados. Na inteligência artificial é muito importante saber fazer as perguntas certas.

Não nos vejo [humanos] a sermos substituídos pela inteligência artificial, mas talvez sejamos substituídos por alguém que sabe tirar partido destas ferramentas de inteligência artificial. E eu acho que esse é o ponto-chave. Em todas as revoluções industriais, algumas profissões deixaram de existir e outras foram criadas.

Desta vez, há empregos diferentes afectados.
Vivemos numa altura em que a inteligência artificial começa a entrar nas áreas em que o conhecimento é um ponto importante. Não é só automatizar. O que não deixa de ser bom, porque quem perde meia hora a escrever um email pode perder apenas um minuto, desde que mantenha o sentido crítico sobre o que é produzido. O que nos dá mais tempo para nos dedicarmos a coisas mais avançadas.

Recentemente um grupo de especialistas em IA assinou uma petição que pede uma pausa no desenvolvimento da IA. Qual é a visão da Microsoft?
Temos acompanhado a situação. Sem comentar [directamente], mas falando da nossa visão: na Microsoft não somos a favor de inovar por inovar. Defendemos a inovação com propósito e sabemos que é preciso ter regulamentação na utilização da tecnologia para que seja feita em benefício da sociedade. Obviamente que existem riscos, como em todas as tecnologias, por isso é preciso definir balizas na utilização dessa tecnologia.

A legislação pode ajudar?
Na Microsoft defendemos isso e a Europa está a trabalhar nessa área, tal como trabalhou no RGPD [Regulamento Geral para a Protecção dos Dados].

Tem notado um aumento dos utilizadores da Microsoft e do Bing em Portugal, no resto do mundo?
Mundialmente, sim. Temos cerca de 100 milhões de utilizadores activos diários. Aquilo que eu posso dizer sobre o Bing em Portugal, com base na minha percepção, é que vejo um aumento todos os dias, especialmente depois de explicar como pode ser utilizado. As pessoas conhecem o ChatGPT, mas o Bing é diferente. Tem as fontes de informação, ou seja, é mais transparente, e tem informação actualizada porque [a] tira a partir dos resultados da pesquisa. O chatGPT ficou parado no final de 2021.

A Microsoft Bing não é a única empresa a desenvolver estas tecnologias. A Google, por exemplo, já tem o Bard.
E surgirão outros. A nossa missão, na Microsoft, é facilitar o acesso à tecnologia. A concorrência é boa para nós estarmos constantemente a avançar, mas o nosso foco é pensar em formas de a sociedade e as empresas poderem tirar partido da tecnologia.