ChatGPT – Primeiras impressões

Eu não pensava falar sobre o chatGPT, sinto-me esmagada com tanta publicação sobre o tema. Mas, reconheço que é o assunto do momento e que levanta muitas questões e preocupações a vários profissionais e, em particular, aos profissionais de serviços linguísticos.

Portanto, cá estou eu para partilhar algumas reflexões sobre o assunto.

Acerca das questões de privacidade e confidencialidade, todos sabemos que quando temos um serviço grátis, o produto somos nós. Este caso não é exceção – os dados que introduzimos nos Large Language Models (LLM) servem para os alimentar. Digamos que é uma troca por troca.

Por essa razão, escusado será dizer que, relativamente a informação sensível – sobretudo da área médica e legal – os cuidados a ter são os mesmos que já tínhamos de considerar quanto aos motores de busca anteriores – não se podem partilhar informações privadas e confidenciais nestes sítios. Os profissionais da linguagem assinam contratos de confidencialidade e têm deveres de ordem ética e deontológica que têm de ser cumpridos.

Quanto a informação mais geral, podemos sempre pedir uma tradução, omitindo nomes e moradas, colocando nessas partes do texto “pessoa X”, “rua XYZ”.

De qualquer maneira, há outras questões que temos de colocar. A Europa tem leis muito claras acerca da proteção de dados. Quanto à informação que possamos partilhar nestes sítios, estando estes serviços localizados na América do Norte, não sabemos de que forma é utilizada e onde fica alojada. A nossa lei europeia não nos defende disto.

Ah! Tal como nos sistemas anteriores, lamento informar que o output é em português, variante brasileira. Os falantes de português europeu não produzem material suficiente para alimentar estes modelos.

Entre outras funcionalidades, os LLM também servem para fazer pesquisas, a diferença é que os resultados vêm integrados num texto único. Isto aparentemente é uma coisa boa, porque a informação vem já toda resumida.

Mas, muita atenção. Que informação é essa? Qual é o ponto de vista? Eu diria que é um ponto de vista fortemente vinculado à cultura norte-americana.

Pensem bem, estes modelos de linguagem são treinados com conteúdo norte-americano, portanto os resultados vêm contaminados com um ponto de vista local, cheio de enviesamentos e marcas dessa cultura.

Seria importante a Europa e outras regiões entrarem neste jogo e, desta forma, acrescentarem possibilidades aos utilizadores, de maneira a que possam aceder a conteúdos culturalmente variados. Isto sim, promoveria a diversidade e a inclusividade na IA.

Recentemente, Noam Chomsky deu uma entrevista ao New York Times e afirmou que este é o ataque mais radical ao pensamento crítico, à inteligência crítica e particularmente à ciência que alguma vez se viu.

Penso que precisamos de tempo e distância para entender as implicações de tudo isto.

Contudo, isso não significa que não devamos conhecer e tirar partido destas novas tecnologias. Devemos é fazê-lo de uma forma consciente – como diz Chomsky, temos de educar as pessoas para a autodefesa e levá-las as a compreender o que isto é e o que não é.

Tem pensado sobre este assunto? Sente-se preocupado ou curioso? Utiliza ou rejeita? Gostaria de conhecer a sua opinião.