ChatGPT – Primeiras impressões
Eu não pensava falar sobre o chatGPT, sinto-me esmagada com tanta publicação sobre o tema. Mas, reconheço que é o assunto do momento e que levanta muitas questões e preocupações a vários profissionais e, em particular, aos profissionais de serviços linguísticos.
Portanto, cá estou eu para partilhar algumas reflexões sobre o assunto.
Acerca das questões de privacidade e confidencialidade, todos sabemos que quando temos um serviço grátis, o produto somos nós. Este caso não é exceção – os dados que introduzimos nos Large Language Models (LLM) servem para os alimentar. Digamos que é uma troca por troca.
Por essa razão, escusado será dizer que, relativamente a informação sensível – sobretudo da área médica e legal – os cuidados a ter são os mesmos que já tínhamos de considerar quanto aos motores de busca anteriores – não se podem partilhar informações privadas e confidenciais nestes sítios. Os profissionais da linguagem assinam contratos de confidencialidade e têm deveres de ordem ética e deontológica que têm de ser cumpridos.
Quanto a informação mais geral, podemos sempre pedir uma tradução, omitindo nomes e moradas, colocando nessas partes do texto “pessoa X”, “rua XYZ”.
De qualquer maneira, há outras questões que temos de colocar. A Europa tem leis muito claras acerca da proteção de dados. Quanto à informação que possamos partilhar nestes sítios, estando estes serviços localizados na América do Norte, não sabemos de que forma é utilizada e onde fica alojada. A nossa lei europeia não nos defende disto.
Ah! Tal como nos sistemas anteriores, lamento informar que o output é em português, variante brasileira. Os falantes de português europeu não produzem material suficiente para alimentar estes modelos.
Entre outras funcionalidades, os LLM também servem para fazer pesquisas, a diferença é que os resultados vêm integrados num texto único. Isto aparentemente é uma coisa boa, porque a informação vem já toda resumida.
Mas, muita atenção. Que informação é essa? Qual é o ponto de vista? Eu diria que é um ponto de vista fortemente vinculado à cultura norte-americana.
Pensem bem, estes modelos de linguagem são treinados com conteúdo norte-americano, portanto os resultados vêm contaminados com um ponto de vista local, cheio de enviesamentos e marcas dessa cultura.
Seria importante a Europa e outras regiões entrarem neste jogo e, desta forma, acrescentarem possibilidades aos utilizadores, de maneira a que possam aceder a conteúdos culturalmente variados. Isto sim, promoveria a diversidade e a inclusividade na IA.
Recentemente, Noam Chomsky deu uma entrevista ao New York Times e afirmou que este é o ataque mais radical ao pensamento crítico, à inteligência crítica e particularmente à ciência que alguma vez se viu.
Penso que precisamos de tempo e distância para entender as implicações de tudo isto.
Contudo, isso não significa que não devamos conhecer e tirar partido destas novas tecnologias. Devemos é fazê-lo de uma forma consciente – como diz Chomsky, temos de educar as pessoas para a autodefesa e levá-las as a compreender o que isto é e o que não é.
Tem pensado sobre este assunto? Sente-se preocupado ou curioso? Utiliza ou rejeita? Gostaria de conhecer a sua opinião.