O futuro é assustador, mas será o presente "maior roubo da História"?

Agora que já falamos disto como uma realidade do presente, a Inteligência Artificial (IA) está a dar-nos novos pesadelos e muito mais cedo neste século XXI do que esperávamos. Tal como um buraco negro no Cosmos (uma singularidade do espaço e do tempo que absorve toda a matéria – incluindo a luz à sua volta), o momento em que a IA ultrapassar a inteligência humana será uma ‘singularidade’ na história da civilização humana.

Após este ponto preciso tudo mudará, nada será previsível, e este novo super cérebro digital poderá pôr fim à era humana, escreveu num famoso ensaio de 1993 Vernor Vinge, cientista e autor de ficção científica. Isso poderá acontecer entre 2005 e 2030, previu, na altura. O físico inglês Stephen Hawking expressou preocupações semelhantes antes de morrer, temendo que a humanidade criasse um Frankenstein digital que irá matar o seu criador. 

E no mês passado, com a explosão da popularidade do ChatGPT – o chatbot da OpenAI que não é senão a ponta do iceberg de tudo o que já existe – um grupo de diversas figuras pediram que se parasse as experiências de IA durante seis meses para criar salvaguardas e limites às capacidades de modelos mais avançados.

Entre os signatários da carta aberta do Instituto do Futuro da Vida (Future of Life Institute) não se encontram pessoas avessas ao progresso tecnológico, mas figuras como o CEO da SpaceX e do Twitter, Elon Musk, o co-fundador da Apple, Steve Wozniak, ou o historiador Yuval Noah Harari, que escreveu obras vendidas aos milhões sobre a história da humanidade e uma dissertação sobre o futuro da civilização – Homo Deus. No site do Centro de Estudo para Riscos Existenciais, da Universidade de Cambridge, em Inglaterra, a carta com o pedido para parar para pensar no que nos estamos a meter está disponível para ser assinada. Na passada terça-feira já tinha mais de 27 mil subscritores. 

UE pede cimeira e prepara a primeira lei da IA

Com quase o mesmo nível de alarme, a União Europeia criou um grupo de estudo (task force) dedicado ao ChatGPT, que após ter sido lançado em novembro do ano passado pela norte-americana OpenAI se tornou um brinquedo, por enquanto gratuito, na mão de todos nós. Já em abril de 2021 – quando a discussão parecia prematura – a Comissão Europeia apresentou uma proposta de lei sobre IA cuja redação está a ocupar os legisladores do Parlamento Europeu.

De acordo com a Comissão, esta lei será a primeira a nível mundial para conter os riscos de a IA ser usada para o mal. Entretanto, os relatores da proposta de lei e mais 10 eurodeputados prometeram, numa carta aberta, que irão assegurar que os novos e muito poderosos modelos de IA serão obrigados a ser concebidos "numa perspetiva humana, segura e de confiança". E foram os próprios relatores do PE que pediram que os dois blocos geopolíticos, os Estados Unidos e a União Europeia, fizessem uma cimeira para juntar forças para encontrar soluções mundiais. O pedido foi endereçado a Ursula von der Leyen, presidente da Comissão Europeia, e ao presidente dos EUA, Joe Biden.

Os eurodeputados disseram que o documento do Instituto para o Futuro da Vida os inspirou. "Partilhamos algumas das preocupações expressas nessa carta", embora tenham sublinhado que discordam "de algumas das afirmações mais alarmistas". Mas a mensagem de fundo é a mesma: "com a rápida evolução de uma poderosa IA, vemos a necessidade de atenção política significativa". 

Há pouco mais de uma semana, Geoffrey Hinton, considerado um dos padrinhos da IA, despediu-se da Google onde estava a desenvolver a tecnologia, para poder livremente falar dos perigos do crescimento da IA. Fez uma conferência no MIT (Massachusetts Institute of Technology) onde disse recear já não haver maneira de travar o que está a ser feito e que as máquinas podem vir a dominar o homem, criando grandes níveis de sofrimento, mentiras e conflito e desemprego em massa. E mostrou arrependimento de ter lançado as primeiras redes neuronais (que funcionam como um cérebro), numa universidade de Toronto, com dois alunos, em 2012. Mas o mal está feito, e concluiu que se não fosse ele a fazê-lo seria outro. E para Hinton, a Google tem sido uma das responsáveis por libertar esta nova criatura sem rédeas.

Acabar um conto de Hemingway. O rombo nas profissões criativas

Mas nem todos partilham desta visão catastrofista de um futuro em que um cérebro digital escravizará ou levará a humanidade ao extermínio. Muitos focam-se no presente. Ou num futuro muito próximo. Numa edição recente do célebre programa '60 Minutos'', da cadeia norte-americana CBS, o CEO da Google e da empresa-mãe Alphabet, Sundar Pichai, explicou ao jornalista que os trabalhadores inicialmente mais afetados serão os das profissões criativas como os escritores e arquitetos, mas também contabilistas e, ironicamente, engenheiros de software. "Porque a IA consegue escrever código", explicou.

Para testar a sua competência criativa, o jornalista pediu ao chatbot da Google, o Bard, para acabar o que é conhecido como o conto mais pequeno da história da literatura, atribuído a Hemingway. Em segundos, Bard, criou um desfecho comovente para o conto de seis palavras "For sale: baby shoes. Never worn" ("À venda: sapatos de bebé. Nunca usados", na tradução portuguesa. Um desfecho como se conhecesse a dor humana, numa velocidade 100 mil vezes maior do que a de qualquer escritor, sublinhou o jornalista.

O Bard não conhece a alma humana, mas leu tudo o que foi escrito e consegue prever o que deve dizer a seguir copiando o funcionamento de um cérebro a uma velocidade infinitamente maior. Mas o que lhe foi dado a conhecer para ser capaz de rivalizar com um Nobel da Literatura, não é inocente. O jornal The Washington Post investigou e traçou o que alimentou os mais populares softwares de conversa gerados por IA e há de tudo. Desde a Wikipedia a imensos sites jornalísticos (pirateando o trabalho jornalístico sem consentimento), e passando por sites radicais problemáticos.

IA vai passar muitos dias em tribunal

Num artigo escrito esta semana no jornal The Guardian, a escritora Naomi Klein desenvolve a ideia de que a IA generativa (que consegue criar conteúdos, incluindo imagens, textos, vídeos) é "o maior roubo da história da Humanidade". Porque o que vemos, diz Klein - que se notabilizou a escrever sobre temas ligados à justiça climática - é que "as mais poderosas empresas da História (Microsoft, Apple, Google, Meta, Amazon...) estão unilateralmente a aproveitar-se da soma total do conhecimento humano que existe nos formatos digitais, condensando-os nos seus produtos exclusivos, muitos dos quais irão ser virados contra os humanos cujo trabalho de uma vida treinaram estas máquinas, sem lhes terem dado consentimento. Isto não devia ser legal", escreveu.

Ao programa '60 Minutos', um responsável da Google explica que o Bard, o chatbot do motor de busca mais usado no mundo (o Google é usado para 90% das pesquisas na internet), explicou que “durante muitos meses, Bard leu tudo na internet e criou um modelo de linguagem. Agora, em vez de procurar na internet, as respostas surgem deste modelo de linguagem que o mesmo criou”. 

Muitos processos legais já começaram a ser instaurados contra modelos de IA que estão a fazer este plágio gigante e a apropriar-se de direitos de autor, através desta coleta massiva de informação na internet. Naomi Klein refere a pintora e ilustradora Molly Crabapple, que está a liderar o movimento. Numa carta aberta publicada a 2 de maio, pede-se que as ilustrações geradas por inteligência artificial não sejam publicadas.

"Paguem aos argumentistas ou estragamos a [série] Sucessão"

Os argumentos são de que "as imagens artísticas geradas por IA são treinadas em bases de dados gigantescas, contendo milhões de imagens com copyright, recolhidas sem o conhecimento dos seus autores, quanto mais tendo em conta compensação ou consentimento. Isto é efetivamente o maior assalto da História. Perpetrado por empresas aparentemente respeitadas financiadas por capital de Silicon Valley. É um assalto à luz do dia". E isto, dizem os signatários de uma lista que cresce todos os dias, já tirou o emprego a ilustradores que habitualmente publicavam os seus trabalhos em capas de livros e ilustração de artigos.

Atualmente, há uma greve de argumentistas de Hollywood que estão a exigir que os patrões dos estúdios e das produtoras de televisão se inibam de usar modelos de IA predadores da criatividade humana. Um dos manifestantes em Los Angeles empunhava um cartaz que dizia: "paguem aos argumentistas, ou estragamos a Sucessão [a popular série da HBO]". No inglês a palavra spoil tem um duplo sentido; também significa anunciar o desfecho antes do tempo, estragando o prazer da narrativa para quem ainda não viu.

Praça financeira do Luxemburgo: 10% menos custos, 10% mais lucros

Uma das premissas mais comuns e que resulta do impacto que o ChatGPT teve na sociedade nestes últimos cinco meses é de que a IA vai mudar a nossa vida, em todos os setores. E que alguém vai ganhar com isto. No dia 3 de maio, foi publicado um documento de 50 páginas sobre o impacto da IA no sistema financeiro luxemburguês, um dos pilares da economia do país.

A sondagem da Comissão de Vigilância do Sector Financeiro (CSSF) e da Banca Central do Luxemburgo, foi conduzida entre outubro de 2021 e janeiro de 2022, ou seja, foi publicada mais de 15 meses após a recolha de dados. "E 15 meses num universo onde cada dia que passa traz novas soluções, é muito tempo", diz o site Paperjam, que publica as conclusões do primeiro estudo deste género. Mas mesmo assim, entre elas, reconhece-se que "os estabelecimentos luxemburgueses que usam IA estão conscientes dos riscos específicos ligados a esta tecnologia. Estes resultados confirmam a importância de continuar a levar em conta as recomendações incluídas no livro branco da CSSF ao mesmo tempo, aguardando a regulamentação da Comissão Europeia sobre harmonização da IA".

A maioria das 138 instituições do setor financeiro que responderam ao inquérito estima que a adoção destas tecnologias permitiu-lhes reduzir os custos até 10%. E 86% dos inquiridos acreditam que a IA lhes permitirá aumentar os lucros em 10% nos próximos três a cinco anos.

As alucinações da IA: errar com confiança

Além da questão problemática de os chatbots "lerem tudo o que há" para criarem os seus novos produtos, há outra que poderá ser ainda mais perturbante e devastadora para a sociedade. O jornalista do '60 Minutos' pediu ao Bard ajuda para o tema da inflação e recebeu a recomendação de cinco livros a ler sobre o assunto. As obras recomendadas pura e simplesmente não existem. Na gíria dos entendidos de IA, o que acontece é que estes modelos produzem 'alucinações', ou seja, 'erros espalhados com confiança', ou, se formos menos generosos, mentiras descaradas.

"Ainda ninguém neste campo resolveu este problema", explicou Pichai. Estes grandes modelos de linguagem, ainda na sua forma incipiente, divertem-se a mentir. Como os humanos, aparentemente. Ninguém consegue prever que tipo de 'fake news' e falsas imagens podem chegar a produzir. Mas há o perigo de no futuro não se distinguir a verdade da mentira. "O problema das notícias e imagens falsas será maior. Vai ser fácil para um modelo de IA pôr-me a dizer coisas que eu nunca disse", admitiu o CEO da Google.

O Bard está em teste, neste momento só disponível para utilizadores nos EUA e no Reino Unido. Mas nas FAQ (Perguntas Mais Frequentes) refere-se que ele pode ser "pouco credível" e é preciso confirmar a veracidade das respostas, mas, "com o seu feedback, o Bard fica melhor a cada dia".

Os próprios modelos de chatbots (os que interagem com humanos para criação de conteúdos) têm funcionalidades e capacidades de aprender, que nem os seus criadores percebem como funcionam. Apesar de as tecnológicas de Silicon Valley terem lançado para a praça pública estes novos frankensteins que já nas suas primeiras frágeis versões parecem tomar uma vida própria, o CEO da Google responde com candura: "Deixe-me pôr a questão desta maneira: nós também não sabemos muito bem como funciona o cérebro humano".

Para o responsável, atirar a IA para o meio do circo humano, serve, disse, "para abrir o debate e é importante que ele exista". "Estamos a lançar isto suavemente para conseguir ter o feedback da sociedade para ter redes de segurança antes de lançarmos versões mais avançadas". Seja como for, dizem os donos das caixas de ferramentas mais poderosas do mundo, a revolução está aí, mais depressa do que estávamos à espera.