A IA e uma treta

Por: Brian D. Wassom

No momento em que escrevo, a sociedade parece estar algures na fase do quarto encontro da sua relacao com a inteligencia artificial generativa: ainda apaixonada, mas comecando a ficar suficientemente sobria para reconhecer que o objeto do nosso afeto pode nao ser inteiramente digno da nossa confianca. Todos os entusiastas, com excecao dos mais fervorosos, se aperceberam de que nao podemos dar por garantido que tudo o que as aplicacoes de IA nos dizem e verdade. O ChatGPT, o queridinho do momento, por exemplo, responde as nossas perguntas com factos e ficcao com igual gosto. A descricao predominante destes voos de fantasia e "alucinacao" - um termo antropomorfizante que implica que a aplicacao deseja verdadeiramente ser honesta connosco, mas e inadvertidamente impedida por uma ocasional rutura esquizofrenica com a realidade.

Na medida em que esta terminologia transmite que o ChatGPT nao nos esta a mentir intencionalmente, e justo. Mas na medida em que a palavra "alucinacao" implica que a aplicacao esta a dizer a verdade, e materialmente enganadora. Claro que falar de IA como se fosse algo mais pessoal do que a complexa interacao de 1s e 0s e o nosso primeiro erro e a sua propria marca de ficcao. Uma citacao atribuida a Stephen Hawking define "inteligencia" como "a capacidade de se adaptar a mudanca". Por essa medida, os programas de IA actuam de forma inteligente. O que distingue a IA do software comum e a sua capacidade de adaptar a forma como funciona em resposta ao feedback acumulado que recebe de entradas e accoes anteriores. Chamamos a estes processos "aprendizagem automatica" ou "aprendizagem profunda" e as concepcoes de IA mais avancadas sao conhecidas como "redes neuronais" - todos termos inspirados na forma como as mentes humanas funcionam.

Mas estes termos sao mais analogicos do que exactos. A IA nao e - nao pode ser - "inteligente" da mesma forma que um cerebro humano, porque o software nao tem mente. O Merriam Webster define mais detalhadamente "inteligencia" como "a capacidade de aprender ou compreender", "o uso habil da razao" e "a capacidade de aplicar conhecimentos ... ou de pensar abstratamente". As maquinas nao podem fazer nada disto. Se um programa de IA gera dados que correspondem a realidade, isso e o resultado feliz do esforco do seu programador humano. Estes programadores sao como os engenheiros civis que projectam um conjunto complexo de condutas subterraneas com precisao suficiente para garantir que a agua flui apenas para o local desejado. Mas um programa de IA nao sabe que esta a dizer a verdade, tal como um cano nao sabe que esta a distribuir a agua corretamente, porque nao tem uma mente com a qual possa determinar o que e a realidade.

Podemos, pelo menos, confortar-nos com o facto de a IA nao nos poder mentir. Um mentiroso e aquele que reconhece a verdade e opta por enganar o ouvinte, levando-o a acreditar em algo diferente. A IA nao pode "saber" a verdade, por isso nao pode mentir.

Mas tambem nao pode "alucinar", em sentido estrito; alucinar continua a ser percecionar uma realidade, mas nao a realidade atual. Portanto, se - como parece inevitavel - vamos continuar a falar de IA em termos antropomorfizados, devemos pelo menos ser mais precisos. Se nos deixarmos levar por uma compreensao errada da forma como o software funciona, podemos nao compreender o que ele faz por nos e, assim, perder as suas limitacoes e as suas verdadeiras utilidades potenciais. Para esse fim, proponho que a forma mais exacta de descrever o resultado dos programas de IA generativa e - para usar a abreviatura - "BS".

Estou a falar a serio. Num livro de 2005 que se tornou a sua publicacao mais popular, o filosofo americano Harry G. Frankfurt, atualmente com 94 anos, propos-se definir este termo frequentemente utilizado mas mal compreendido. Intitulado On Bullsh*t, o livro postula que "a essencia do [BS] nao e o facto de ser falso, mas o facto de ser falso". Ao contrario de um mentiroso, que esta ativamente "a tentar afastar-nos de uma apreensao correcta da realidade", o artista da BS "nao se preocupa se as coisas que diz descrevem corretamente a realidade. Ele apenas as escolhe, ou inventa, para servir o seu objetivo".

Isto e o mais proximo que podemos chegar de descrever as conversas do ChatGPT connosco. A unica diferenca entre um chatbot e um artista BS humano e que a pessoa o faz intencionalmente. A IA nao tem intencao. Mas isso so reforca a descricao. Como diz Frankfurt, "[BS] e inevitavel sempre que as circunstancias exigem que alguem fale sem saber do que esta a falar." Uma vez que ChatGPT nao pode saber do que esta a falar, nao pode dizer outra coisa que nao BS.

Isto e mais facil de ver no contexto de um chatbot, mas o mesmo principio aplica-se a todas as manifestacoes de IA. Sabe-se que outros programas de IA fazem recomendacoes de tratamentos de saude com base em conclusoes incorrectas retiradas de dados incompletos. Ou decisoes de emprego baseadas em conjuntos de dados que foram distorcidos por discriminacao anterior. Ou para identificar suspeitos de crimes com base em dados de reconhecimento facial que leem mais mal rostos de cor do que rostos brancos. Ou a correcao automatica de palavras que transformam uma mensagem de texto inocente num erro mortificante.

Nenhum destes resultados era inevitavel, nem era intrinsecamente culpa dos proprios programas. As imprecisoes nos resultados da IA podem, e muitas vezes serao, reduzidas por humanos que implementem um codigo mais refinado - tubos mais sofisticados para garantir que a agua vai apenas para onde e suposto e nao para mais lado nenhum. Dito isto, grande parte do espanto e da preocupacao em muitos dos programas de IA mais avancados reside no facto de os seus autores humanos nao saberem como funcionam; a propria IA ha muito que reescreveu o seu proprio codigo tantas vezes que a sua funcao e inescrutavel ate para os seus criadores. A mentira gerou a mentira.

Mas isso nao quer dizer que nao devamos continuar a desenvolver e a utilizar aplicacoes de IA. Pelo contrario, ha pessoas brilhantes a desenvolver aplicacoes uteis e eticas de IA. O poder e a utilidade de tais invencoes nao podem ser negados, desde que continuem a ser ferramentas criadas para o efeito e nao conselheiros de confianca. As solucoes de IA tem de ser implementadas dentro de limites suficientemente restritivos para garantir que o resultado final do programa seja suficientemente suscetivel de se correlacionar com a realidade de modo a ser util (apos analise e revisao por humanos) para o fim a que se destina. Os parametros aceitaveis variam consoante o contexto. E, por vezes, um pouco de BS pode ser uma coisa boa - como quando se utiliza o ChatGPT para fazer um brainstorming sobre como fazer uma reuniao parecer interessante, ou quando se confia no Midjourney para apresentar imagens espantosas e inspiradoras, mesmo que as pessoas nelas acabem com alguns dedos a mais.

Mas a velocidade vertiginosa da adocao da IA em praticamente todos os sectores economicos ao mesmo tempo, juntamente com a admiracao sem folego com que os vendedores e os gestores de nivel intermedio falam do potencial destas aplicacoes, continua a ser um motivo de grande preocupacao. Mesmo que uma parte da nossa consciencia social saiba que nao deve confiar na IA, ainda ha demasiados de nos a serem seduzidos pela sua conversa de almofada.

As ferramentas alimentadas por IA serao uteis para uma gama cada vez mais vasta de aplicacoes que informam e ajudam a tomada de decisoes humanas, mas devem ser sempre utilizadas por humanos que exercem um julgamento independente. "O [artista da BS] ... nao rejeita a autoridade da verdade, como faz o mentiroso .... Ele nao presta nenhuma atencao a ela. Em virtude disso, [BS] e um inimigo maior da verdade do que a mentira", alertou Frankfurt. Na medida em que nos permitimos, a nos proprios ou as nossas empresas, confiar acriticamente na IA generativa como fonte de verdade, acabaremos por nos arrepender.