A alucinação colectiva da IA (2)

Nota: a 1ª parte deste post encontra-se aqui.

Um primeiro aspecto que alguns destes autores questionam é o próprio uso da palavra ‘inteligência’ no contexto destas ferramentas computacionais. O cientista informático e músico norte-americano Jaron Lanier alerta (em ‘There is no AI’) para os equívocos em volta do termo ‘IA’, que considera enganoso: “A posição mais pragmática é pensar na IA como uma ferramenta, não como uma ‘criatura’. Esta minha atitude não elimina a existência de perigos: independentemente da nossa abordagem, podemos de facto conceber e operar mal a nossa nova tecnologia, de formas que nos podem prejudicar ou mesmo levar à nossa extinção. Mitologizar a tecnologia apenas aumenta a probabilidade de não conseguirmos operá-la bem – e este tipo de pensamento limita a nossa imaginação, ligando-a aos sonhos do passado. Podemos trabalhar melhor partindo do pressuposto de que IA é algo que não existe. Quanto mais cedo compreendermos isto, mais cedo começaremos a gerir a nossa nova tecnologia de forma inteligente.” Lanier prefere ver a IA como uma forma de colaboração social entre seres humanos e máquinas: “Encarar a IA como uma forma de trabalhar em conjunto, e não como uma tecnologia para criar seres independentes e inteligentes, pode torná-la menos misteriosa (…) Mas isso é bom, porque o mistério só aumenta a probabilidade de má gestão.” Já o médico e cientista brasileiro Miguel Nicolelis afirma (numa entrevista) que: “A inteligência é algo restrito aos organismos porque ela é uma propriedade emergente da interação de seres vivos com o seu ambiente. A inteligência resulta no processo de seleção natural, é a forma pela qual os organismos conseguem sobreviver às vicissitudes de um ambiente em contínua modificação (…) O termo inteligência é inapropriado [para] os sistemas computacionais porque eles não preenchem a definição clássica de inteligência (…) E ela não é artificial porque ela é criada por seres humanos, ela não vem do nada, não cai do céu. A inteligência que existe nessa área é a inteligência dos programadores e das pessoas que geram esses sistemas”. Nicolelis vaticina ainda que: “O ChatGPT vai ter uma morte tão rápida quanto ele teve de subida. Todos esses sistemas são movidos a hype e a marketing”. Por seu lado, o artista e escritor britânico James Bridle, que também defende que a inteligência é uma característica dos sistemas vivos e o termo não devia ser usado no contexto da IA, escreve (em ‘The stupidity of AI’) acerca do ChatGPT: “É muito bom a produzir o que parece fazer sentido e, melhor ainda, a produzir clichés e banalidades, que compõem a maior parte da sua dieta, mas permanece incapaz de se relacionar de forma significativa com o mundo real. (…) A crença neste tipo de IA como realmente inteligente ou relevante é efectivamente perigosa. Corre o risco de contaminar a nossa fonte de pensamento colectivo e a nossa capacidade de pensar. (…) Colocar toda a nossa confiança nos sonhos de máquinas mal programadas seria abandonar a nossa capacidade como indivíduos de pesquisar e avaliar criticamente o conhecimento por nós próprios. (…) É difícil pensar em algo mais estúpido do que a inteligência artificial, tal como é praticada na era atual: (…) poderosa tecnologia de classificação e comunicação de informações que nos explora, nos usa indevidamente, nos engana e nos suplanta.” Sobre a diferença entre os actuais desenvolvimentos da IA e os sistemas computacionais rudimentares, Bridle escreve: “As primeiras IAs não sabiam muito sobre o mundo e os departamentos académicos não tinham o poder computacional para explorá-las em grande escala. A diferença hoje não é inteligência, mas sim dados e o poder. As grandes empresas tecnológicas passaram 20 anos a recolher grandes quantidades de dados da cultura e da vida quotidiana e a construir centros de processamento vastos e ávidos de energia, cheios de computadores cada vez mais potentes para os processar.” Bridle alerta ainda para as diferenças entre os sistemas de IA e a inteligência humana: “Não podemos perscrutar os seus processos de tomada de decisão porque a forma como estas redes neuronais ‘pensam’ é inerentemente desumana. É o produto de uma ordenação matemática incrivelmente complexa do mundo, em oposição à forma histórica e emocional como os humanos ordenam o seu pensamento.”

Lanier em conjunto com Glen Weyl, assim como o académico Leif Weatherby, destacam outro aspecto relevante: a IA não é uma mera ferramenta tecnológica neutra, mas é de facto uma poderosa ferramenta ideológica e cultural. Lanier e Weyl escrevem (em ‘AI is an Ideology, Not a Technology’): “A IA é melhor entendida como uma ideologia política e social e não como um conjunto de algoritmos. O cerne da ideologia é que um conjunto de tecnologias, concebido por uma pequena elite técnica, pode e deve tornar-se autónomo e eventualmente substituir, em vez de complementar, não apenas os seres humanos individuais, mas grande parte da humanidade. Dado que qualquer substituição deste tipo é uma miragem, esta ideologia tem fortes ressonâncias com outras ideologias históricas, como a tecnocracia e as formas de socialismo baseadas no planeamento central, que consideravam desejável ou inevitável a substituição da maior parte do julgamento/agência humana por sistemas criados por uma pequena elite técnica.” Por seu lado, Weatherby (em ‘O ChatGPT é uma máquina de ideologia’) alerta para a natureza do processamento de informação (modelos estatísticos de agregação de dados) pelos ‘chatbots’ que os torna veículos de ideologia: “os sistemas GPT, porque automatizam uma função muito próxima do nossa noção do que significa ser humano, podem produzir mudanças na própria forma como pensamos sobre as coisas. O controlo sobre a forma como pensamos sobre as coisas chama-se ‘ideologia’, e os sistemas de GPT envolvem-na direta e quantitativamente de uma forma sem precedentes.”

Um outro aspecto que é enfatizado, quer por Naomi Klein, quer por James Bridle, mas também no documentário da VPRO citado acima, é o carácter extractivista dos sistemas de IA, num contexto económico que privilegia o poder e a riqueza hiperconcentrados e que tem como objectivo a maximização do lucro e não o bem comum. Klein escreve: “Existe um mundo em que a IA generativa, como uma poderosa ferramenta de pesquisa preditiva e executora de tarefas entediantes, poderia, de facto, ser organizada para beneficiar a humanidade, as outras espécies e a nossa casa comum. Mas, para isso acontecer, essas tecnologias teriam de ser implantadas dentro de uma ordem económica e social muito diferente da nossa, que tivesse como propósito atender às necessidades humanas e proteger os sistemas planetários que sustentam toda a vida.” Sobre as promessas fantasiosas em relação às façanhas futuras da IA (que apelida de alucinações utópicas), Klein afirma: “são as histórias de capa poderosas e atraentes para o que pode vir a ser o maior e mais importante roubo da história da humanidade. Porque o que estamos a testemunhar são as empresas mais ricas da história (Microsoft, Apple, Google, Meta, Amazon …) a apoderar-se unilateralmente da soma total do conhecimento humano que existe em formato digital, na internet, e a capturá-la dentro de produtos privados, muitas vezes visando diretamente os humanos cuja vida inteira de trabalho serviu para treinar as máquinas sem que para tal fosse dada qualquer permissão ou consentimento.” E conclui: “aquilo que aconteceu com o exterior das nossas casas [por via do Google Street View] está a acontecer com as nossas palavras, as nossas imagens, as nossas músicas, toda a nossa vida digital. Todos estão a ser capturados e usados para treinar as máquinas para simular o pensamento e a criatividade.” Por seu lado, James Bridle escreve: “Todo o tipo de IA disponível publicamente, quer funcione com imagens ou palavras, (…) baseia-se nesta apropriação generalizada da cultura existente, cujo âmbito mal podemos compreender. (…) longe de serem criações mágicas e inovadoras de máquinas brilhantes, os resultados deste tipo de IA dependem inteiramente do trabalho não creditado e não remunerado de gerações de artistas humanos. A geração de imagens e textos por IA é pura acumulação primitiva: expropriação de mão-de-obra de muitos para o enriquecimento e avanço de algumas empresas tecnológicas de Silicon Valley e dos seus proprietários bilionários.” O documentário 'The cost of AI' (VPRO) destaca a dependência energética dos servidores de processamento de dados e mostra ainda a exploração dos trabalhadores de países do Sul global que são contratados para fazer a triagem de dados pelas empresas que desenvolvem sistemas de IA.

Em ‘AI and the threat of «human extinction»’ o filósofo e historiador norte-americano Émile P. Torres alerta para outra faceta preocupante do rápido desenvolvimento de sistemas de IA: a promoção da visão de mundo tecno-utópica dos (alucinados) trans-humanistas. De facto, Torres reconhece o risco existencial da IA se virar contra os seus criadores mas alerta para o facto de que, para muitos especialistas que professam as premissas do trans-humanismo, o mal que viria para a humanidade seria a impossibilidade de realização do seu verdadeiro potencial tecno-utópico e de expansão extraplanetária: “Trans-humanistas proeminentes sugerem que o fracasso na criação de uma nova espécie pós-humana seria uma enorme tragédia moral, uma vez que significaria que não conseguiríamos cumprir o nosso grande ‘potencial’ cósmico no universo.” Os trans-humanistas vêem a natureza humana como um projecto em curso, em que os seres humanos podem ser melhorados e aperfeiçoados graças a várias tecnologias (biotecnologia, nanotecnologia e tecnologias digitais). Para eles a humanidade actual não é o ponto final da evolução e esperam que, através do uso responsável da ciência, da tecnologia e de outros meios racionais, nos conseguiremos eventualmente tornar pós-humanos, seres com capacidades muito maiores do que os actuais (e imperfeitos) Homo sapiens. Alguns trans-humanistas, como William MacAskill (autor de ‘What We Owe the Future’), chegam mesmo a sugerir que a nossa destruição do mundo natural pode na verdade ser positiva, o que aponta para uma questão mais ampla sobre se a vida biológica em geral - e não apenas o Homo sapiens em particular - tem algum lugar no futuro ‘utópico’ do trans-humanismo. Isto sim, parece-me uma verdadeira alucinação! Torres resume assim a visão trans-humanista: “no seu cerne está uma visão tecno-utópica do futuro em que reprojetamos a humanidade, colonizamos o espaço, saqueamos o cosmos e estabelecemos uma civilização intergaláctica em expansão, cheia de trilhões e trilhões de pessoas "felizes", quase todas elas "vivendo" dentro de enormes simulações de computador. No processo, todos os nossos problemas serão resolvidos e a vida eterna tornar-se-á uma possibilidade real.” Para Torres, os trans-humanistas estão, no entanto, presos numa ‘pescadinha-de-rabo-na-boca’ (‘catch-22’): “provavelmente precisaremos de construir uma AGI [sigla inglesa de Inteligência Artificial Geral] para criar a utopia, mas se nos apressarmos a construí-la sem as devidas precauções, tudo poderá explodir na nossa cara. É por isso que estão preocupados: só há um caminho a seguir, mas o caminho para o paraíso está minado.”

No seu artigo de opinião para a revista Resilience ('If you're driving off a cliff, do you need a faster car?'), Richard Heinberg (membro-sénior do Post Carbon Institute) começa por referir-se aos riscos já identificados da IA (ou da AGI), assim como às declarações e avisos recentes dos empresários e especialistas das BigTech. Sem menosprezar algumas das preocupações veiculadas, Heinberg chama a atenção para outro perigo iminente: “Mesmo que (…) a IA não acabe com toda a vida na Terra, os seus perigos potenciais não se limitam a empregos perdidos, notícias falsas e factos alucinados. Há outro risco profundo que tem recebido pouca cobertura dos media – um risco que, na minha opinião, os pensadores sistémicos deveriam discutir mais amplamente. Essa é a probabilidade de que a IA seja um acelerador significativo de tudo o que nós, humanos, já fazemos.” Heinberg refere-se à chamada ‘Grande Aceleração’ da 2ª metade do século XX, correspondente ao maior crescimento económico e populacional de sempre, alavancada por diversos ‘aceleradores’, como os combustíveis fósseis, a ‘Revolução Verde’ na agricultura e os avanços nas tecnologias de informação. Embora economistas e governantes ortodoxos enalteçam estas façanhas, as ‘faturas’ desses alegados sucessos surgem agora para nos assombrar a todos: “A agricultura industrial está a destruir as camadas superficiais de solo fértil da Terra a uma taxa de dezenas de milhares de milhões de toneladas por ano. A natureza selvagem está em retração, tendo as espécies animais perdido, em média, 70% do seu número no último meio século. E estamos a alterar o clima planetário de formas que terão repercussões catastróficas para as gerações futuras. É difícil evitar a conclusão de que todo o empreendimento humano cresceu demasiado e que está a transformar a natureza (‘os recursos’) em desperdício e poluição demasiado rapidamente para se sustentar.” E a IA poderá ser afinal mais um novo ‘acelerador’ daquela destruição: “Esta tecnologia promete optimizar a eficiência e aumentar os lucros, facilitando direta ou indiretamente a extração e o consumo de recursos. Se realmente nos estivermos a dirigir para um precipício, a IA poderá levar-nos ao limite muito mais rapidamente, reduzindo o tempo disponível para mudar de direção.” Segundo Heinberg, a IA pode também ser um acelerador das nossas dependências das tecnologias digitais, provocando uma estupidificação acrescida das pessoas, assim como uma maior sujeição a quem controla aquelas tecnologias: “A IA (…) apresenta o risco de um maior embrutecimento da humanidade – exceto, talvez, para aqueles que optarem por implantar um computador nos seus cérebros. E há também o risco de que as pessoas que desenvolvem ou produzem estas tecnologias controlem praticamente tudo o que sabemos e pensamos, na busca do seu próprio poder e lucro.” Heinberg sugere que o que falta aos sistemas de IA é uma faceta-chave da consciência humana, a sabedoria (‘wisdom’), ou seja, “um reconhecimento dos limites, aliado a uma sensibilidade às relações e aos valores que priorizam o bem comum.” O perigo que daí advém é claro: “justamente no momento em que mais precisávamos de travar o uso de energia e o consumo de recursos, estamos a externalizar [‘outsource’] não apenas o processamento de informação, mas também a nossa tomada de decisões, em máquinas que carecem completamente de sabedoria para compreender e responder aos desafios existenciais que a aceleração apresenta. Criámos um verdadeiro ‘aprendiz de feiticeiro’.” Heinberg considera diferentes hipóteses de voltar a meter o génio na lâmpada de onde o deixámos sair – que vão desde desligar pura e simplesmente todos os sistemas de IA, a imbuir a IA da sabedoria que lhe falta. Mas em todas encontra limitações. Sugere então que a única saída será promover uma cultura de sabedoria colectiva enquanto ainda há tempo: “Ou recuperamos a sabedoria coletiva mais depressa do que as nossas máquinas conseguem desenvolver inteligência artificial executiva, ou provavelmente será o fim da partida [‘game over’].”

Num outro artigo de opinião ('To counter AI risk we must develop an integrated intelligence'), o autor britânico Jeremy Lent adopta uma postura semelhante à de Heinberg, considerando que existem diversos riscos associados ao desenvolvimento da IA, munida essencialmente de uma inteligência analítica, mas que o antídoto mais potente corresponde à capacidade integrativa da inteligência humana que permite estabelecer relações de empatia com as outras formas de vida e o ambiente: “O aumento explosivo do poder da IA representa um risco existencial para a humanidade. Para contrariar esse risco, e potencialmente redireccionar a trajectória da nossa civilização, precisamos de uma compreensão mais integrada da natureza da inteligência humana e dos requisitos fundamentais para o florescimento humano.” Lent defende que os sistemas de IA se baseiam essencialmente numa forma de inteligência analítica e racional que é boa a executar tarefas repetitivas e cálculos elaborados, mas que tende a transmitir uma imagem utilitarista e limitada do mundo. Pelo contrário, a inteligência humana integra duas formas complementares de consciência, uma mais racional (‘conceptual’) e outra mais sensível e intuitiva (‘animate’). Lent escreve: “a inteligência maquinal é na verdade puramente analítica. Não tem nenhuma estrutura que o ligue à vibrante senciência da vida. Independentemente do seu nível de sofisticação e potência, nada mais é do que um dispositivo de reconhecimento de padrões. Os teóricos da IA tendem a pensar na inteligência como independente do substrato – o que significa que o conjunto de padrões e ligações que a compõem poderia, em princípio, ser separado da sua base material e replicado exatamente noutro lugar, como quando se migram os dados de um computador antigo para um novo. Isso é verdade para a IA, mas não para a inteligência humana.”

Sem querer resumir todos os diferentes pontos de vista que partilhei até agora, poderia dizer que a IA é uma extensão de um paradigma social e cultural que acredita, quase cegamente, nas potencialidades da mente racional humana e na sua capacidade de criação de novas tecnologias benignas – uma versão depurada do excepcionalismo humano ou do antropocentrismo arrogante. Parece-me tratar-se mais de uma manifestação de entrega a uma certa estupidez natural (ou 'esperteza saloia') do que de verdadeira inteligência (artificial ou não). Desprovida principalmente da sabedoria a que se refere Heinberg ou da responsabilidade humana a que se referem Lanier e Weyl. Recupero as palavras de James Bridle que abrem este post: “Podemos imaginar tecnologias poderosas de processamento e comunicação de informação que não nos explorem, não nos utilizem indevidamente, não nos enganem e não nos suplantem? Sim, podemos – assim que sairmos das redes de poder corporativo que definiram a atual onda de IA.”. E concluo com as palavras que rematam o artigo de Jeremy Lent: “Diz-se por vezes que o que é necessário para unir a humanidade é uma flagrante ameaça comum, tal como uma hipotética espécie alienígena hostil que chega à Terra ameaçando-nos de extinção. Talvez esse momento esteja agora prestes a chegar – com uma inteligência alienígena emergindo das nossas próprias maquinações. Se houver esperança real para um futuro positivo, ela emergirá da nossa compreensão de que, como seres humanos, somos seres conceptuais e animados, e estamos profundamente conectados com toda a vida neste precioso planeta – e que coletivamente temos a capacidade de desenvolver uma civilização verdadeiramente integradora, que estabeleça as condições para que toda a vida floresça numa Terra regenerada.”