A alucinação colectiva da IA (2)

Nota: a 1ª parte deste post encontra-se aqui.

AI turns out not to be a divine machine, but an industry that takes blood, sweat and metals. A system of extraction and exploitation on an industrial scale with dire consequences for the earth and humans. Documentário ‘The cost of AI’ (VPRO, 2023)

AI image and text generation is pure primitive accumulation: expropriation of labour from the many for the enrichment and advancement of a few Silicon Valley technology companies and their billionaire owners. James Bridle (daqui)

Can we imagine powerful information sorting and communicating technologies that don’t exploit, misuse, mislead and supplant us? Yes, we can – once we step outside the corporate power networks that have come to define the current wave of AI. James Bridle (daqui)

Um primeiro aspecto que alguns destes autores questionam é o próprio uso da palavra ‘inteligência’ no contexto destas ferramentas computacionais. O cientista informático e músico norte-americano Jaron Lanier alerta (em ‘There is no AI’) para os equívocos em volta do termo ‘IA’, que considera enganoso: “A posição mais pragmática é pensar na IA como uma ferramenta, não como uma ‘criatura’. Esta minha atitude não elimina a existência de perigos: independentemente da nossa abordagem, podemos de facto conceber e operar mal a nossa nova tecnologia, de formas que nos podem prejudicar ou mesmo levar à nossa extinção. Mitologizar a tecnologia apenas aumenta a probabilidade de não conseguirmos operá-la bem – e este tipo de pensamento limita a nossa imaginação, ligando-a aos sonhos do passado. Podemos trabalhar melhor partindo do pressuposto de que IA é algo que não existe. Quanto mais cedo compreendermos isto, mais cedo começaremos a gerir a nossa nova tecnologia de forma inteligente.” Lanier prefere ver a IA como uma forma de colaboração social entre seres humanos e máquinas: “Encarar a IA como uma forma de trabalhar em conjunto, e não como uma tecnologia para criar seres independentes e inteligentes, pode torná-la menos misteriosa (…) Mas isso é bom, porque o mistério só aumenta a probabilidade de má gestão.” Já o médico e cientista brasileiro Miguel Nicolelis afirma (numa entrevista) que: “A inteligência é algo restrito aos organismos porque ela é uma propriedade emergente da interação de seres vivos com o seu ambiente. A inteligência resulta no processo de seleção natural, é a forma pela qual os organismos conseguem sobreviver às vicissitudes de um ambiente em contínua modificação (…) O termo inteligência é inapropriado [para] os sistemas computacionais porque eles não preenchem a definição clássica de inteligência (…) E ela não é artificial porque ela é criada por seres humanos, ela não vem do nada, não cai do céu. A inteligência que existe nessa área é a inteligência dos programadores e das pessoas que geram esses sistemas”. Nicolelis vaticina ainda que: “O ChatGPT vai ter uma morte tão rápida quanto ele teve de subida. Todos esses sistemas são movidos a hype e a marketing”. Por seu lado, o artista e escritor britânico James Bridle, que também defende que a inteligência é uma característica dos sistemas vivos e o termo não devia ser usado no contexto da IA, escreve (em ‘The stupidity of AI’) acerca do ChatGPT: “É muito bom a produzir o que parece fazer sentido e, melhor ainda, a produzir clichés e banalidades, que compõem a maior parte da sua dieta, mas permanece incapaz de se relacionar de forma significativa com o mundo real. (…) A crença neste tipo de IA como realmente inteligente ou relevante é efectivamente perigosa. Corre o risco de contaminar a nossa fonte de pensamento colectivo e a nossa capacidade de pensar. (…) Colocar toda a nossa confiança nos sonhos de máquinas mal programadas seria abandonar a nossa capacidade como indivíduos de pesquisar e avaliar criticamente o conhecimento por nós próprios. (…) É difícil pensar em algo mais estúpido do que a inteligência artificial, tal como é praticada na era atual: (…) poderosa tecnologia de classificação e comunicação de informações que nos explora, nos usa indevidamente, nos engana e nos suplanta.” Sobre a diferença entre os actuais desenvolvimentos da IA e os sistemas computacionais rudimentares, Bridle escreve: “As primeiras IAs não sabiam muito sobre o mundo e os departamentos académicos não tinham o poder computacional para explorá-las em grande escala. A diferença hoje não é inteligência, mas sim dados e o poder. As grandes empresas tecnológicas passaram 20 anos a recolher grandes quantidades de dados da cultura e da vida quotidiana e a construir centros de processamento vastos e ávidos de energia, cheios de computadores cada vez mais potentes para os processar.” Bridle alerta ainda para as diferenças entre os sistemas de IA e a inteligência humana: “Não podemos perscrutar os seus processos de tomada de decisão porque a forma como estas redes neuronais ‘pensam’ é inerentemente desumana. É o produto de uma ordenação matemática incrivelmente complexa do mundo, em oposição à forma histórica e emocional como os humanos ordenam o seu pensamento.”

Lanier em conjunto com Glen Weyl, assim como o académico Leif Weatherby, destacam outro aspecto relevante: a IA não é uma mera ferramenta tecnológica neutra, mas é de facto uma poderosa ferramenta ideológica e cultural. Lanier e Weyl escrevem (em ‘AI is an Ideology, Not a Technology’): “A IA é melhor entendida como uma ideologia política e social e não como um conjunto de algoritmos. O cerne da ideologia é que um conjunto de tecnologias, concebido por uma pequena elite técnica, pode e deve tornar-se autónomo e eventualmente substituir, em vez de complementar, não apenas os seres humanos individuais, mas grande parte da humanidade. Dado que qualquer substituição deste tipo é uma miragem, esta ideologia tem fortes ressonâncias com outras ideologias históricas, como a tecnocracia e as formas de socialismo baseadas no planeamento central, que consideravam desejável ou inevitável a substituição da maior parte do julgamento/agência humana por sistemas criados por uma pequena elite técnica.” Por seu lado, Weatherby (em ‘O ChatGPT é uma máquina de ideologia’) alerta para a natureza do processamento de informação (modelos estatísticos de agregação de dados) pelos ‘chatbots’ que os torna veículos de ideologia: “os sistemas GPT, porque automatizam uma função muito próxima do nossa noção do que significa ser humano, podem produzir mudanças na própria forma como pensamos sobre as coisas. O controlo sobre a forma como pensamos sobre as coisas chama-se ‘ideologia’, e os sistemas de GPT envolvem-na direta e quantitativamente de uma forma sem precedentes.”

Um outro aspecto que é enfatizado, quer por Naomi Klein, quer por James Bridle, mas também no documentário da VPRO citado acima, é o carácter extractivista dos sistemas de IA, num contexto económico que privilegia o poder e a riqueza hiperconcentrados e que tem como objectivo a maximização do lucro e não o bem comum. Klein escreve: “Existe um mundo em que a IA generativa, como uma poderosa ferramenta de pesquisa preditiva e executora de tarefas entediantes, poderia, de facto, ser organizada para beneficiar a humanidade, as outras espécies e a nossa casa comum. Mas, para isso acontecer, essas tecnologias teriam de ser implantadas dentro de uma ordem económica e social muito diferente da nossa, que tivesse como propósito atender às necessidades humanas e proteger os sistemas planetários que sustentam toda a vida.” Sobre as promessas fantasiosas em relação às façanhas futuras da IA (que apelida de alucinações utópicas), Klein afirma: “são as histórias de capa poderosas e atraentes para o que pode vir a ser o maior e mais importante roubo da história da humanidade. Porque o que estamos a testemunhar são as empresas mais ricas da história (Microsoft, Apple, Google, Meta, Amazon …) a apoderar-se unilateralmente da soma total do conhecimento humano que existe em formato digital, na internet, e a capturá-la dentro de produtos privados, muitas vezes visando diretamente os humanos cuja vida inteira de trabalho serviu para treinar as máquinas sem que para tal fosse dada qualquer permissão ou consentimento.” E conclui: “aquilo que aconteceu com o exterior das nossas casas [por via do Google Street View] está a acontecer com as nossas palavras, as nossas imagens, as nossas músicas, toda a nossa vida digital. Todos estão a ser capturados e usados para treinar as máquinas para simular o pensamento e a criatividade.” Por seu lado, James Bridle escreve: “Todo o tipo de IA disponível publicamente, quer funcione com imagens ou palavras, (…) baseia-se nesta apropriação generalizada da cultura existente, cujo âmbito mal podemos compreender. (…) longe de serem criações mágicas e inovadoras de máquinas brilhantes, os resultados deste tipo de IA dependem inteiramente do trabalho não creditado e não remunerado de gerações de artistas humanos. A geração de imagens e textos por IA é pura acumulação primitiva: expropriação de mão-de-obra de muitos para o enriquecimento e avanço de algumas empresas tecnológicas de Silicon Valley e dos seus proprietários bilionários.” O documentário 'The cost of AI' (VPRO) destaca a dependência energética dos servidores de processamento de dados e mostra ainda a exploração dos trabalhadores de países do Sul global que são contratados para fazer a triagem de dados pelas empresas que desenvolvem sistemas de IA.

Em ‘AI and the threat of «human extinction»’ o filósofo e historiador norte-americano Émile P. Torres alerta para outra faceta preocupante do rápido desenvolvimento de sistemas de IA: a promoção da visão de mundo tecno-utópica dos (alucinados) trans-humanistas. De facto, Torres reconhece o risco existencial da IA se virar contra os seus criadores mas alerta para o facto de que, para muitos especialistas que professam as premissas do trans-humanismo, o mal que viria para a humanidade seria a impossibilidade de realização do seu verdadeiro potencial tecno-utópico e de expansão extraplanetária: “Trans-humanistas proeminentes sugerem que o fracasso na criação de uma nova espécie pós-humana seria uma enorme tragédia moral, uma vez que significaria que não conseguiríamos cumprir o nosso grande ‘potencial’ cósmico no universo.” Os trans-humanistas vêem a natureza humana como um projecto em curso, em que os seres humanos podem ser melhorados e aperfeiçoados graças a várias tecnologias (biotecnologia, nanotecnologia e tecnologias digitais). Para eles a humanidade actual não é o ponto final da evolução e esperam que, através do uso responsável da ciência, da tecnologia e de outros meios racionais, nos conseguiremos eventualmente tornar pós-humanos, seres com capacidades muito maiores do que os actuais (e imperfeitos) Homo sapiens. Alguns trans-humanistas, como William MacAskill (autor de ‘What We Owe the Future’), chegam mesmo a sugerir que a nossa destruição do mundo natural pode na verdade ser positiva, o que aponta para uma questão mais ampla sobre se a vida biológica em geral - e não apenas o Homo sapiens em particular - tem algum lugar no futuro ‘utópico’ do trans-humanismo. Isto sim, parece-me uma verdadeira alucinação! Torres resume assim a visão trans-humanista: “no seu cerne está uma visão tecno-utópica do futuro em que reprojetamos a humanidade, colonizamos o espaço, saqueamos o cosmos e estabelecemos uma civilização intergaláctica em expansão, cheia de trilhões e trilhões de pessoas "felizes", quase todas elas "vivendo" dentro de enormes simulações de computador. No processo, todos os nossos problemas serão resolvidos e a vida eterna tornar-se-á uma possibilidade real.” Para Torres, os trans-humanistas estão, no entanto, presos numa ‘pescadinha-de-rabo-na-boca’ (‘catch-22’): “provavelmente precisaremos de construir uma AGI [sigla inglesa de Inteligência Artificial Geral] para criar a utopia, mas se nos apressarmos a construí-la sem as devidas precauções, tudo poderá explodir na nossa cara. É por isso que estão preocupados: só há um caminho a seguir, mas o caminho para o paraíso está minado.”

No seu artigo de opinião para a revista Resilience ('If you're driving off a cliff, do you need a faster car?'), Richard Heinberg (membro-sénior do Post Carbon Institute) começa por referir-se aos riscos já identificados da IA (ou da AGI), assim como às declarações e avisos recentes dos empresários e especialistas das BigTech. Sem menosprezar algumas das preocupações veiculadas, Heinberg chama a atenção para outro perigo iminente: “Mesmo que (…) a IA não acabe com toda a vida na Terra, os seus perigos potenciais não se limitam a empregos perdidos, notícias falsas e factos alucinados. Há outro risco profundo que tem recebido pouca cobertura dos media – um risco que, na minha opinião, os pensadores sistémicos deveriam discutir mais amplamente. Essa é a probabilidade de que a IA seja um acelerador significativo de tudo o que nós, humanos, já fazemos.” Heinberg refere-se à chamada ‘Grande Aceleração’ da 2ª metade do século XX, correspondente ao maior crescimento económico e populacional de sempre, alavancada por diversos ‘aceleradores’, como os combustíveis fósseis, a ‘Revolução Verde’ na agricultura e os avanços nas tecnologias de informação. Embora economistas e governantes ortodoxos enalteçam estas façanhas, as ‘faturas’ desses alegados sucessos surgem agora para nos assombrar a todos: “A agricultura industrial está a destruir as camadas superficiais de solo fértil da Terra a uma taxa de dezenas de milhares de milhões de toneladas por ano. A natureza selvagem está em retração, tendo as espécies animais perdido, em média, 70% do seu número no último meio século. E estamos a alterar o clima planetário de formas que terão repercussões catastróficas para as gerações futuras. É difícil evitar a conclusão de que todo o empreendimento humano cresceu demasiado e que está a transformar a natureza (‘os recursos’) em desperdício e poluição demasiado rapidamente para se sustentar.” E a IA poderá ser afinal mais um novo ‘acelerador’ daquela destruição: “Esta tecnologia promete optimizar a eficiência e aumentar os lucros, facilitando direta ou indiretamente a extração e o consumo de recursos. Se realmente nos estivermos a dirigir para um precipício, a IA poderá levar-nos ao limite muito mais rapidamente, reduzindo o tempo disponível para mudar de direção.” Segundo Heinberg, a IA pode também ser um acelerador das nossas dependências das tecnologias digitais, provocando uma estupidificação acrescida das pessoas, assim como uma maior sujeição a quem controla aquelas tecnologias: “A IA (…) apresenta o risco de um maior embrutecimento da humanidade – exceto, talvez, para aqueles que optarem por implantar um computador nos seus cérebros. E há também o risco de que as pessoas que desenvolvem ou produzem estas tecnologias controlem praticamente tudo o que sabemos e pensamos, na busca do seu próprio poder e lucro.” Heinberg sugere que o que falta aos sistemas de IA é uma faceta-chave da consciência humana, a sabedoria (‘wisdom’), ou seja, “um reconhecimento dos limites, aliado a uma sensibilidade às relações e aos valores que priorizam o bem comum.” O perigo que daí advém é claro: “justamente no momento em que mais precisávamos de travar o uso de energia e o consumo de recursos, estamos a externalizar [‘outsource’] não apenas o processamento de informação, mas também a nossa tomada de decisões, em máquinas que carecem completamente de sabedoria para compreender e responder aos desafios existenciais que a aceleração apresenta. Criámos um verdadeiro ‘aprendiz de feiticeiro’.” Heinberg considera diferentes hipóteses de voltar a meter o génio na lâmpada de onde o deixámos sair – que vão desde desligar pura e simplesmente todos os sistemas de IA, a imbuir a IA da sabedoria que lhe falta. Mas em todas encontra limitações. Sugere então que a única saída será promover uma cultura de sabedoria colectiva enquanto ainda há tempo: “Ou recuperamos a sabedoria coletiva mais depressa do que as nossas máquinas conseguem desenvolver inteligência artificial executiva, ou provavelmente será o fim da partida [‘game over’].”

Num outro artigo de opinião ('To counter AI risk we must develop an integrated intelligence'), o autor britânico Jeremy Lent adopta uma postura semelhante à de Heinberg, considerando que existem diversos riscos associados ao desenvolvimento da IA, munida essencialmente de uma inteligência analítica, mas que o antídoto mais potente corresponde à capacidade integrativa da inteligência humana que permite estabelecer relações de empatia com as outras formas de vida e o ambiente: “O aumento explosivo do poder da IA representa um risco existencial para a humanidade. Para contrariar esse risco, e potencialmente redireccionar a trajectória da nossa civilização, precisamos de uma compreensão mais integrada da natureza da inteligência humana e dos requisitos fundamentais para o florescimento humano.” Lent defende que os sistemas de IA se baseiam essencialmente numa forma de inteligência analítica e racional que é boa a executar tarefas repetitivas e cálculos elaborados, mas que tende a transmitir uma imagem utilitarista e limitada do mundo. Pelo contrário, a inteligência humana integra duas formas complementares de consciência, uma mais racional (‘conceptual’) e outra mais sensível e intuitiva (‘animate’). Lent escreve: “a inteligência maquinal é na verdade puramente analítica. Não tem nenhuma estrutura que o ligue à vibrante senciência da vida. Independentemente do seu nível de sofisticação e potência, nada mais é do que um dispositivo de reconhecimento de padrões. Os teóricos da IA tendem a pensar na inteligência como independente do substrato – o que significa que o conjunto de padrões e ligações que a compõem poderia, em princípio, ser separado da sua base material e replicado exatamente noutro lugar, como quando se migram os dados de um computador antigo para um novo. Isso é verdade para a IA, mas não para a inteligência humana.”

Sem querer resumir todos os diferentes pontos de vista que partilhei até agora, poderia dizer que a IA é uma extensão de um paradigma social e cultural que acredita, quase cegamente, nas potencialidades da mente racional humana e na sua capacidade de criação de novas tecnologias benignas – uma versão depurada do excepcionalismo humano ou do antropocentrismo arrogante. Parece-me tratar-se mais de uma manifestação de entrega a uma certa estupidez natural (ou 'esperteza saloia') do que de verdadeira inteligência (artificial ou não). Desprovida principalmente da sabedoria a que se refere Heinberg ou da responsabilidade humana a que se referem Lanier e Weyl. Recupero as palavras de James Bridle que abrem este post: “Podemos imaginar tecnologias poderosas de processamento e comunicação de informação que não nos explorem, não nos utilizem indevidamente, não nos enganem e não nos suplantem? Sim, podemos – assim que sairmos das redes de poder corporativo que definiram a atual onda de IA.”. E concluo com as palavras que rematam o artigo de Jeremy Lent: “Diz-se por vezes que o que é necessário para unir a humanidade é uma flagrante ameaça comum, tal como uma hipotética espécie alienígena hostil que chega à Terra ameaçando-nos de extinção. Talvez esse momento esteja agora prestes a chegar – com uma inteligência alienígena emergindo das nossas próprias maquinações. Se houver esperança real para um futuro positivo, ela emergirá da nossa compreensão de que, como seres humanos, somos seres conceptuais e animados, e estamos profundamente conectados com toda a vida neste precioso planeta – e que coletivamente temos a capacidade de desenvolver uma civilização verdadeiramente integradora, que estabeleça as condições para que toda a vida floresça numa Terra regenerada.”