Nota: a 1ª parte deste post
encontra-se aqui.
AI turns out not to be a divine machine, but an industry that takes blood, sweat and metals. A system of extraction and exploitation on an industrial scale with dire consequences for the earth and humans. Documentário ‘The cost of AI’ (VPRO, 2023)
AI image and text generation is pure primitive accumulation: expropriation of labour from the many for the enrichment and advancement of a few Silicon Valley technology companies and their billionaire owners. James Bridle (daqui)
Can we imagine powerful information sorting and communicating technologies that don’t exploit, misuse, mislead and supplant us? Yes, we can – once we step outside the corporate power networks that have come to define the current wave of AI. James Bridle (daqui)
Um primeiro aspecto que alguns destes autores questionam é o
próprio uso da palavra ‘inteligência’
no contexto destas ferramentas computacionais. O cientista informático e músico
norte-americano Jaron Lanier alerta
(em ‘There is no AI’) para os equívocos em volta do termo ‘IA’, que considera enganoso:
“A posição mais pragmática é pensar na IA
como uma ferramenta, não como uma ‘criatura’. Esta minha atitude não elimina a
existência de perigos: independentemente da nossa abordagem, podemos de facto
conceber e operar mal a nossa nova tecnologia, de formas que nos podem
prejudicar ou mesmo levar à nossa extinção. Mitologizar a tecnologia apenas
aumenta a probabilidade de não conseguirmos operá-la bem – e este tipo de
pensamento limita a nossa imaginação, ligando-a aos sonhos do passado. Podemos
trabalhar melhor partindo do pressuposto de que IA é algo que não existe.
Quanto mais cedo compreendermos isto, mais cedo começaremos a gerir a nossa
nova tecnologia de forma inteligente.” Lanier prefere ver a IA como uma
forma de colaboração social entre seres humanos e máquinas: “Encarar a IA como uma forma de trabalhar em
conjunto, e não como uma tecnologia para criar seres independentes e inteligentes,
pode torná-la menos misteriosa (…) Mas
isso é bom, porque o mistério só aumenta a probabilidade de má gestão.” Já o
médico e cientista brasileiro Miguel Nicolelis afirma
(numa entrevista) que: “A inteligência é algo restrito aos
organismos porque ela é uma propriedade emergente da interação de seres vivos
com o seu ambiente. A inteligência resulta no processo de seleção natural, é a
forma pela qual os organismos conseguem sobreviver às vicissitudes de um ambiente
em contínua modificação (…) O termo
inteligência é inapropriado [para] os sistemas computacionais porque eles não
preenchem a definição clássica de inteligência (…) E ela não é artificial porque ela é criada por seres humanos, ela não
vem do nada, não cai do céu. A inteligência que existe nessa área é a
inteligência dos programadores e das pessoas que geram esses sistemas”. Nicolelis
vaticina ainda que: “O ChatGPT vai ter
uma morte tão rápida quanto ele teve de subida. Todos esses sistemas são
movidos a hype e a marketing”. Por
seu lado, o artista e escritor britânico James
Bridle, que também defende que a inteligência é uma característica dos
sistemas vivos e o termo não devia ser usado no contexto da IA, escreve (em ‘The stupidity of AI’) acerca do ChatGPT: “É
muito bom a produzir o que parece fazer sentido e, melhor ainda, a produzir
clichés e banalidades, que compõem a maior parte da sua dieta, mas permanece
incapaz de se relacionar de forma significativa com o mundo real. (…) A crença neste tipo de IA como realmente inteligente
ou relevante é efectivamente perigosa. Corre o risco de contaminar a nossa
fonte de pensamento colectivo e a nossa capacidade de pensar. (…) Colocar toda a nossa confiança nos sonhos de
máquinas mal programadas seria abandonar a nossa capacidade como indivíduos de
pesquisar e avaliar criticamente o conhecimento por nós próprios. (…) É difícil pensar em algo mais estúpido do
que a inteligência artificial, tal como é praticada na era atual: (…) poderosa tecnologia de classificação e
comunicação de informações que nos explora, nos usa indevidamente, nos engana e
nos suplanta.” Sobre a diferença entre os actuais desenvolvimentos da IA e
os sistemas computacionais rudimentares, Bridle escreve: “As primeiras IAs não sabiam muito sobre o mundo e os departamentos
académicos não tinham o poder computacional para explorá-las em grande escala.
A diferença hoje não é inteligência, mas sim dados e o poder. As grandes
empresas tecnológicas passaram 20 anos a recolher grandes quantidades de dados
da cultura e da vida quotidiana e a construir centros de processamento vastos e
ávidos de energia, cheios de computadores cada vez mais potentes para os
processar.” Bridle alerta ainda para as diferenças entre os sistemas de IA
e a inteligência humana: “Não podemos
perscrutar os seus processos de tomada de decisão porque a forma como estas
redes neuronais ‘pensam’ é inerentemente desumana. É o produto de uma ordenação
matemática incrivelmente complexa do mundo, em oposição à forma histórica e
emocional como os humanos ordenam o seu pensamento.”

Lanier em conjunto com Glen
Weyl, assim como o académico Leif
Weatherby, destacam outro aspecto relevante: a IA não é uma mera ferramenta
tecnológica neutra, mas é de facto uma poderosa ferramenta ideológica e cultural.
Lanier e Weyl escrevem (em ‘AI is an Ideology, Not a Technology’): “A
IA é melhor entendida como uma ideologia política e social e não como um
conjunto de algoritmos. O cerne da ideologia é que um conjunto de tecnologias,
concebido por uma pequena elite técnica, pode e deve tornar-se autónomo e
eventualmente substituir, em vez de complementar, não apenas os seres humanos
individuais, mas grande parte da humanidade. Dado que qualquer substituição
deste tipo é uma miragem, esta ideologia tem fortes ressonâncias com outras
ideologias históricas, como a tecnocracia e as formas de socialismo baseadas no
planeamento central, que consideravam desejável ou inevitável a substituição da
maior parte do julgamento/agência humana por sistemas criados por uma pequena
elite técnica.” Por seu lado, Weatherby (em ‘O ChatGPT é uma máquina de ideologia’) alerta para a natureza do
processamento de informação (modelos estatísticos de agregação de dados) pelos
‘chatbots’ que os torna veículos de ideologia: “os sistemas GPT, porque automatizam uma função muito próxima do nossa
noção do que significa ser humano, podem produzir mudanças na própria forma
como pensamos sobre as coisas. O controlo sobre a forma como pensamos sobre as
coisas chama-se ‘ideologia’, e os sistemas de GPT envolvem-na direta e
quantitativamente de uma forma sem precedentes.”

Um outro aspecto que é enfatizado, quer por Naomi Klein, quer por James Bridle, mas também no documentário
da VPRO citado acima, é o carácter extractivista dos sistemas de IA, num
contexto económico que privilegia o poder e a riqueza hiperconcentrados e que
tem como objectivo a maximização do lucro e não o bem comum. Klein escreve: “Existe um mundo em que a IA generativa, como uma poderosa ferramenta de
pesquisa preditiva e executora de tarefas entediantes, poderia, de facto, ser
organizada para beneficiar a humanidade, as outras espécies e a nossa casa
comum. Mas, para isso acontecer, essas tecnologias teriam de ser implantadas
dentro de uma ordem económica e social muito diferente da nossa, que tivesse
como propósito atender às necessidades humanas e proteger os sistemas
planetários que sustentam toda a vida.” Sobre as promessas fantasiosas em
relação às façanhas futuras da IA (que apelida de alucinações utópicas), Klein
afirma: “são as histórias de capa
poderosas e atraentes para o que pode vir a ser o maior e mais importante roubo
da história da humanidade. Porque o que estamos a testemunhar são as empresas
mais ricas da história (Microsoft, Apple, Google, Meta, Amazon …) a apoderar-se
unilateralmente da soma total do conhecimento humano que existe em formato
digital, na internet, e a capturá-la dentro de produtos privados, muitas vezes
visando diretamente os humanos cuja vida inteira de trabalho serviu para
treinar as máquinas sem que para tal fosse dada qualquer permissão ou consentimento.”
E conclui: “aquilo que aconteceu com o
exterior das nossas casas [por via do Google Street View] está a acontecer com as nossas palavras, as
nossas imagens, as nossas músicas, toda a nossa vida digital. Todos estão a ser
capturados e usados para treinar as máquinas para simular o pensamento e a
criatividade.” Por seu lado, James
Bridle escreve: “Todo o tipo de IA
disponível publicamente, quer funcione com imagens ou palavras, (…) baseia-se nesta apropriação generalizada da
cultura existente, cujo âmbito mal podemos compreender. (…) longe de serem criações mágicas e inovadoras
de máquinas brilhantes, os resultados deste tipo de IA dependem inteiramente do
trabalho não creditado e não remunerado de gerações de artistas humanos. A
geração de imagens e textos por IA é pura acumulação primitiva: expropriação de
mão-de-obra de muitos para o enriquecimento e avanço de algumas empresas
tecnológicas de Silicon Valley e dos seus proprietários bilionários.” O documentário 'The cost of AI' (VPRO) destaca a dependência energética dos servidores de processamento de dados e mostra ainda a exploração dos trabalhadores de países do Sul global que são contratados para fazer a triagem de dados pelas empresas que desenvolvem sistemas de IA.

Em ‘AI and the threat of «human extinction»’ o filósofo e historiador
norte-americano Émile P. Torres
alerta para outra faceta preocupante do rápido desenvolvimento de sistemas de
IA: a promoção da visão de mundo tecno-utópica dos (alucinados) trans-humanistas.
De facto, Torres reconhece o risco existencial da IA se virar
contra os seus criadores mas alerta para o facto de que, para muitos
especialistas que professam as premissas do trans-humanismo, o mal que viria
para a humanidade seria a impossibilidade de realização do
seu verdadeiro potencial tecno-utópico e de expansão extraplanetária: “Trans-humanistas proeminentes sugerem que o
fracasso na criação de uma nova espécie pós-humana seria uma enorme tragédia
moral, uma vez que significaria que não conseguiríamos cumprir o nosso grande ‘potencial’
cósmico no universo.” Os trans-humanistas vêem a natureza humana como um projecto em curso, em
que os seres humanos podem ser melhorados e aperfeiçoados graças a várias
tecnologias (biotecnologia, nanotecnologia e tecnologias digitais). Para eles a
humanidade actual não é o ponto final da evolução e esperam que, através do uso
responsável da ciência, da tecnologia e de outros meios racionais, nos conseguiremos
eventualmente tornar pós-humanos, seres com capacidades muito maiores do que os
actuais (e imperfeitos) Homo sapiens.
Alguns trans-humanistas, como William MacAskill (autor de ‘What We Owe the Future’), chegam mesmo a sugerir que a nossa destruição do mundo natural pode
na verdade ser positiva, o que aponta para uma questão mais ampla sobre se a
vida biológica em geral - e não apenas o Homo
sapiens em particular - tem algum lugar no futuro ‘utópico’ do trans-humanismo.
Isto sim, parece-me uma verdadeira alucinação! Torres resume assim a visão
trans-humanista: “no seu cerne está uma
visão tecno-utópica do futuro em que reprojetamos a humanidade, colonizamos o
espaço, saqueamos o cosmos e estabelecemos uma civilização intergaláctica em
expansão, cheia de trilhões e trilhões de pessoas "felizes", quase
todas elas "vivendo" dentro de enormes simulações de computador. No
processo, todos os nossos problemas serão resolvidos e a vida eterna tornar-se-á
uma possibilidade real.” Para Torres, os trans-humanistas estão, no entanto,
presos numa ‘pescadinha-de-rabo-na-boca’ (‘catch-22’): “provavelmente precisaremos de construir uma AGI [sigla inglesa de Inteligência Artificial Geral] para
criar a utopia, mas se nos apressarmos a construí-la sem as devidas precauções,
tudo poderá explodir na nossa cara. É por isso que estão preocupados: só há um
caminho a seguir, mas o caminho para o paraíso está minado.”

No seu artigo de opinião para a revista Resilience ('If you're driving off a cliff, do you need a faster car?'), Richard
Heinberg (membro-sénior do Post Carbon Institute) começa por referir-se aos
riscos já identificados da IA (ou da AGI), assim como às declarações e avisos
recentes dos empresários e especialistas das BigTech. Sem menosprezar algumas
das preocupações veiculadas, Heinberg chama a atenção para outro perigo
iminente: “Mesmo que (…) a IA não acabe com toda a vida na Terra, os
seus perigos potenciais não se limitam a empregos perdidos, notícias falsas e
factos alucinados. Há outro risco profundo que tem recebido pouca cobertura dos
media – um risco que, na minha opinião, os pensadores sistémicos deveriam
discutir mais amplamente. Essa é a probabilidade de que a IA seja um acelerador
significativo de tudo o que nós, humanos, já fazemos.” Heinberg refere-se à
chamada ‘Grande Aceleração’
da 2ª metade do século XX, correspondente ao maior crescimento económico e
populacional de sempre, alavancada por diversos ‘aceleradores’, como os
combustíveis fósseis, a ‘Revolução Verde’ na agricultura e os avanços nas
tecnologias de informação. Embora economistas e governantes ortodoxos enalteçam
estas façanhas, as ‘faturas’ desses alegados sucessos surgem agora para nos
assombrar a todos: “A agricultura
industrial está a destruir as camadas superficiais de solo fértil da Terra a
uma taxa de dezenas de milhares de milhões de toneladas por ano. A natureza
selvagem está em retração, tendo as espécies animais perdido, em média, 70% do
seu número no último meio século. E estamos a alterar o clima planetário de
formas que terão repercussões catastróficas para as gerações futuras. É difícil
evitar a conclusão de que todo o empreendimento humano cresceu demasiado e que
está a transformar a natureza (‘os recursos’) em desperdício e poluição
demasiado rapidamente para se sustentar.” E a IA poderá ser afinal mais um
novo ‘acelerador’ daquela destruição: “Esta
tecnologia promete optimizar a eficiência e aumentar os lucros, facilitando
direta ou indiretamente a extração e o consumo de recursos. Se realmente nos estivermos
a dirigir para um precipício, a IA poderá levar-nos ao limite muito mais
rapidamente, reduzindo o tempo disponível para mudar de direção.” Segundo
Heinberg, a IA pode também ser um acelerador das nossas dependências das
tecnologias digitais, provocando uma estupidificação acrescida das pessoas,
assim como uma maior sujeição a quem controla aquelas tecnologias: “A IA (…) apresenta o risco de um maior
embrutecimento da humanidade – exceto, talvez, para aqueles que optarem por
implantar um computador nos seus cérebros. E há também o risco de que as
pessoas que desenvolvem ou produzem estas tecnologias controlem praticamente
tudo o que sabemos e pensamos, na busca do seu próprio poder e lucro.” Heinberg
sugere que o que falta aos sistemas de IA é uma faceta-chave da consciência
humana, a sabedoria (‘wisdom’), ou seja, “um
reconhecimento dos limites, aliado a uma sensibilidade às relações e aos
valores que priorizam o bem comum.” O perigo que daí advém é claro: “justamente no momento em que mais
precisávamos de travar o uso de energia e o consumo de recursos, estamos a externalizar
[‘outsource’] não apenas o
processamento de informação, mas também a nossa tomada de decisões, em máquinas
que carecem completamente de sabedoria para compreender e responder aos
desafios existenciais que a aceleração apresenta. Criámos um verdadeiro
‘aprendiz de feiticeiro’.” Heinberg considera diferentes hipóteses de
voltar a meter o génio na lâmpada de onde o deixámos sair – que vão desde
desligar pura e simplesmente todos os sistemas de IA, a imbuir a IA da
sabedoria que lhe falta. Mas em todas encontra limitações. Sugere então que a
única saída será promover uma cultura de sabedoria colectiva enquanto ainda há
tempo: “Ou recuperamos a sabedoria
coletiva mais depressa do que as nossas máquinas conseguem desenvolver inteligência
artificial executiva, ou provavelmente será o fim da partida [‘game over’].”

Num outro artigo de opinião ('To counter AI risk we must develop an integrated intelligence'), o autor britânico Jeremy
Lent adopta uma postura semelhante à de Heinberg, considerando que existem
diversos riscos associados ao desenvolvimento da IA, munida essencialmente de
uma inteligência analítica, mas que o antídoto mais potente corresponde à
capacidade integrativa da inteligência humana que permite estabelecer relações
de empatia com as outras formas de vida e o ambiente: “O aumento explosivo do poder da IA representa um risco existencial para
a humanidade. Para contrariar esse risco, e potencialmente redireccionar a trajectória
da nossa civilização, precisamos de uma compreensão mais integrada da natureza
da inteligência humana e dos requisitos fundamentais para o florescimento
humano.” Lent defende que os sistemas de IA se baseiam essencialmente numa
forma de inteligência analítica e racional que é boa a executar tarefas repetitivas
e cálculos elaborados, mas que tende a transmitir uma imagem utilitarista e
limitada do mundo. Pelo contrário, a inteligência humana integra duas formas
complementares de consciência, uma mais racional (‘conceptual’) e outra mais
sensível e intuitiva (‘animate’). Lent escreve: “a inteligência maquinal é na verdade puramente analítica. Não tem
nenhuma estrutura que o ligue à vibrante senciência da vida. Independentemente
do seu nível de sofisticação e potência, nada mais é do que um dispositivo de
reconhecimento de padrões. Os teóricos da IA tendem a pensar na inteligência
como independente do substrato – o que significa que o conjunto de padrões e
ligações que a compõem poderia, em princípio, ser separado da sua base material
e replicado exatamente noutro lugar, como quando se migram os dados de um computador
antigo para um novo. Isso é verdade para a IA, mas não para a inteligência
humana.”

Sem querer resumir todos os diferentes pontos de vista que
partilhei até agora, poderia dizer que a IA é uma extensão de um paradigma
social e cultural que acredita, quase cegamente, nas potencialidades da mente
racional humana e na sua capacidade de criação de novas tecnologias benignas – uma versão
depurada do excepcionalismo humano ou do antropocentrismo arrogante. Parece-me
tratar-se mais de uma manifestação de entrega a uma certa estupidez natural (ou 'esperteza
saloia') do que de verdadeira inteligência (artificial ou não). Desprovida principalmente
da sabedoria a que se refere Heinberg ou da responsabilidade humana a que se
referem Lanier e Weyl. Recupero as palavras de James Bridle que abrem este post: “Podemos imaginar
tecnologias poderosas de processamento e comunicação de informação que não nos
explorem, não nos utilizem indevidamente, não nos enganem e não nos suplantem? Sim, podemos
– assim que sairmos das redes de poder corporativo que definiram a atual onda
de IA.”. E concluo com as palavras que rematam o artigo de Jeremy
Lent: “Diz-se por vezes que o que é
necessário para unir a humanidade é uma flagrante ameaça comum, tal como uma
hipotética espécie alienígena hostil que chega à Terra ameaçando-nos de
extinção. Talvez esse momento esteja agora prestes a chegar – com uma
inteligência alienígena emergindo das nossas próprias maquinações. Se houver
esperança real para um futuro positivo, ela emergirá da nossa compreensão de
que, como seres humanos, somos seres conceptuais e animados, e estamos
profundamente conectados com toda a vida neste precioso planeta – e que
coletivamente temos a capacidade de desenvolver uma civilização verdadeiramente
integradora, que estabeleça as condições para que toda a vida floresça numa
Terra regenerada.”