AI turns out not to be a divine machine, but an industry that takes blood, sweat and metals. A system of extraction and exploitation on an industrial scale with dire consequences for the earth and humans. Documentário ‘The cost of AI’ (VPRO, 2023)
AI image and text generation is pure primitive accumulation: expropriation of labour from the many for the enrichment and advancement of a few Silicon Valley technology companies and their billionaire owners. James Bridle (daqui)
Can we imagine powerful information sorting and communicating technologies that don’t exploit, misuse, mislead and supplant us? Yes, we can – once we step outside the corporate power networks that have come to define the current wave of AI. James Bridle (daqui)
Um primeiro aspecto que alguns destes autores questionam é o
próprio uso da palavra ‘inteligência’
no contexto destas ferramentas computacionais. O cientista informático e músico
norte-americano Jaron Lanier alerta
(em ‘There is no AI’) para os equívocos em volta do termo ‘IA’, que considera enganoso:
“A posição mais pragmática é pensar na IA
como uma ferramenta, não como uma ‘criatura’. Esta minha atitude não elimina a
existência de perigos: independentemente da nossa abordagem, podemos de facto
conceber e operar mal a nossa nova tecnologia, de formas que nos podem
prejudicar ou mesmo levar à nossa extinção. Mitologizar a tecnologia apenas
aumenta a probabilidade de não conseguirmos operá-la bem – e este tipo de
pensamento limita a nossa imaginação, ligando-a aos sonhos do passado. Podemos
trabalhar melhor partindo do pressuposto de que IA é algo que não existe.
Quanto mais cedo compreendermos isto, mais cedo começaremos a gerir a nossa
nova tecnologia de forma inteligente.” Lanier prefere ver a IA como uma
forma de colaboração social entre seres humanos e máquinas: “Encarar a IA como uma forma de trabalhar em
conjunto, e não como uma tecnologia para criar seres independentes e inteligentes,
pode torná-la menos misteriosa (…) Mas
isso é bom, porque o mistério só aumenta a probabilidade de má gestão.” Já o
médico e cientista brasileiro Miguel Nicolelis afirma
(numa entrevista) que: “A inteligência é algo restrito aos
organismos porque ela é uma propriedade emergente da interação de seres vivos
com o seu ambiente. A inteligência resulta no processo de seleção natural, é a
forma pela qual os organismos conseguem sobreviver às vicissitudes de um ambiente
em contínua modificação (…) O termo
inteligência é inapropriado [para] os sistemas computacionais porque eles não
preenchem a definição clássica de inteligência (…) E ela não é artificial porque ela é criada por seres humanos, ela não
vem do nada, não cai do céu. A inteligência que existe nessa área é a
inteligência dos programadores e das pessoas que geram esses sistemas”. Nicolelis
vaticina ainda que: “O ChatGPT vai ter
uma morte tão rápida quanto ele teve de subida. Todos esses sistemas são
movidos a hype e a marketing”. Por
seu lado, o artista e escritor britânico James
Bridle, que também defende que a inteligência é uma característica dos
sistemas vivos e o termo não devia ser usado no contexto da IA, escreve (em ‘The stupidity of AI’) acerca do ChatGPT: “É
muito bom a produzir o que parece fazer sentido e, melhor ainda, a produzir
clichés e banalidades, que compõem a maior parte da sua dieta, mas permanece
incapaz de se relacionar de forma significativa com o mundo real. (…) A crença neste tipo de IA como realmente inteligente
ou relevante é efectivamente perigosa. Corre o risco de contaminar a nossa
fonte de pensamento colectivo e a nossa capacidade de pensar. (…) Colocar toda a nossa confiança nos sonhos de
máquinas mal programadas seria abandonar a nossa capacidade como indivíduos de
pesquisar e avaliar criticamente o conhecimento por nós próprios. (…) É difícil pensar em algo mais estúpido do
que a inteligência artificial, tal como é praticada na era atual: (…) poderosa tecnologia de classificação e
comunicação de informações que nos explora, nos usa indevidamente, nos engana e
nos suplanta.” Sobre a diferença entre os actuais desenvolvimentos da IA e
os sistemas computacionais rudimentares, Bridle escreve: “As primeiras IAs não sabiam muito sobre o mundo e os departamentos
académicos não tinham o poder computacional para explorá-las em grande escala.
A diferença hoje não é inteligência, mas sim dados e o poder. As grandes
empresas tecnológicas passaram 20 anos a recolher grandes quantidades de dados
da cultura e da vida quotidiana e a construir centros de processamento vastos e
ávidos de energia, cheios de computadores cada vez mais potentes para os
processar.” Bridle alerta ainda para as diferenças entre os sistemas de IA
e a inteligência humana: “Não podemos
perscrutar os seus processos de tomada de decisão porque a forma como estas
redes neuronais ‘pensam’ é inerentemente desumana. É o produto de uma ordenação
matemática incrivelmente complexa do mundo, em oposição à forma histórica e
emocional como os humanos ordenam o seu pensamento.”
Lanier em conjunto com Glen Weyl, assim como o académico Leif Weatherby, destacam outro aspecto relevante: a IA não é uma mera ferramenta tecnológica neutra, mas é de facto uma poderosa ferramenta ideológica e cultural. Lanier e Weyl escrevem (em ‘AI is an Ideology, Not a Technology’): “A IA é melhor entendida como uma ideologia política e social e não como um conjunto de algoritmos. O cerne da ideologia é que um conjunto de tecnologias, concebido por uma pequena elite técnica, pode e deve tornar-se autónomo e eventualmente substituir, em vez de complementar, não apenas os seres humanos individuais, mas grande parte da humanidade. Dado que qualquer substituição deste tipo é uma miragem, esta ideologia tem fortes ressonâncias com outras ideologias históricas, como a tecnocracia e as formas de socialismo baseadas no planeamento central, que consideravam desejável ou inevitável a substituição da maior parte do julgamento/agência humana por sistemas criados por uma pequena elite técnica.” Por seu lado, Weatherby (em ‘O ChatGPT é uma máquina de ideologia’) alerta para a natureza do processamento de informação (modelos estatísticos de agregação de dados) pelos ‘chatbots’ que os torna veículos de ideologia: “os sistemas GPT, porque automatizam uma função muito próxima do nossa noção do que significa ser humano, podem produzir mudanças na própria forma como pensamos sobre as coisas. O controlo sobre a forma como pensamos sobre as coisas chama-se ‘ideologia’, e os sistemas de GPT envolvem-na direta e quantitativamente de uma forma sem precedentes.”
Um outro aspecto que é enfatizado, quer por Naomi Klein, quer por James Bridle, mas também no documentário da VPRO citado acima, é o carácter extractivista dos sistemas de IA, num contexto económico que privilegia o poder e a riqueza hiperconcentrados e que tem como objectivo a maximização do lucro e não o bem comum. Klein escreve: “Existe um mundo em que a IA generativa, como uma poderosa ferramenta de pesquisa preditiva e executora de tarefas entediantes, poderia, de facto, ser organizada para beneficiar a humanidade, as outras espécies e a nossa casa comum. Mas, para isso acontecer, essas tecnologias teriam de ser implantadas dentro de uma ordem económica e social muito diferente da nossa, que tivesse como propósito atender às necessidades humanas e proteger os sistemas planetários que sustentam toda a vida.” Sobre as promessas fantasiosas em relação às façanhas futuras da IA (que apelida de alucinações utópicas), Klein afirma: “são as histórias de capa poderosas e atraentes para o que pode vir a ser o maior e mais importante roubo da história da humanidade. Porque o que estamos a testemunhar são as empresas mais ricas da história (Microsoft, Apple, Google, Meta, Amazon …) a apoderar-se unilateralmente da soma total do conhecimento humano que existe em formato digital, na internet, e a capturá-la dentro de produtos privados, muitas vezes visando diretamente os humanos cuja vida inteira de trabalho serviu para treinar as máquinas sem que para tal fosse dada qualquer permissão ou consentimento.” E conclui: “aquilo que aconteceu com o exterior das nossas casas [por via do Google Street View] está a acontecer com as nossas palavras, as nossas imagens, as nossas músicas, toda a nossa vida digital. Todos estão a ser capturados e usados para treinar as máquinas para simular o pensamento e a criatividade.” Por seu lado, James Bridle escreve: “Todo o tipo de IA disponível publicamente, quer funcione com imagens ou palavras, (…) baseia-se nesta apropriação generalizada da cultura existente, cujo âmbito mal podemos compreender. (…) longe de serem criações mágicas e inovadoras de máquinas brilhantes, os resultados deste tipo de IA dependem inteiramente do trabalho não creditado e não remunerado de gerações de artistas humanos. A geração de imagens e textos por IA é pura acumulação primitiva: expropriação de mão-de-obra de muitos para o enriquecimento e avanço de algumas empresas tecnológicas de Silicon Valley e dos seus proprietários bilionários.” O documentário 'The cost of AI' (VPRO) destaca a dependência energética dos servidores de processamento de dados e mostra ainda a exploração dos trabalhadores de países do Sul global que são contratados para fazer a triagem de dados pelas empresas que desenvolvem sistemas de IA.
Num outro artigo de opinião ('To counter AI risk we must develop an integrated intelligence'), o autor britânico Jeremy Lent adopta uma postura semelhante à de Heinberg, considerando que existem diversos riscos associados ao desenvolvimento da IA, munida essencialmente de uma inteligência analítica, mas que o antídoto mais potente corresponde à capacidade integrativa da inteligência humana que permite estabelecer relações de empatia com as outras formas de vida e o ambiente: “O aumento explosivo do poder da IA representa um risco existencial para a humanidade. Para contrariar esse risco, e potencialmente redireccionar a trajectória da nossa civilização, precisamos de uma compreensão mais integrada da natureza da inteligência humana e dos requisitos fundamentais para o florescimento humano.” Lent defende que os sistemas de IA se baseiam essencialmente numa forma de inteligência analítica e racional que é boa a executar tarefas repetitivas e cálculos elaborados, mas que tende a transmitir uma imagem utilitarista e limitada do mundo. Pelo contrário, a inteligência humana integra duas formas complementares de consciência, uma mais racional (‘conceptual’) e outra mais sensível e intuitiva (‘animate’). Lent escreve: “a inteligência maquinal é na verdade puramente analítica. Não tem nenhuma estrutura que o ligue à vibrante senciência da vida. Independentemente do seu nível de sofisticação e potência, nada mais é do que um dispositivo de reconhecimento de padrões. Os teóricos da IA tendem a pensar na inteligência como independente do substrato – o que significa que o conjunto de padrões e ligações que a compõem poderia, em princípio, ser separado da sua base material e replicado exatamente noutro lugar, como quando se migram os dados de um computador antigo para um novo. Isso é verdade para a IA, mas não para a inteligência humana.”
Sem querer resumir todos os diferentes pontos de vista que partilhei até agora, poderia dizer que a IA é uma extensão de um paradigma social e cultural que acredita, quase cegamente, nas potencialidades da mente racional humana e na sua capacidade de criação de novas tecnologias benignas – uma versão depurada do excepcionalismo humano ou do antropocentrismo arrogante. Parece-me tratar-se mais de uma manifestação de entrega a uma certa estupidez natural (ou 'esperteza saloia') do que de verdadeira inteligência (artificial ou não). Desprovida principalmente da sabedoria a que se refere Heinberg ou da responsabilidade humana a que se referem Lanier e Weyl. Recupero as palavras de James Bridle que abrem este post: “Podemos imaginar tecnologias poderosas de processamento e comunicação de informação que não nos explorem, não nos utilizem indevidamente, não nos enganem e não nos suplantem? Sim, podemos – assim que sairmos das redes de poder corporativo que definiram a atual onda de IA.”. E concluo com as palavras que rematam o artigo de Jeremy Lent: “Diz-se por vezes que o que é necessário para unir a humanidade é uma flagrante ameaça comum, tal como uma hipotética espécie alienígena hostil que chega à Terra ameaçando-nos de extinção. Talvez esse momento esteja agora prestes a chegar – com uma inteligência alienígena emergindo das nossas próprias maquinações. Se houver esperança real para um futuro positivo, ela emergirá da nossa compreensão de que, como seres humanos, somos seres conceptuais e animados, e estamos profundamente conectados com toda a vida neste precioso planeta – e que coletivamente temos a capacidade de desenvolver uma civilização verdadeiramente integradora, que estabeleça as condições para que toda a vida floresça numa Terra regenerada.”
