Can, what is playing you, make it to level-2?
Nick Land
Na singularidade ansiosamente esperada por Silicon Valley viria a si mesmo como o sujeito automático
Estará a humanidade pronta para servir com devoção os senhores robots, que em breve estarão entre nós? Esta questão, que costuma aparecer nas produções-lixo da indústria cultural, poderia tornar-se de facto bastante real em breve, na opinião de muitos críticos da pesquisa de inteligência artificial (IA). Se os senhores robots ainda quisessem governar a humanidade – e não decidissem livrar-se rapidamente dos “sacos de carne” irritantes, numa reedição dos filmes do Exterminador Implacável.
As vozes que advertem contra a pesquisa, em grande parte não regulamentada, sobre inteligência artificial, nos laboratórios de grandes empresas internacionais de alta tecnologia, estão a fazer-se ouvir cada vez mais ultimamente – e vêm de uma grande variedade de figuras proeminentes da comunidade da ciência e da alta tecnologia. (1)
Para o mundialmente conhecido físico Stephen Hawking, a descoberta qualitativa crucial na pesquisa de inteligência artificial – muitas vezes referida como singularidade, nos círculos da IA – poderia ser o “fim da humanidade”. (2) Ela “se destacaria sozinha, se modificaria a uma velocidade cada vez maior. Os seres humanos, limitados pela evolução biológica, não poderiam competir com ela e seriam eliminados”. Bill Gates advertiu que a inteligência artificial poderia ser potencialmente mais perigosa do que um desastre nuclear. Nick Bostrom, professor de filosofia da Universidade de Oxford, vê, em seu livro Superintelligence, um futuro cheio de milagres técnicos e económicos, em que não há mais pessoas. (3) Seria uma “Disneylandia sem crianças”, com cuja implantação a IA simplesmente eliminaria o factor humano.
Vernor Vinge, matemático e criador do termo singularidade, vê como inevitável que a formação da inteligência artificial supere o potencial intelectual dos seres humanos em todas as áreas relevantes – e considera possível a “extinção física da humanidade”. O especialista em IA, James Barrat, autor do livro Our Final Invention: Artificial Intelligence and the End of the Human Era, (4) vê, como linha de conflito mais provável, uma luta pelos recursos entre humanos e máquinas inteligentes: sem instituições que se lhe oponham nem mecanismos de segurança, “um sistema autoconsciente, em auto-aperfeiçoamento e autónomo na definição de objectivos prosseguiria o seu caminho, com meios que teriam de nos parecer insanos”.
O conhecido multimilionário da alta tecnologia Elon Musk é considerado um dos mais veementes críticos da inteligência artificial. Em entrevista à Vanity Fair (5), ele deu um exemplo do potencial destrutivo dos sistemas de inteligência artificial que se anunciam, resultantes de uma auto-optimização algorítmica ilimitada. Mesmo uma inteligência artificial encarregada da optimização autónoma de actividades inofensivas poderia vir a constituir um assassinato em massa: “Vamos supor que se criou uma IA que deveria apanhar morangos de modo auto-optimizado. Ela quer melhorar sempre, quer colher cada vez mais morangos, melhorando-se constantemente nessa tarefa. Tudo o que ela quer é apanhar morangos. Gostaria de transformar o mundo inteiro num campo de morangos. Strawberry fields forever”. (6) Não haveria espaço para as pessoas.
O pioneiro da alta tecnologia Musk, que é a força motriz por trás da Tesla-Motors, e quer acelerar a colonização da espaço com a empresa espacial SpaceX, tem estado na sua “cruzada” contra a IA desde 2014, como a Vanity Fair disse na longa reportagem acima mencionada, de Março de 2017.
Nessa altura, Musk avisou, no M.I.T. (Instituto de Tecnologia de Massachusetts), que a IA pode tornar-se a “maior ameaça existencial para a humanidade”, pelo que terá de haver instituições nacionais e internacionais de regulação e vigilância – coisa que não existe até agora – para evitar que a indústria de IA de Silicon Valley destrua acidentalmente a humanidade.
Ninguém – com excepção dos envolvidos – sabe exatamente o que os deuses da alta tecnologia da era da Internet estão a maquinar, nas suas instalações de pesquisa e laboratórios altamente secretos. Em qualquer caso, Musk comparou o actual boom de pesquisa de sistemas de IA com a invocação de demónios em filmes de terror. Está-se seguro de conseguir manter tudo sob controlo – até que a coisa se escape. Em resposta a essas advertências, Musk foi descrito como um ludita em Silicon Valley, como alguém que quereria evitar o progresso tecnológico através da sabotagem.
O que seria a singularidade?
Mesmo o conceito de singularidade é controverso e pouco claro, porque se trata de uma hipótese que seria um ponto de viragem fundamental no processo de civilização. As ideias sobre um indivíduo portador de inteligência artificial, como Blade Runner ou Ex-Machina, geralmente são consideradas anacrónicas. Nesta hipótese, frequentemente pressupõe-se que o portador da singularidade é um software altamente complexo, que atinge a consciência, que continua a desenvolver-se por si, baseado em algoritmos. Estaria em toda a parte e em lado nenhum, a singularidade não poderia estar localizada num indivíduo artificial, num exterminador implacável ou num andróide – embora também pudesse controlá-los.
De acordo com muitos cenários futuros, a IA seria uma abstracção real, residindo na rede, na nuvem global. Um software que ganharia consciência. Essa inteligência artificial, que se desenvolveria exponencialmente por si só, desencadearia uma explosão de inteligência e de progresso tecnológico, transformando fundamentalmente a civilização humana de um modo sem precedentes, ou extinguindo-a (especialmente neste ponto, as opiniões divergem). Consequentemente, após o acto de singularidade, a IA tornar-se-ia independente, tenderia a escapar ao controlo e superaria a capacidade intelectual da humanidade em pouco tempo.
A singularidade simplesmente seria incontrolável – e assumiria ela o controlo do processo de civilização. Uma inteligência artificial totalmente treinada seria semelhante a uma ruptura civilizacional, como um “desembarque de extraterrestres”, disse à Vanity Fair Peter Thiel, investidor em Silicon Valley. Mesmo os cientistas envolvidos na pesquisa de inteligência artificial não saberiam exatamente como controlá-la. “Na verdade, ainda não sabemos o que IA será em concreto. É muito difícil saber como controlá-la.”
Os defensores da busca pela realização da singularidade gostam de contestar tais avisos, apontando que as máquinas artificiais não seriam dotadas de “inclinações e características humanas”, como a ambição, a autopreservação, o poder. Yann LeCun, líder em pesquisa de sistemas de IA e “deep learning“, actualmente chefe do programa de IA do Facebook, disse à BBC que um cenário de Exterminador Implacável não seria possível. Nas máquinas artificiais simplesmente não se implementaria nenhum instinto de autopreservação, pelo que esses problemas estariam resolvidos, disse Yann LeCun. (7)
O cientista de computação Stuart Russell, em declarações à Vanity Fair, considera tais afirmações simplesmente como “matematicamente erradas”. É óbvio que a inteligência artificial teria a vontade de autopreservação, mesmo que esta não fosse implementada explicitamente. Se se desse a uma máquina inteligente a instrução para obter um café, ela desenvolveria um instinto de autopreservação para cumprir essa missão. “E se alguém a ameaçasse no caminho para o café, ela iria matá-lo, para evitar qualquer risco para o café. Muitas pessoas explicaram isso a LeCun de uma maneira muito simples”.
Seria possível rever a singularidade? O cientista Eliezer Yudkowsky, que trabalha na Universidade de Berkeley, lida com o problema do desligamento da inteligência artificial. Não será de todo claro como incorporar um mecanismo de desligamento, numa inteligência mecânica que pudesse modificar-se e evoluir, alertou Yudkowsky. Ela poderia eliminá-lo ou pressioná-lo. Se se construir algo mais inteligente do que o construtor, então esses mecanismos de segurança teriam que ser implementados correctamente na primeira vez. O perigo real não vem de robots malvados, com olhos vermelhos (que, de acordo com antigas profecias perdidas (8), destruiriam a humanidade em 2084), explicou Yudkowsky:
“A questão da IA é que não é um robot. É o algoritmo de computadores em rede. Assim, o robot é apenas uma externalidade, apenas uma série de sensores e modificadores. A IA está na rede. Ora a questão decisiva é que a inteligência humana colectiva pudesse parar um algoritmo autonomizado. Mas se existir uma IA grande e centralizada, que tome as decisões, então já não pode ser parada”.
Google, Facebook & Cª – A indústria da Inteligência Artificial
Dentro da indústria global de alta tecnologia, existem influentes intervenientes e grandes empresas que acreditam, pelo menos, poderem criar nos próximos anos ou décadas algo que possa escapar ao seu controlo: uma inteligência artificial que ultrapassaria a humanidade e se desenvolveria exponencialmente, de modo independente. Indivíduos que se tornaram ricos a resolver problemas banais, como os sistemas de pagamento on-line, agora acreditam ter sido chamados para “criar um mundo novo, uma nova espécie”, comentou a Vanity Fair. A próxima década foi chamada de época da inteligência artificial em Silicon Valley, com a indústria de alta tecnologia a ser tomada com dinheiro por um pequeno número de “feiticeiros” que estariam familiarizados com as “fórmulas de invocação” da IA.
O principal player da indústria emergente de IA é a fornecedora de motores de busca Google, que é conhecida por ter crescido com modelos comerciais tão triviais como a publicidade online. A partir de 2014, a Google investiu fortemente no campo da inteligência artificial. A empresa também comprou, por 650 milhões de dólares, a DeepMind – uma empresa pioneira da inteligência artificial. O futurista e conselheiro militar dos Estados Unidos, Ray Kurzweil, que prevê a criação de divinais sistemas híbridos de humanos e máquinas para as próximas três décadas, também está na folha de pagamentos da Google. Nesses febris sonhos tecnológicos, presume-se que os seres humanos “carregariam” a sua consciência na singularidade residente na rede, eles se tornariam parte da matriz, seriam Borg. (9) O próprio Kurzweil se alimenta principalmente de “pílulas vitais” e leite de amêndoa – para viver o mais possível e poder fundir-se com a “máquina”.
Até que ponto a inteligência artificial prosperou foi demonstrado recentemente pelo programa Alpha Go, da DeepMind, que derrotou os melhores jogadores do mundo no jogo mais complexo do mundo, Go, por 60 a zero. Outro sistema de IA provou que poderia fazer bluff – derrotando os melhores jogadores num torneio de poker em Las Vegas. (10)
Além disso, o problema do “esquecimento catastrófico” parece estar resolvido, pelo menos em princípio. Este termo implica a incapacidade dos sistemas IA existentes de transferirem a experiência adquirida num campo de trabalho para outro problema. Um programa desenvolvido pela DeepMind foi capaz de realizar uma série de tarefas diferentes, usando a experiência adquirida anteriormente. Até agora, a inteligência artificial tinha de executar uma “reinicialização” para cada nova tarefa, de modo que o processo de aprendizagem começasse novamente. (11)
Além da Google, também o Facebook é líder na pesquisa de inteligência artificial. Em 2016, o fundador do Facebook, Mark Zuckerberg, lançou a sua iniciativa de IA, na qual uma inteligência artificial amigável deve monitorizar e gerir a casa do multimilionário. Deve tornar-se uma espécie de “Jarvis de Iron Man”, segundo Zuckerberg. No entanto, de acordo com os críticos, essa abordagem não é tão avançada quanto os avanços da DeepMind, já que o Facebook, de facto, apenas desenvolveu e conectou sistemas de assistência existentes, como Cortana e Siri.
Aliás, a DeepMind foi cofundada por Demis Hassabis – tem graça que o autor do jogo de computador Evil Genius, no qual um cientista louco toma conta do mundo. E é em jogos de computador clássicos, como Pong ou Breakout, que os sistemas de IA de Hassabis demonstraram as suas habilidades.(12) Mesmo para capitalistas calejados, as ideias do guru da IA parecem ir muito longe, relatou a Vanity Fair. “Deveria ter disparado imediatamente”, teria sido “a última chance de salvar a humanidade”, brincou um investidor, após o encontro com o pioneiro da IA, que prossegue o estudo da inteligência artificial com um fervor religioso.
Transumanismo: o culto da morte dos talibãs da alta tecnologia
À medida que uma pessoa se desloca pelos gabinetes envidraçados das startups de IA de Silicon Valley, para questionar os “príncipes da nuvem” sobre as suas ideias do admirável mundo novo, a ser moldado pela inteligência artificial, faz-se então notar, com o tempo, um “sentimento assustador”, relatou a Vanity Fair. Com todas as garantias de tornar o mundo um lugar melhor, através da inovação, as pessoas são vistas como meras cobaias, como “tecnologia antiga, que em breve será eliminada”.
Muitos elementos de Silicon Valley conformaram-se com a realidade que aí vem: “Teremos 150 anos de idade, mas também teremos governantes-máquinas”. Steve Wozniak, co-fundador da Apple, fala sobre um futuro em que os humanos serão “animais domésticos” de máquinas inteligentes. (13)
E muitos gurus da alta tecnologia também estão prontos para aceitar o poder das máquinas que se aproxima, com todas as consequências. Há muitas pessoas na cena da IA que argumentam que, se as máquinas são mais inteligentes do que os humanos, “então elas devem tomar conta do planeta e nós devemos ir embora”, explicou Stuart Russell. Também é generalizada a crença de que as pessoas poderiam transferir a sua consciência para as máquinas, para continuarem a existir, para além do seu invólucro material. “Nós teríamos consciência, mas então seríamos máquinas”, o que é completamente improvável, disse Russell. Neste contexto, Musk falou de um “fio neuronal” entre o ser humano e a máquina, que poderia impedir a “obsolescência humana”, conectando o cérebro humano diretamente à IA em rede. Seria uma “fusão de consciência”, na qual o indivíduo ficaria totalmente absorvido no Nós colectivo da IA.
Obviamente que este debate sobre a IA também se caracteriza por um materialismo flagrantemente vulgar. O crítico francês do transumanismo, Jean-Michel Besnier, comentou: “A deflação semântica do termo inteligência é em si mesma um sintoma, a saber, o esmorecimento, ou, se se quiser, uma simplificação preocupante da ideia que o ser humano faz de si mesmo.” (14) Historicamente, a simples ideia de inteligência artificial surgiu na sequência da disciplina da fábrica, quando o ser humano foi obrigado pelo capitalismo a ser uma máquina. Por exemplo, Emil Post (junto com Alan Turing, um dos pioneiros teóricos do computador) costumava chamar a um trabalhador de linha de montagem o modelo de uma máquina programável. (15)
Pretende-se, agora, traduzir em realidade esta fusão ideológica do ser humano com a máquina. Na indústria domina um fatalismo neoliberal clássico em relação ao desenvolvimento social e tecnológico, o princípio TINA (There Is No Alternative: não há alternativa). “Os impérios caem, as sociedades mudam e estamos caminhando para a próxima fase inevitável”, lê-se na Vanity Fair. Consequentemente, já não é discutido se, mas quando se estará pronto para “se auto-aperfeiçoar”, através da inteligência artificial. Todos os “aprimoramentos” tecnológicos da nossa vida quotidiana, propagados pelas oligarquias da alta tecnologia, levariam a um futuro em que a humanidade desempenharia apenas um papel menor, se tanto. Isto seria um “paradoxo”, afirmou a Vanity Fair.
Musk disse à revista que, na cena da IA, o papel histórico da humanidade é comparado à função de um carregador de inicialização. O termo bootloader, como o conhecido programa GNU Grand Unified Bootloader (Grub), designa programas que têm a função de iniciar o carregamento do verdadeiro sistema operacional. Na ideologia da IA do transumanismo, que se está a espalhar como fogo na estepe em Silicon Valley, à humanidade é atribuído esse papel: ela é o bootloader do verdadeiro sistema operacional de uma inteligência artificial superior e sem limites de expansão.
“Nós somos o carregador de inicialização biológico para uma superinteligência digital”, assim resumiu Musk (que teve “muitas discussões acaloradas” sobre IA com o chefe da Google, Larry Page) as crenças de salvação de muitos transumanistas em Silicon Valley. “A matéria não consegue organizar-se num chip. Mas ela pode organizar-se num ser biológico complexo, que finalmente cria o chip.”
Os entediados multimilionários da alta tecnologia de Silicon Valley, que fizeram seus milhares de milhões com princípios comerciais tão triviais como sistemas de pagamento on-line e publicidade on-line, agora querem como que fazer o papel de Deus. Eles querem, afinal, insuflar a consciência na “bela máquina” (Adam Smith) produzida pelo capital, em sua cega compulsão de valorização global.
O cientista Jaron Lanier, um dos criadores do conceito de realidade virtual, disse à Vanity Fair por que razão os oligarcas de alta tecnologia estavam tão obcecados com o conceito de inteligência artificial. Ele satisfaz o seu narcisismo, pois apenas Silicon Valley é capaz disso: “Sois homens da tecnologia digital, criais vida, transformais a realidade.” Ninguém poderia fazê-lo, nem o Papa, e nem o Presidente, apenas vós. “O software que construímos é a nossa imortalidade”. Faz lembrar a história do bezerro de ouro, diz Lanier. Na verdade, pioneiros da IA, como Kurzweil, esforçam-se por prolongar as suas vidas, usando uma absurda dieta de pílulas, até que a fusão da sua consciência com a inteligência artificial na rede seja tecnicamente viável.
Independentemente de a singularidade ser tecnicamente viável, a ideologia do transumanismo, (16) que surgiu na sequência da pesquisa da IA, é digna de nota – e perigosa. Em geral, essa maneira relativamente nova de pensar a ideologia capitalista liberal pressupõe que o progresso científico-técnico e económico tende a transcender o homem, a transformá-lo ou a depositá-lo na lixeira da história. A humanidade como parteira de um mundo maquinal hiper-inteligente, que levaria a uma explosão de tecnologia e crescimento – este é o quadro ideológico de todas as versões de transumanismo. (17)
Torna-se assim evidente o reflexo ideológico do actual processo de crise nesta religião de alta tecnologia: As máquinas devem continuar com a compulsão de crescimento sem fim do capital, num além do lado de cá da aberta dominação mecânica, mesmo que a humanidade morra. O sistema continua, sem o factor humano perturbador, cujas deficiências mentais são apontadas como a causa de todas as actuais tendências de crise. Continuar com o capitalismo – mesmo depois da morte da humanidade, que é vista como um factor perturbador, perante a próxima explosão de crescimento e inteligência. (18)
O transumanismo é, portanto, um culto da morte, nascido do processo de crise do capitalismo tardio, semelhante ao islamismo do Estado islâmico ou dos Talibãs, semelhante ao antigo fascismo e ao novo, europeu e americano, do século XXI. O extermínio da humanidade é transfigurado num acto de salvação. A fantasia de salvação islâmica, que foge às contradições crescentes da socialização capitalista tardia com ataques suicidas, está instalada no além, com as suas dezenas de virgens. Os talibãs da alta tecnologia de Silicon Valley vêem a sua perspectiva de salvação no domínio da máquina, na fusão da sua consciência com a hiperinteligência residente na rede. É por isso que muitos participantes na cena da IA estão a seguir todas as absurdas dietas neocalvinistas que, diz a Vanity Fair, supostamente lhes darão a mais longa vida possível. Pretende-se prolongar a vida até que a fusão com a IA seja tecnicamente possível. O transumanismo, em que caíram muitos dos mais poderosos gurus da alta tecnologia, é, portanto, uma religião mecânica imanente. O culto liberal-capitalista da bela máquina, que o teórico da crise Robert Kurz desmascarou e denunciou. no seu Livro Negro do Capitalismo, (19) atinge o seu fim lógico no transumanismo. Os seres humanos devem tornar-se máquinas, ou dar lugar a elas, para encontrarem a salvação (Isto da religião da máquina também é para ser tomado à letra: já foi fundada uma seita em que a IA deve ser adorada como “Deus”, com toda a seriedade). (20)
Na sua agonia, o capitalismo assume cada vez mais os traços de um movimento intrinsecamente religioso (21), uma “seita suicida louca” (Robert Kurz) que, das montanhas do Afeganistão a Silicon Valley, carrega o colapso iminente do sistema mundial com um sentido louco. Para os talibãs de todas as cores, a salvação só pode ser encontrada na morte. O transumanismo é uma religião da máquina, incubada pelo “centro” do capitalismo tardio: a “bela máquina” do capital, adorada pela ideologia capitalista, deve literalmente ser despertada para a “vida”, e dotada de uma consciência sem limites. A inteligência exponencialmente crescente, com que sonham muitos gurus da IA, é, claramente, apenas um reflexo ideológico do ilimitado desejo de explorar do capital, que está a atingir o seu limite histórico.
Inteligência artificial e “sujeito automático”
A amarga ironia da ignorância do transumanismo, que surgiu da idiotice profissional clássica, é, naturalmente, que as “máquinas” há muito prevaleceram sobre a humanidade. Elas fazem isso desde que o capitalismo foi imposto – só que não o fazem conscientemente. Em qualquer crise, em que os surtos de automação conduzam ao desemprego em massa e à miséria, torna-se evidente que as “máquinas” servem para outro propósito que não a satisfação das necessidades humanas, satisfação que para elas é apenas um mal necessário, apenas um meio para outro fim.
Isso já era evidente na automação da indústria têxtil e na consequente pauperização, que desencadeou, por exemplo, as revoltas dos tecelões. E este é também o caso da crise que agora se está a desenvolver na sociedade do trabalho capitalista, com a sucessão cada vez mais rápida de surtos de automação, crise que agora está a ser discutida não apenas entre grupos teóricos de esquerda, mas mesmo no mainstream burguês. (22) Os ocupantes da roda de hamster capitalista estão há muito tempo em luta com as máquinas, uma luta na qual eles só podem perder, na imanência do sistema.
O absurdo escandaloso, em que ninguém repara, é precisamente o facto de as máquinas, cada vez mais inteligentes, poderem produzir cada vez mais bens, num tempo cada vez menor, com cada vez menos trabalho humano. O paraíso parece estar próximo, as necessidades básicas de todas as pessoas podem ser satisfeitas, mas, no entanto, o inferno irrompe na terra – surgindo com ele os cultos de morte correspondentes, como o islamismo, o fascismo e o transumanismo.
A produção cada vez mais eficiente no capitalismo, toda a racionalidade do processo de produção, visa um propósito afinal irracional: a maior valorização possível do capital investido. O propósito próprio de obter o maior lucro possível por meio da produção de mercadorias torna-se independente no plano social global. Por trás das costas dos produtores, esse processo de valorização do capital desenvolve uma dinâmica própria, que enfrenta os seus sujeitos de mercado como um poder estranho, quase natural (“mercados”, “coerções objectivas”, etc.). (23)
Portanto, se a própria força de trabalho não pode mais ser vendida no mercado de trabalho, devido a um surto de racionalização, porque as novas técnicas de automação tornam o trabalho maciçamente supérfluo, então as máquinas já estão a roubar às pessoas os seus meios de subsistência. As máquinas já “dominam” sobre a humanidade capitalista tardia, fazem isso como concretização do movimento de valorização do capital, realmente abstracto e cego, que se torna cada vez mais eficiente por meio da concorrência, afastando cada vez mais o trabalho da produção de mercadorias, ao tornar-se cada vez mais “inteligente”.
Nesse contexto, o pioneiro da tecnologia Tim Berners-Lee fala dos robots que estão a assumir os “nossos empregos”. Os carros de condução automática e as fábricas automatizadas tornarão os trabalhadores cada vez mais supérfluos: (24) “Hoje são sobretudo os postos de trabalho pouco qualificados que são substituídos por computadores, mas acabarão por ser também postos de trabalho qualificados, como redactores de jornais, juristas e médicos”. É por isso que é necessário, segundo Berners-Lee, considerar e discutir amplamente novas formas de reprodução social, como o rendimento básico incondicional.
Essa tendência tem funcionado há décadas, na verdade, desde o começo da revolução das TI: as máquinas, como ferramentas do movimento de valorização fetichista do capital, estão a empurrar os seres humanos para fora do processo de produção. E esse desenvolvimento também é a causa do actual processo de crise socioeconómica.
Marx sintetizou no conceito de sujeito automático (25) o movimento social global, cegamente desmedido, da valorização do capital, que desenvolve a sua dinâmica fetichista própria nos “mercados”, como “coerções objectivas”, contra os impotentes sujeitos do mercado. O automatismo ilimitado da “autovalorização” do capital é executado com uma tenacidade subjetivada, que, em tempos de crise, pode devastar regiões inteiras do mundo, e pode pauperizar camadas inteiras da população. Uma dinâmica social produzida inconscientemente, através do mercado, pelos membros da sociedade, na sua qualidade de sujeitos do mercado, domina-os – e é geralmente documentada com conceitos como “os mercados” ou “coerções objectivas”.
A ironia que, obviamente, escapou do transumanismo é que os seres humanos ainda não são senhores da sua própria sociedade, nem nunca foram. A humanidade, sob o capital, não é necessariamente o animal de estimação (Wozniak), mas sim o gado de uma dinâmica social autonomizada. As máquinas já mostram dominar os seres humanos, uma vez que são usadas no ciclo de valorização do capital, sendo a sua aplicação direccionada para o objectivo do automatismo da valorização do valor, que globalmente constitui a referida dinâmica própria subjectivada. É uma dominação mecânica, cega de raiva e inconsciente, que constitui o capitalismo tardio – impulsionado apenas pelo impulso doentio de uma autopropagação da relação de capital, como sujeito automático.
Decisiva para a formação concreta da inteligência artificial é, naturalmente, a sociedade na qual ela iria surgir. Um exemplo, relativamente a este assunto, da ingenuidade das empresas de alta tecnologia, que funcionam na sua bolha de public relations desligadas das contradições sociais concretas, foi dado em 2016 pela Microsoft, co-fundada pelo “visionário” Bill Gates (“640 kilobytes são suficientes”) (26). A empresa colocou na Internet o Chatbot de IA Tay, que supostamente se tornaria “mais inteligente” através de “conversas aleatórias e divertidas” com os utilizadores da Internet. Num curto período de tempo, o programa de IA teve que ser posto offline, quando se transformou “num idiota racista, em menos de um dia”, como disse The Verge. (27)
A IA avançada, totalmente formada como uma singularidade, aperfeiçoando-se a si mesma sem fim, não surgiria no vácuo, mas na indústria tecnicamente avançada do capitalismo tardio – que constitui precisamente um culto transumanista da morte, cujos seguidores literalmente querem ser absorvidos na “bela máquina” do capital. O que poderia aqui falhar?
Qual seria então a singularidade, se ela realmente surgisse num capitalismo tardio marcado pela crise (admitindo que tal inteligência artificial, auto-aperfeiçoada e explosivamente crescente, é tecnicamente viável)? O capital, como sujeito automático, tornar-se-ia consciente de si mesmo – o processar cegamente raivoso da dinâmica do capital, em seu movimento de acumulação ilimitado, devastador do mundo, viria a si, chegaria à consciência. Os gurus da IA querem criar um deus mecânico, residente na vastidão virtual da rede, que saísse do automatismo muito real, “subjetivado” da dinâmica de valorização capitalista.
A humanidade e um mundo ecologicamente de algum modo intacto, como estádios necessários do processo de valorização, poderiam então ser deliberadamente descartados. É para isso que o capital já se esforça, em seu processo de valorização cego, ele torna a humanidade economicamente supérflua. A religião transumanista da morte, destes talibãs da alta tecnologia, apenas executa a tendência inerente ao capital, de processar cegamente para destruir a humanidade. Silicon Valley poderia assim dar uma consciência ao processo social “inconsciente”.
Berners-Lee já vê actualmente os primeiros começos de uma “IA baseada na rede”, abrangendo todo o globo. (28) O perigo não viria de exterminadores implacáveis ou de robots “sexy”, é mais provável que a “super-inteligência” se manifeste primeiro em rede na “nuvem empresarial”: “A distopia será muito mais aborrecida do que um robot a tomar conta do mundo. Será um programa empresarial na nuvem da Internet”.
De resto, a valorização do capital na esfera financeira há muito foi optimizada por sistemas de IA – entre outros, por Robert Mercer, o arqui-reaccionário patrocinador de Trump, que fez os seus milhares de milhões na especulação do mercado financeiro, através de sistemas de IA optimizados. (29) A inteligência quântica já está na nuvem e é “muito poderosa”, diz Berners-Lee. Especialmente na negociação de títulos nos mercados financeiros, ela é usada para optimizar a especulação rápida e eficiente:
“Afinal já externalizámos para o computador a maior parte do nosso negócio. A nossa economia quer que os computadores façam coisas inteligentes, que os tornem mais eficientes. Nós queremos que os nossos computadores sejam os melhores, para que possamos sobreviver na economia. É por isso que treinamos os nossos computadores, para serem os melhores e sobreviverem. Os computadores criarão novos programas e até novas empresas para fazerem o seu trabalho melhor … a IA criará os seus próprios programas. Na verdade, os computadores serão capazes de criar programas melhores e mais rápidos que os seres humanos”.
Se for tecnicamente viável realizar a singularidade no capitalismo tardio, então ela surgirá aqui: na corrida de ratos, em busca de maiores lucros, na esfera do capital fictício, nos mercados financeiros globais. Os novos senhores robots terão as familiares características desumanas – e lidarão com a humanidade economicamente supérflua “escorrendo sangue e sujeira” (Marx), tal e qual como o cego automatismo da relação de capital já faz há 300 anos. (30)
**********************************************
(1) „5 Very Smart People Who Think Artificial Intelligence Could Bring the Apocalypse“, time.com, 02.12.2014
(2) „Stephen Hawking warns artificial intelligence could end mankind“, bbc.com, 02.12.2014
(3) Nick Bostrom, „Superintelligence: Paths, Dangers, Strategies“, Oxford University Press, 2014
(4) James Barrat, „Our Final Invention: Artificial Intelligence and the End of the Human Era“, Thomas Dunne Books, 2013
(5) „Elon Musk’s Billion-Dollar Crusade to Stop the A.I. Apocalypse“, vanityfair.com, 26.03.2017
(6) https://www.youtube.com/watch?v=tdbTOaRh79U
(7) „Intelligent Machines: What does Facebook want with AI?“, bbc.com, 15.09.2015
(8) https://www.youtube.com/watch?v=2QLKk_RBEgw
(9) https://www.youtube.com/watch?v=ZetmwyBanNU
(10) „Alpha Go zerlegt Go-Community“, golem.de, 05.01.2017
(11) „Google’s DeepMind makes AI program that can learn like a human“, theguardian.com, 17.03.2017
(12) „Evil Genius designer has created an AI that can play games and will doom us all“, pcgamesn.com, 26.02.2015
(13) „Apple co-founder Steve Wozniak says humans will be robots’ pets“, theguardian.com, 25.06.2015
(14) Laurent Alexandre, Jean Michel Besnier: „Können Roboter Liebe machen? Transhumanismus in zwölf Fragen“ [Os robots poderiam fazer amor? Transumanismo em doze questões], Wien, 2017, S. 80
(15) Bettina Heintz, „Die Herrschaft der Regel – Zur Grundlagengeschichte des Computers“ [O domínio da regra. História fundamental do computador], Frankfurt/New York 1993, S.166.
(16) Christopher Coennen, Stefan Gammel, Reinhard Heil, Andreas Woyke (Hg.): Die Debatte uber „Human Enhancement“ – Historische, philosophische und ethische Aspekte der technologischen Verbesserung des Menschen [O debate sobre human enhancement. Aspectos históricos, filosóficos e éticos da melhoria tecnológica do ser humano], Bielefeld 2010.
(17) O transumanismo pode aqui referir-se a visões capitalistas mais antigas da “melhoria técnica do homem”. Ver novamente: Christopher Coennen, Stefan Gammel, Reinhard Heil, Andreas Woyke (Hg.): Die Debatte uber „Human Enhancement“ – Historische, philosophische und ethische Aspekte der technologischen Verbesserung des Menschen [O debate sobre human enhancement. Aspectos históricos, filosóficos e éticos da melhoria tecnológica do ser humano], Bielefeld 2010. Na verdade, no século XIX o homem foi repetidamente considerado como uma máquina a ser optimizada. Os antecedentes disso foram os esforços para controlar medicamente a “fadiga” causada pelo trabalho, como explica Anson Rabinbach em “Kraft Ermudung und die Ursprung der Moderne [A fadiga do pessoal e a origem da modernidade], Wien 2001”. Em certo sentido, o transumanismo também pode ser visto como uma forma extrema de eugenia, sob uma nova aparência. Com a diferença de que agora todos os seres humanos são considerados “vidas que são um fardo”. As tradições do transumanismo vão até à história da imposição do capital: já se manifestam na extrema hostilidade ao corpo e no ascetismo calvinista dos transumanistas. Não é de admirar que os transumanistas, como outros antes deles, sonhem em abolir o parto: a concepção e o parto devem ser substituídos pelo fabrico. A mania androcêntrica da fazibilidade dificilmente poderia ser mais clara (Ver: https://netzfrauen.org/2016/07/09/maschine-statt-mama/).
(18) „AI is getting brainier: when will the machines leave us in the dust?“, theguardian.com, 15.03.2017
(19) Online no original alemão em: http://www.exit-online.org/pdf/schwarzbuch.pdf
(20) „Man kann Kirche nicht ohne KI schreiben“ [Não se pode escrever igreja sem o I e o A], zeit.de, 18.11.2017
(21) „Die Prophezeiung“ [A profecia], heise.de/tp, 27.12.2013
(22) „Millionen Jobs fallen weg“ [Milhões de jobs desaparecem], faz.net, 17.01.2016
(23) Mas o determinismo tecnológico agressivo dos investigadores de IA e transumanistas também se mostra no facto de eles não serem minimamente capazes de questionar, ou de algum modo problematizar, as formas sociais do capitalismo. Por exemplo, Hans Moravec pinta febris sonhos tecnológicos, mas não consegue imaginar um mundo não capitalista. Mesmo num mundo onde as máquinas governassem, ainda haveria concorrência e nada seria grátis, diz Hans Moravec em: Computer ubernehmen die Macht – Vom Siegeszug der kunstlichen Intelligenz [Os computadores tomam o poder – O triunfo da inteligência artificial], Hamburg 1999.
(24) „Internet founder speaks out on AI fear, the singularity, and beautiful robots“, businessesgrow.com
(25) Karl Marx – Friedrich Engels – Werke, Band 23, „Das Kapital“, Bd. I, Zweiter Abschnitt [O Capital, Livro I, Secção 2], p. 161 – 191
(26) „The ‘640K’ quote won’t go away — but did Gates really say it?“, computerworld.com, 23.06.2008
(27) „Twitter taught Microsoft’s AI chatbot to be a racist asshole in less than a day“, theverge.com24.03.2016
(28) „Internet founder speaks out on AI fear, the singularity, and beautiful robots“, businessesgrow.com
(29) „Das Establishment hinter den Rechtspopulisten“ [O establishment por detrás dos populistas de direita], heise.de/tp, 22.08.2017
(30) Siehe: „Die sogenannte ursprungliche Akkumulation [A chamada acumulação original]“, in: Karl Marx – Friedrich Engels – Werke, Band 23, “Das Kapital”, Bd. I, Siebenter Abschnitt [O Capital, Livro I, Secção 7], p. 741 – 791
OriginalKI und Kapitalin http://www.exit-online.org. 18.02.2018. Tradução de Boaventura Antunes
