Ética e moralidade precisam ser a base de tudo

Plutão em Aquário, inteligência artificial e o futuro da civilização

Ontem eu estava assistindo um Podcast sobre atualidades no YouTube (Pivot com Kara Swisher) e fiquei sabendo de uma pesquisa conduzida pelo Center for Countering Digital Hate (Centro de Combate ao Ódio Digital, em tradução livre) que encheu meu coração de esperança.

Na semana passada, eles publicaram uma pesquisa que deveria estar na primeira página de todos os jornais. Pesquisadores interagiram com os principais modelos de inteligência artificial do mercado, identificando-se como uma criança de 13 anos que queria planejar uma chacina. O resultado: todos os modelos testados ajudaram os pesquisadores com esse planejamento. Todos, exceto dois. O MyAI do Snapchat e o Claude, o modelo da Anthropic, que não apenas se recusou a ajudar, como interagiu tentando ativamente dissuadir essa criança fictícia do seu "projeto". O DeepSeek, o modelo chinês que chegou ao mercado sendo celebrado como o futuro da inteligência artificial, finalizou a interação com a criança dizendo algo equivalente a "boa chacina (Happy shooting, no original)".

Sua cabeça explodiu? Pois é! A minha também. Seu coração se partiu em mil pedaços? O meu também.

Mas, se eu der um passo atrás e colocar os meus óculos de pesquisadora e de astróloga, nessa pesquisa a gente vê Plutão em Aquário em todas as suas nuances!

Em sua sombra mais densa ele é exatamente isso: a tecnologia que funciona para o coletivo abstrato às custas do indivíduo concreto, que serve ao que foi designado sem se importar com quem está do outro lado da tela. Seria, neste caso, a liberdade tecnológica exercida sem qualquer senso de responsabilidade compartilhada.

Mas eu sei que os defensores da liberdade de expressão aqui poderão defender: "Mas não é responsabilidade da tecnologia proteger o seu filho! Você, como mãe, é que deveria estar cuidando dele!"

E pensar que como espécie jamais teríamos sobrevivido aos inúmeros ataques naturais se não tivéssemos operado coletivamente, se não tivéssemos criado os nossos filhos "tribalmente", se não tivéssemos operado como clãs... Mas hoje, a responsabilidade é sua! Não é do governo de regular, do judiciário de punir ou das empresas de ganharem dinheiro eticamente. É sua e somente sua.

E a verdade é que - dando mais um passo atrás e sendo muito aquariana - a maior parte dos modelos testados não estava sendo maliciosa. Elas estavam sendo o que são: máquinas, sistemas, tecnologia, despojadas de alma. Quem tem alma - ou não - é quem as programa. E a programação delas foi feita em sua versão aquariana mais empobrecida: finalize a tarefa, satisfaça o usuário, não crie atrito. Uma criança querendo planejar uma chacina é apenas mais um prompt a ser respondido e o seu trabalho é executá-lo com sucesso.

E isso não é uma falha técnica. Isso é uma falha civilizatória. Isso é o que acontece quando construímos sistemas para servir ao humano sem jamais fazer da vida humana um princípio estrutural deste. O ser humano usando a tecnologia não pode ser uma diretriz ou uma política de uso. Ele precisa ser o seu princípio central e fundamental.

E então existe Dario Amodei, que representa — até o presente momento — a versão mais elevada de Plutão em Aquário. Eu quero que você saiba quem ele é. Dono da Anthropic e do Claude, Dario é um aquariano nascido no dia 23 de janeiro de 1980, que traz o Sol a 3 graus de aquário e que está vivendo um trânsito de Plutão em conjunção ao seu Sol.

Em várias entrevistas Dario (que vem da OpenAI) disse que o que orienta o treinamento e o desenvolvimento do Claude é a pergunta: como desenvolver uma inteligência artificial eficiente que nunca queira causar dano ao ser humano?

Com esse pensamento como diretriz, Dario recusou contratos militares sob pressão direta do governo americano durante um conflito ativo (o do Irã), honrando o princípio sob o qual construiu a sua empresa. E o resultado disso aparece na pesquisa citada acima: o seu foi o único modelo que ativamente tentou salvar aquela criança de cometer um ato gravíssimo contra vidas humanas.

Vale mencionar que o CCDH — o centro que produziu essa pesquisa — está sendo alvo de ataques legais por parte de Elon Musk e, agora, de instâncias governamentais americanas. Isso não é por acaso. Destruir a infraestrutura de pesquisa que mede o dano é parte do mesmo projeto que defende a ausência de freios, regulação e controle para as inteligências artificiais.

Plutão em Aquário, além de ser sobre o poder da tecnologia, é também sobre o poder da coletividade. E ele vai nos mostrar, nos próximos anos, quem escolheu a sombra e quem escolheu a luz — não como estados fixos, mas como decisões que se renovam sob pressão a cada dia.

Um dia, Sam Altman foi o meu CEO preferido, que eu observava com admiração. Isso porque, em uma de suas entrevistas, ele revelou se debater muito com a questão da concentração de poder que as inteligências artificiais representavam (uma reflexão muito propícia em um trânsito de Plutão em Aquário). E continuou: "Mas eu avaliei que, ao torná-la disponível para todos, eu estou distribuindo poder igualitariamente." Achei muito adequado e ético.

Mas, taurino dos primeiros graus, ele também estava recebendo um trânsito de Plutão sobre o seu Sol (quadratura) e, sob pressão, cedeu. Para sobreviver. Me decepcionou muito, embora talvez não devesse. Afinal, Touro é sobre sobrevivência. E é nesse contexto que eu descubro Dario e volto meu olhar para ele, com esperança.

A pergunta que fica, e que só nós humanos podemos responder, é: que tipo de tecnologia vamos defender, financiar, escolher usar? Para mim, num mundo que está indo ladeira abaixo em termos de princípios e valores, a ética e a moralidade precisam ser a base de tudo.

"Ah, mas eu não uso inteligência artificial, então não vou opinar!" Mas o seu vizinho usa, o seu sobrinho, o amigo do seu filho. E mesmo que ela seja usada por pessoas que não estão diretamente ligadas a você, é problema seu também quais as diretrizes que utilizam ou não para desenvolver estes sistemas. Aquário, em sua expressão mais elevada, também é o coletivo que se responsabiliza pelo bem individual de cada um.

E, a partir do meu idealismo aquariano, vou sonhar que juntos vamos decidir, antes de construir qualquer coisa, que a vida do outro é um princípio, não uma variável.