O maior risco talvez não esteja na tecnologia que aprende, mas no ser humano que gradualmente deixa de pensar, escolher e decidir por si mesmo
A expansão da inteligência artificial representa uma das transformações mais profundas da história recente. Seus benefícios são evidentes: aumento da produtividade, avanços na medicina, novas possibilidades para a educação, automação de tarefas, ampliação do acesso ao conhecimento e formas mais eficientes de pesquisar, produzir e criar. Seria um erro ignorar essas possibilidades.
Mas toda tecnologia capaz de ampliar extraordinariamente o poder humano também exige uma pergunta: até que ponto ela continuará sendo apenas um instrumento a nosso serviço e quando poderá começar a interferir na maneira como pensamos, escolhemos e decidimos?
É nesse contexto que Roberto S. Zeballos, no livro A Era dos Semideuses — Uma Evolução na Espécie, apresenta uma reflexão inquietante sobre os efeitos da evolução tecnológica no comportamento e na autonomia das pessoas. Algumas de suas interpretações podem suscitar divergências, mas a questão central merece atenção: continuaremos sendo efetivamente autores de nossas próprias escolhas?
Essa transformação começou antes da atual geração de inteligência artificial. As redes sociais já demonstraram como algoritmos podem selecionar aquilo que vemos, sugerir o que devemos assistir e identificar quais conteúdos conseguem manter nossa atenção por mais tempo.
Não é necessário imaginar alguém decidindo individualmente o que cada pessoa deve pensar. O processo é mais complexo. Sistemas analisam pesquisas, preferências, compras, relacionamentos e comportamentos digitais, identificam padrões e tornam-se progressivamente mais capazes de prever aquilo que desperta nosso interesse.
Com a inteligência artificial, essa capacidade aumenta significativamente.
O problema não está apenas na circulação de informações falsas. Está também na seleção das informações verdadeiras que chegam até nós.
Duas pessoas podem viver na mesma sociedade e receber diariamente representações muito diferentes da realidade. Cada uma passa a enxergar parte do mundo por meio de informações selecionadas por sistemas cujo funcionamento desconhece. Recebemos, então, cada vez mais conteúdos compatíveis com aquilo em que já acreditamos. O contraditório diminui, nossas convicções se reforçam e aquilo que parecia apenas personalização pode acabar limitando nossa exposição a outras ideias.
A inteligência artificial acrescenta uma dimensão ainda mais profunda. Pela primeira vez, dispomos amplamente de sistemas capazes de conversar conosco, responder perguntas, resumir livros, elaborar argumentos, interpretar dados, escrever textos, produzir imagens e sugerir decisões.
Trata-se de uma extraordinária conquista tecnológica. Mas existe uma fronteira que merece atenção: a diferença entre utilizar a tecnologia para ampliar nossa capacidade de pensar e permitir que ela pense permanentemente em nosso lugar.
Já transferimos às máquinas muitas funções sem consequências relevantes. Poucas pessoas memorizam dezenas de números de telefone; sistemas de navegação substituíram grande parte da necessidade de decorar caminhos; calculadoras assumiram operações antes realizadas manualmente.
A situação muda quando começamos a transferir também o julgamento.
Julgar exige conhecimento, experiência, valores, percepção das circunstâncias e consciência das consequências. Exige, sobretudo, capacidade de questionar a resposta que recebemos. A tecnologia pode fornecer informações, organizar alternativas e ampliar nossa capacidade de análise. Mas a responsabilidade pela interpretação e pela decisão precisa continuar sendo nossa.
É nesse ponto que a reflexão proposta em A Era dos Semideuses ganha especial importância. Zeballos chama a atenção para a necessidade de preservarmos espaços de introspecção, contato com a natureza e afastamento periódico da avalanche de informações digitais.
Podem parecer recomendações simples diante da sofisticação das novas tecnologias, mas possuem algo em comum: devolvem ao indivíduo o controle de sua atenção. E controlar a própria atenção é uma condição importante para preservar a autonomia.
A multiplicação de notícias, vídeos, opiniões, mensagens e notificações produziu também uma confusão entre informação e conhecimento. Podemos receber milhares de informações e compreender muito pouco.
Conhecimento exige tempo, leitura, comparação, dúvida, contraditório e reflexão. Exige momentos em que deixamos de apenas receber informações para avaliá-las e transformá-las em compreensão própria.
Preservar a autonomia diante da inteligência artificial, portanto, não significa rejeitar a tecnologia. Significa utilizá-la como instrumento. Podemos recorrer a sistemas inteligentes para pesquisar, comparar argumentos, organizar informações, testar hipóteses e ampliar nossa capacidade intelectual. O que não deveríamos transferir é a responsabilidade de avaliar, interpretar e decidir.
Essa preocupação também ultrapassa o plano individual. Quanto maior for a capacidade das grandes plataformas de conhecer comportamentos, antecipar preferências e influenciar escolhas, maior deverá ser a atenção dada à transparência dos algoritmos, à proteção dos dados e à concentração de poder tecnológico.
A expressão “era dos semideuses” possui, nesse sentido, uma força simbólica particular. Poucos atores passaram a dispor de capacidades de processamento, conhecimento e influência inimagináveis há algumas décadas.
A humanidade continuará avançando tecnologicamente. O desafio será avançar sem regredir intelectualmente.
A inteligência artificial poderá tornar o ser humano muito mais capaz. Também poderá torná-lo excessivamente dependente de sistemas que fazem por ele aquilo que antes exigia reflexão. A diferença entre esses dois caminhos dependerá, em grande parte, das nossas escolhas.
Talvez, portanto, a pergunta mais importante não seja se algum dia a inteligência artificial será capaz de pensar como nós, mas se, quando as máquinas puderem fazer cada vez mais por nós, continuaremos fazendo questão de pensar por nós mesmos, preservando a capacidade de formar convicções próprias, sustentadas pelo conhecimento, pela experiência e pela reflexão, para que nossas decisões continuem sendo verdadeiramente nossas.