Há alguns dias, conversando com alguns professores acerca da denominada “inteligência artificial”, deparei-me com uma experiência curiosa. Um deles fez uma mesma – e difícil – pergunta a oito destes mecanismos. Apenas um acertou. O que deveria ser objeto de reflexão, porém, são os outros sete. Sequer um deles respondeu “eu não sei” – todos “inventaram” uma resposta firme e convincente.
Poucos dias depois li uma advertência emitida pelo judiciário italiano, no sentido de que deveria ser cuidadosamente conferida cada consulta feita a tais sistemas. Ao caso concreto: não sabendo o que “responder” um deles simplesmente “criou” um texto contendo inclusive um precedente convincente, porém absolutamente falso. Nos EUA, há não muito tempo, registrou-se um episódio idêntico.
Está aí um dos grandes riscos desses algoritmos: sabem tudo! Falta-lhes a tão humana humildade contida na expressão “eu não sei”.
Iludida, porém, a humanidade vê nestes algoritmos algo muito próximo do cérebro humano. Ingenuamente neles vê uma infalibilidade quase divina. Seja símbolo deste comportamento a expressão “alucinação”, utilizada diante de uma resposta errada. Vejam só: sequer falamos que o algoritmo “errou” – ele apenas “alucinou”. É assim que vamos humanizando algoritmos “burros”, com consequências terríveis para muitos semelhantes nossos.
Você será aceito em seu novo emprego? Conseguirá um financiamento para adquirir sua casa própria? Terá direito a fiança, caso esteja envolvido em alguma confusão? Cometeu algum ato de corrupção? Perderá ou não o seu emprego duramente conquistado? Acredite: pelo mundo afora estas questões já estão sendo entregues a algoritmos “burros”, que tudo sabem e nunca erram.
A quem disser ser este um necessário “processo de aprendizado”, duas considerações se fazem necessárias. A primeira: não há nenhum “aprendizado” envolvido – apenas o calibrar opaco de um algoritmo “burro”. A segunda: tudo é aceitável desde que não seja um de nós a sofrer com o erro.
Fique muito claro um aspecto: não sou um reacionário. Já criei muitos destes “algoritmos burros” ao longo de mais de quatro décadas. Esta tecnologia é excepcional para, por exemplo, reconhecer padrões e relacionar dados. Mas daí a, sem limites, decidir sobre nossas vidas vai longa distância. Isto está errado.
Pedro Valls Feu Rosa é jornalista, escritor e desembargador no Espírito Santo
