Há alguns dias, conversando com alguns professores acerca da denominada “inteligência artificial”, deparei-me com uma experiência curiosa. Um deles fez uma mesma – e difícil – pergunta a oito destes mecanismos. Apenas um acertou. O que deveria ser objeto de reflexão, porém, são os outros sete. Sequer um deles respondeu “eu não sei” – todos “inventaram” uma resposta firme e convincente.
Poucos dias depois li uma advertência emitida pelo judiciário italiano, no sentido de que deveria ser cuidadosamente conferida cada consulta feita a tais sistemas. Ao caso concreto: não sabendo o que “responder” um deles simplesmente “criou” um texto contendo inclusive um precedente convincente, porém absolutamente falso. Nos EUA, há não muito tempo, registrou-se um episódio idêntico.
Está aí um dos grandes riscos desses algoritmos: sabem tudo! Falta-lhes a tão humana humildade contida na expressão “eu não sei”.
Iludida, porém, a humanidade vê nestes algoritmos algo muito próximo do cérebro humano. Ingenuamente neles vê uma infalibilidade quase divina. Seja símbolo deste comportamento a expressão “alucinação”, utilizada diante de uma resposta errada. Vejam só: sequer falamos que o algoritmo “errou” – ele apenas “alucinou”. É assim que vamos humanizando algoritmos “burros”, com consequências terríveis para muitos semelhantes nossos.
Você será aceito em seu novo emprego? Conseguirá um financiamento para adquirir sua casa própria? Terá direito a fiança, caso esteja envolvido em alguma confusão? Cometeu algum ato de corrupção? Perderá ou não o seu emprego duramente conquistado? Acredite: pelo mundo afora estas questões já estão sendo entregues a algoritmos “burros”, que tudo sabem e nunca erram.
A quem disser ser este um necessário “processo de aprendizado”, duas considerações se fazem necessárias. A primeira: não há nenhum “aprendizado” envolvido – apenas o calibrar opaco de um algoritmo “burro”. A segunda: tudo é aceitável desde que não seja um de nós a sofrer com o erro.
Fique muito claro um aspecto: não sou um reacionário. Já criei muitos destes “algoritmos burros” ao longo de mais de quatro décadas. Esta tecnologia é excepcional para, por exemplo, reconhecer padrões e relacionar dados. Mas daí a, sem limites, decidir sobre nossas vidas vai longa distância. Isto está errado.
Pedro Valls Feu Rosa
Em uma entrevista de emprego na famosa empresa de eletrônicos Apple, um amigo meu, passou por 4 etapas e na última e decisiva lhe fizeram uma única pergunta:
Como você aumentaria a venda de iPhones no Brasil?
Ele muito empolgado fez uma bela apresentação, com números e muitas métricas. Os gestores agradeceram e disseram que não era isso que eles queriam. Ele então agradeceu a oportunidade e levantou-se e seguiu em direção a porta, chegando lá, resolveu fazer uma última pergunta:
O que vocês gostariam de ter escutado?
O diretor não pensou muito e disse:
EU NAO SEI, MAS VOU DAR UM JEITO!
Era isso que nós queríamos ter ouvido!
Fica uma grande lição.