Algoritmos não são melhores pessoas do que nós

Imagem: Pixabay

Coluna de Marcelo Viana, diretor-geral do IMPA, na Folha de S.Paulo:

O algoritmo AlphaZero, atual campeão do mundo de xadrez, foi criado ao final de 2017. Seus autores lhe ensinaram as regras do jogo e pouco mais, e logo o colocaram para treinar, jogando contra si mesmo. Apenas nove horas depois, estava pronto para encarar o campeão da época, o algoritmo Stockfish: em 100 partidas, AlphaZero venceu 28 e empatou as demais.

Em 2021, o Impa (Instituto de Matemática Pura e Aplicada) realizou uma parceria com a empresa Dasa para o uso de inteligência artificial no diagnóstico por imagem em medicina fetal. Utilizando dados reais, nossa equipe desenvolveu e treinou um algoritmo capaz de determinar, com confiabilidade superior a 90%, a quantidade de líquido amniótico, parâmetro crucial do desenvolvimento do feto. Agora a empresa dispõe de uma ferramenta para prestar, rapidamente e em qualquer lugar, um serviço importante que antes exigia o trabalho de profissional altamente especializado.

O progresso extraordinário da inteligência artificial facultado pelos avanços na ciência de dados e na tecnologia da informação está revolucionando o mundo em que vivemos, com algoritmos ocupando cada vez mais espaços antes reservados a humanos. Mas essa revolução também tem um lado sombrio, pois inteligências artificiais não estão imunes aos defeitos que deploramos em tantas pessoas.

Em “Homo Deus”, o escritor Yuval Harari relata o caso de uma empresa de capital que tem um algoritmo chamado Vital como membro de seu conselho de administração. O registro das votações mostra que Vital favorece os investimentos em empresas que também têm algoritmos como conselheiros. Seria o primeiro caso na história de nepotismo artificial!

Também sabemos que algoritmos treinados em certos ambientes das redes sociais adquirem atitudes extremas de preconceito, racismo e até violência. Isto não deveria nos surpreender, mas não deixa de ser decepcionante para quem, como eu, sonhou com o advento de máquinas inteligentes com potencial para ajudar a melhorar a própria espécie humana por meio do seu exemplo.

Leia a coluna na íntegra no site do jornal