Frequentemente, uma polêmica relacionada ao resultado do algoritmo de sugestão de correção de consultas do Google, o famoso “Você quis dizer”, volta a ganhar os holofotes das redes sociais.
A polêmica gira em torno do fato do algoritmo sugerir uma correção da palavra “coroação” para “corrupção” quando acompanhada do termo “Lula”, e outra correção quando associado ao termo “Bolsonaro”.
Antes de mais nada, esse texto não tem como objetivo alimentar nenhuma teoria conspiratória sobre isso ter sido feito de maneira proposital pelo Google e seus engenheiros. De forma simplificada, o algoritmo sugere correções com base em probabilidade e associação dos termos, ou seja, quanto mais vezes os termos ocorrem na internet, maior a chance de uma correção do tipo “Você quis dizer”.
O objetivo desse texto é outro: discutir a qualidade dos algoritmos que estão soltos na selva que chamamos de Internet. Boa parte dos produtos de âmbito geral que possuem algum tipo de algoritmo de Inteligência Artificial são criados a partir de dados coletados na rede global de computadores. Acontece que, da mesma forma que nossa realidade é impregnada de vieses, a internet também é. E por que a preocupação então? Se no mundo físico as implicações de nossos vieses são de certa forma limitada, no mundo digital o potencial danoso é multiplicado muitas vezes.
Nesse ponto talvez você esteja se perguntando: “Se os algoritmos funcionam assim, por que então falar de qualidade?” A meu ver a pergunta que temos de fazer é: Está tudo bem os algoritmos funcionarem assim? Em minha opinião não, não está tudo bem. O potencial transformador e os impactos das soluções de IA serão muito grandes e teremos pouco tempo para nos adaptarmos, será produzida muita riqueza e precisamos fazer diferente do que fizemos em outras revoluções do passado.
Não deveria ser nosso objetivo criar uma tecnologia que reproduz e reforce os diversos problemas que enfrentamos na atualidade. E não dá para “passar pano”, para algoritmo quando eles erram porque “é assim que eles funcionam”. Agir dessa forma é negligenciar os riscos e desafios, com a justificativa do puro desenvolvimento tecnológico. As redes sociais estão aí para nos fazer refletir sobre as consequências desse comportamento negligente, em pouco mais de duas décadas transformaram o estilo de vida ao redor do mundo e só recentemente começamos a lidar com os inúmeros problemas introduzidos por elas.
Esperar 20 anos para discutir qualidade e responsabilização relacionados aos algoritmos de Inteligência Artificial pode ser tarde demais para obtermos resultados que transformem nossa sociedade atual em uma sociedade melhor.
