15/08/2019

Cuidado: a Inteligência Artificial pode errar

Reprodução do blog do IMPA Ciência & Matemática, de O Globo, coordenado por Claudio Landim

André Carlos Ponce de Leon Ferreira de Carvalho – Vice-Diretor do Instituto de Ciências Matemáticas e de Computação da Universidade de São Paulo, ICMC-USP

Com uma frequência cada vez maior vejo notícias em jornais, revistas e sites de notícias na internet falando sobre novas aplicações de Inteligência Artificial (IA) com resultados maravilhosos, que superam os obtidos por especialistas humanos ou que aumentam predições corretas ou na descoberta de fatos novos em um área de conhecimento que os melhores especialistas da área desconhecem. São notícias como: “ferramenta de inteligência artificial aumenta em muito o lucro obtido pela empresa X”; “sistema baseado em IA consegue diagnosticar uma dada doença com uma taxa de acerto muito melhor que um bom médico”; ou “algoritmo de IA consegue identificar bandidos observando imagens de rostos em uma multidão”.

Muitas dessas notícias podem ser exageradas ou incorretas, mas isso não ocorre apenas na IA. Qualquer ciência ou tecnologia que desperta curiosidade e interesse da população acaba sendo explorada de forma sensacionalista. É da natureza humana. Algumas vezes, essas notícias tem por objetivo fazer propaganda do produto de uma empresa ou até mesmo de um grupo de pesquisa. Assim, é bom sempre filtrar o que se lê, ter um pé atrás. Pior ainda se for sobre um tema que está na moda.

Esse é o caso da IA, um tema que já esteve na moda outras vezes e está novamente. Estar na moda leva a uma corrida do ouro. Todo mundo quer achar uma pepita e ficar rico. Por que a IA saiu de moda? Porque foram feitas promessas exageradas que levaram ao descrédito, saiu da moda. Por que está de novo? Porque temos mais dados disponíveis, tecnologias avançadas e melhores algoritmos.

Ferramentas comercializadas por empresas, e até mesmo ferramentas científicas, estampam de forma chamativa que utilizam IA. Muitas vezes, o uso é superficial e imperceptível, não tendo nenhum efeito na qualidade da ferramenta. Em alguns desses casos, no entanto, a IA é utilizada de forma incorreta, o que faz com que, ao invés de efeitos positivos, tenha efeitos negativos, piorando a ferramenta em relação a sua versão anterior, fazendo com que ela não entregue o que está prometendo ou até mesmo entregue o contrário do que promete.

Isso acontece porque muitas dessas ferramentas “inteligentes” são desenvolvidas por pessoas que não têm uma formação correta em IA. Muitos são apenas usuários de algoritmos, sem saber bem como funcionam e como usá-los corretamente. Vou fazer uma analogia com dirigir um carro. Em cinco minutos eu posso passar as instruções básicas para que alguém que nunca dirigiu conseguir ligar um carro e sair andando com ele. Mas ele vai dirigir corretamente? Vai usar bem todas as funcionalidades que o carro oferece? Ou vai pôr em risco a vida de pedestres que cruzarem a sua frente?

Quanto mais complexa for a tecnologia, mais conhecimento é necessário para utilizá-la bem. A Inteligência Artifical tem uma forte base matemática, necessária para saber como utilizá-la de forma benéfica. Para usá-la, por exemplo, para analisar dados, dentro da grande área de Ciência de Dados, é preciso pré-processar os dados, conhecer os principais algoritmos de modelagem, quais as melhores opções para conjuntos de dados com certas características, mas, principalmente, seguir a metodologia correta para a realização dos experimentos. Isso também ocorre em outras áreas experimentais. À primeira vista, pode parecer simples, mas o número de possibilidades é praticamente infinito, assim como o de chances de errar.

Para ler o texto na íntegra acesse o site do jornal