Navegar

21/03/2022

Em artigo, Roberto Imbuzeiro fala dos riscos e potenciais da IA

Imagem: Pixabay

Da medicina ao direito, a Inteligência Artificial (IA) oferece um mundo de possibilidades e aplicações e está revolucionando a forma como vivemos. Em artigo publicado na Revista da Amperj (Associação do Ministério Público do Estado do Rio de Janeiro), o pesquisador do IMPA Roberto Imbuzeiro escreveu sobre o potencial e riscos dessa tecnologia. Para Imbuzeiro, os avanços mais recentes da IA se explicam por três fatores: “a fartura de dados de vários tipos no mundo contemporâneo; o poder computacional crescente, que permite explorar esses dados; e uma metodologia para o computador ‘aprender.”

O artigo destaca ainda alguns riscos que a ferramenta traz, como questões éticas que envolvem a redução de postos de trabalho e a reprodução de preconceitos. Para atravessar estes problemas, Imbuzeiro ressalta que será fundamental compreender a IA de forma mais profunda. “Nosso objetivo é usar as Ciências Matemáticas para tornar a Inteligência Artificial não só mais eficiente, como também mais confiável”, afirma o pesquisador.

Leia mais: Software do IMPA auxilia no trabalho de mineração
Erro de cálculo criou submarino que afunda como pedra
NFTs inflam debate sobre propriedades digitais e arte

Confira o artigo na íntegra:

Inteligência Artificial: potencial e riscos

Por Roberto Imbuzeiro Oliveira

* Artigo originalmente publicado na edição 27 (fevereiro/22) da Revista da Amperj.

Máquinas que pensam por conta própria povoam a imaginação humana há tempos. De certa forma, a computação tornou real essa possibilidade. Ao longo dos séculos, filósofos e matemáticos como Raimundo Lúlio, Gottfried Leibniz e Blaise Pascal mostraram que raciocínios lógico-matemáticos podiam ser automatizados. Daí surgiram as calculadoras e, mais tarde, os computadores, pelas mãos de von Neumann, Turing e outros. 

A Inteligência Artificial, ou IA, busca dar um passo além da lógica simples, criando sistemas computacionais capazes de inteligência de outros tipos. A construção de uma “IA geral” – capaz de realizar qualquer tarefa intelectual – ainda é uma possibilidade distante, mas tem havido enorme progresso na sua aplicação a áreas específicas. Assim, nos últimos 10 a 15 anos, máquinas passaram a ser capazes de identificar os objetos em uma imagem melhor que um humano; compor músicas que soam como as que ouvimos no rádio; e traduzir textos com alta qualidade, dentre inúmeras outras tarefas. Hoje, todas as maiores empresas de tecnologia têm grandes projetos em Inteligência Artificial. 

Os avanços recentes de IA são baseados em três pilares: a fartura de dados de vários tipos no mundo contemporâneo; o poder computacional crescente, que permite explorar esses dados; e uma metodologia para o computador “aprender”. Este último pilar é baseado na ideia matemática de “otimização”: a máquina reiteradamente tenta reproduzir por conta própria os padrões nos dados e vai se ajustando para melhorar após cada tentativa. A chave é que o computador é capaz de fazer isso muitas vezes em pouco tempo, alcançando excelente performance em diversos casos. 

A Inteligência Artificial oferece um mundo de possibilidades, inclusive em áreas fundamentais como a Medicina e o Direito. No Centro Pi (Centro de Projetos e Inovação IMPA), em parceria com a Dasa (líder em diagnóstico médico com imagem), desenvolvemos métodos de IA para a análise de ressonância magnética fetal. Outras profissões virão a se beneficiar de sistemas auxiliares inteligentes. 

No Direito, a partir de grandes bancos de dados, já é possível entender padrões e prever sentenças de magistrados, investigar fraudes, analisar documentos, prevenir crimes e analisar riscos e controvérsias, especialmente em demandas de massa. Há quem defenda até a substituição de operadores do Direito por softwares, como o professor de Harvard Ron Dolin, para quem é melhor ser defendido por um software do que não ter representação. 

No entanto, a IA também traz riscos. Um deles é a redução de postos de trabalho pela automação crescente (a Deloitte prevê a substituição de 100 mil empregos no Direito até 2036); ironicamente, até a programação de computadores está ameaçada. Questões éticas e legais difíceis podem acontecer porque os métodos de IA tendem a reproduzir os preconceitos, vieses e lacunas que vêm embutidos nos dados. Um programa treinado só com dados de pessoas brancas pode não funcionar para outras de pele escura. Casos grotescos envolvendo “IA racista” já ocorreram na vida real em empresas como Google e Twitter. 

Com todas as dificuldades, a IA veio revolucionar o mundo. Para que beneficie todos, será fundamental compreendê-la de forma mais profunda. Nosso objetivo é usar as Ciências Matemáticas para tornar a Inteligência Artificial não só mais eficiente, como também mais confiável.

Roberto Imbuzeiro Oliveira é pesquisador titular do IMPA (Instituto de Matemática Pura e Aplicada), doutor em Matemática pela Universidade de Nova York e membro do Centro Pi (Centro de Projetos e Inovação IMPA).

Leia também: Na Folha de S. Paulo: constantes mais famosas da matemática
Matemáticos são essenciais para desafios atuais, Unesco aponta