14/11/2024

Riscos e inovação por trás da personificação da IA

A personificação dos sistemas de inteligência artificial (IA) e assistentes virtuais é uma nova tendência no mercado de tecnologia e comunicação. Os impactos éticos e os riscos da aplicação dessa nova IA “mais inteligente” devem ser considerados, ao mesmo tempo em que se desenvolve a tecnologia. É desta forma que o pesquisador do IMPA e líder do Visgraf (Laboratório de Visão e Computação Gráfica do IMPA), Luiz Velho, e o diretor do VFXRio, Matteo Moriconi, encaram esse desafio. Eles estão trabalhando no robô Celestia Borealis, que está sendo treinado para incorporar personalidade no atendimento de demandas.

“Estamos explorando possibilidades para verificar a efetividade do uso dessa personalidade. Na nossa área, é muito importante desenvolver, testar e depois levar para a sociedade. Estamos fazendo exatamente isso. Desenvolvendo, testando e dialogando com grandes empresas de inovação, grupos de pesquisa e intelectuais. Isso já é uma maneira de colocar os resultados a serviço da sociedade”, contou Velho.

O trabalho foi apresentado em uma palestra no IMPA, no fim de setembro, com transmissão ao vivo pelo YouTube. Velho e Moriconi compartilharam a evolução das assistentes virtuais, que passaram de serviços simples de transcrição de texto para ferramentas mais avançadas, com capacidades de voz e imagem. Eles também projetaram perspectivas futuras para o uso da IA, especialmente considerando as novas técnicas de personalização e recursos avançados.

“Essa palestra é uma continuação do nosso trabalho. Temos o conceito de Personal Digital Assistant, que inicialmente não era inteligente. Com o IA, começamos a ter serviços inteligentes, nos quais podemos conversar, como o ChatGPT. Essa conversa até então era com um assistente neutro, mas, agora, é possível colocar personalidade nesses agentes virtuais para diversas finalidades. E isso tem uma série de implicações”, explicou Velho.

Na palestra, eles apresentaram testes com a Celestia Borealis, robô experimental da pesquisa. Um exemplo demonstrado foi o uso de RAG (Retrieval Augmented Generation), no qual a assistente virtual ganha um tipo de memória e estabelece uma interface que interage com o humano para responder questões.

Celestia Borealis

Outra inovação demonstrada foi o Multicasting/Multimodal, sistema que está sendo desenvolvido pelos pesquisadores. A ideia é que a IA realize análises baseadas em uma persona, podendo utilizá-la para interpretar imagens, por exemplo.

Moriconi citou exemplos da captação dos sentimentos pela IA a partir do Multicasting. Um dos testes foi feito com uma foto de atletas nos Jogos Olímpicos de 2024. O trabalho do sistema foi avaliar e interpretar os sentimentos e emoções que poderiam estar envolvidos na imagem das jogadoras de vôlei do Brasil.

“O Multicasting, da maneira como a gente desenvolveu, pode criar personas que interpretam imagens. Então, baseado na persona que a gente definiu no Multicasting, passamos a imagem das jogadoras de vôlei chorando e pedimos o Multicasting para analisar. Então, a análise foi, de certa maneira, profunda, porque teve o fator emocional. Identificou descontentamento, tristeza, empatia e suporte. O sistema conseguiu decupar a imagem em vários níveis emocionais”, disse Moriconi.

Pesquisa avalia impactos sociais da IA

Um grande objetivo desse trabalho é considerar e avaliar as implicações sociais da incorporação de personalidade nas assistentes virtuais. Os testes são importantes porque, como defendem os pesquisadores, existem riscos nessa inovação.

“Temos muitas repercussões sociais envolvidas nisso. Por exemplo, nos jogos temos os agentes que chamamos de non-playable characters (NPCs), que são personagens que inicialmente só obedeciam algumas regras. Mas, agora, eles são inteligentes e têm personalidade. Um adolescente que joga pode estar falando constantemente com uma inteligência artificial. Se não existirem certos cuidados, isso pode influenciar negativamente”, ressaltou Velho.

Por isso, boa parte da pesquisa se concentra em compreender de que forma utilizar esses novos recursos com um retorno social positivo. “Procuramos pensar como o que estamos fazendo vai reverter positivamente. Então, essa palestra reflete nossa base para construir assistentes virtuais que combinam inteligência e personalidade, aplicando essa personalidade para um propósito benéfico”, contou Velho.

A pesquisa

A pesquisa teve início no fim de 2023 e tem como principal objetivo a compreensão de forma mais profunda da interface do homem com a máquina e a evolução do ambiente digital. O trabalho contempla a atuação da inteligência artificial no âmbito das mídias digitais e projeta os mundos possíveis da inteligência artificial.

Neste momento, os pesquisadores estão em fase de divulgação dos resultados do trabalho. Para isso, está sendo realizada uma série de seis palestras disponível numa playlist no canal YouTube do Visgraf. Essa última conferência – realizada no IMPA – é a quinta da série.

As três primeiras palestras reúnem a base da pesquisa, com uma apresentação de conceitos. A primeira delas abordou o contexto histórico da inteligência artificial. A segunda mostra a integração com as mídias e a existência de um ambiente que mistura realidade real, virtual e aumentada. A terceira contempla o uso de IA nas mídias sociais, como WhatsApp ou ChatGPT, que são cada vez mais parte do dia a dia.

Nas demais palestras, a ideia tem sido apresentar os resultados de pesquisa em uma abordagem mais prática e técnica. Velho e Moriconi têm demonstrado uma série de dispositivos que podem ser potencializados pela IA e estão integrados com recursos da web, das comunicações e da computação em nuvem.