Especialistas do Google fazem alerta sobre IAs
Em meio ao debate sobre o impacto das IAs generativas na humanidade, não surpreende que um relatório recente alerte para os riscos da “produção em massa de conteúdo sintético de baixa qualidade, semelhante a spam e prejudicial” por inteligência artifical, que pode gerar desconfiança em todas as informações digitais.
A sobrecarga de conteúdo gerado por ela pode causar fadiga, exigindo que os humanos verifiquem constantemente o que leem, veem e ouvem na internet, sendo a alternativa – a falta de verificação de fatos – ainda pior. Informações do Cnet.
“Essa poluição de dados publicamente acessíveis com conteúdo gerado por IAs pode potencialmente obstruir a recuperação de informações e distorcer a percepção coletiva da realidade sociopolítica ou do consenso científico”, afirmam seis pesquisadores em seu artigo de junho, “Generative AI Misuse: A Taxonomy of Tactics and Insights From Real-World Data”.
Eles observam que já existem casos de ‘dividendos mentirosos’, onde figuras públicas explicam evidências desfavoráveis como sendo fabricadas por IA, transferindo o ônus da prova de maneira custosa e ineficaz.
Por que JAMAIS carregar seu celular no Notebook?
A distorção da realidade e a manipulação da verdade são preocupações crescentes, especialmente em países onde a desinformação já é parte do cotidiano midiático, mesmo antes da IA facilitar a criação de conteúdo falso em texto, imagem e vídeo. Por exemplo, um terço da população dos EUA ainda acredita que a eleição presidencial de 2020 foi fraudulenta, o que não é verdade.
O que surpreende no novo estudo é que o relatório de 29 páginas foi coescrito por pesquisadores de várias divisões do Google, incluindo seu laboratório de pesquisa de IAs DeepMind, sua divisão filantrópica Google.org e Jigsaw, uma incubadora tecnológica focada em segurança e ameaças sociais.
O Google, cujo motor de busca e outros serviços são utilizados diariamente por bilhões, está entre as grandes empresas de tecnologia que mais investem em IA.
É louvável que os pesquisadores destaquem exemplos concretos de como a inteligência artificial generativa pode ser mal utilizada, alertando-nos sobre os riscos potenciais que ainda desconhecemos à medida que a tecnologia avança rapidamente. Mesmo que não haja tempo para ler o relatório completo, é essencial ao menos revisar a introdução e as três descobertas principais.
Primeiramente, o uso indevido das IAs frequentemente visa enganar pessoas, induzindo-as a mudar de opinião ou a realizar ações lucrativas. “A imitação da aparência humana e a fabricação de provas são estratégias comuns nos casos reais de abuso. A maioria foi executada com o claro objetivo de influenciar a opinião pública, facilitar fraudes ou gerar renda”, relatam os pesquisadores.
Em segundo lugar, não é necessário ser um expert em tecnologia para empregar essas ferramentas de forma prejudicial. “Os casos de abuso relatados geralmente não envolvem o uso avançado da tecnologia ou ataques de GenAI, mas sim a exploração de recursos de GenAI de fácil acesso que requerem pouco conhecimento técnico.”
Por fim, e talvez mais alarmante, é que muitos casos de uso indevido “não são necessariamente mal-intencionados ou violam explicitamente os termos de serviço das ferramentas”. Portanto, a forma como construímos essas ferramentas e estabelecemos (ou não) salvaguardas é uma parte significativa do problema.
