O novo sistema ASPIRE do Google ensina à IA o valor de dizer ‘não sei’

Os pesquisadores do Google estão sacudindo o mundo da IA ​​ao ensinar a inteligência artificial a dizer “não sei”. Esta nova abordagem, denominada ASPIRE, poderá revolucionar a forma como interagimos com os nossos ajudantes digitais, incentivando-os a expressar dúvidas quando não têm certeza de uma resposta.

A inovação, apresentada na conferência EMNLP 2023, tem como objetivo incutir um sentimento de cautela nas respostas de IA. ASPIRE, que significa “Adaptação com Autoavaliação para Melhorar a Predição Seletiva em LLMs”, atua como um medidor de confiança integrado para IA, ajudando-a a avaliar suas próprias respostas antes de oferecê-las.

Imagine que você está pedindo conselhos ao seu smartphone sobre um problema de saúde. Em vez de dar uma resposta potencialmente errada, a IA pode responder “Não tenho certeza”, graças ao ASPIRE. Este sistema treina a IA para atribuir uma pontuação de confiança às suas respostas, sinalizando quanta confiança devemos depositar na sua resposta.

A equipe por trás disso, incluindo Jiefeng Chen e Jinsung Yoon do Google, é pioneira em uma mudança em direção a uma tomada de decisão digital mais confiável. Eles argumentam que é crucial para a IA, especialmente quando se trata de informações críticas, conhecer os seus limites e comunicá-los com clareza.

“Os LLMs agora podem compreender e gerar linguagem em níveis sem precedentes, mas seu uso em aplicações de alto risco é limitado porque às vezes cometem erros com grande confiança”, disse Chen, pesquisador da Universidade de Wisconsin-Madison e coautor do papel.

A sua investigação indica que modelos de IA ainda mais pequenos equipados com ASPIRE podem superar os maiores que não possuem esta característica introspectiva. Este sistema cria essencialmente uma IA mais cautelosa e, ironicamente, mais confiável, que pode reconhecer quando um ser humano pode estar mais adequado para responder.

Ao promover a honestidade em vez das suposições, a ASPIRE está preparada para tornar as interações de IA mais confiáveis. Isso abre caminho para um futuro onde seu assistente de IA pode ser um conselheiro atencioso, em vez de um oráculo onisciente, um futuro onde dizer “não sei” é na verdade um sinal de inteligência avançada.