Usando RAG baseado em SQL para analisar melhor os dados do banco de dados com GenAI

Você sabe que sua organização precisa começar a aproveitar a IA generativa (GenAI). Mas como você pode começar? Com os dados armazenados em bancos de dados que contêm informações críticas da sua empresa, a aplicação de grandes modelos de linguagem (LLMs) a esses dados pode parecer complexa. No entanto, você pode realmente começar a usar LLMs para analisar seus dados no Oracle Autonomous Database em apenas alguns minutos usando a geração aumentada de recuperação (RAG) com tecnologia SQL.

O que é geração aumentada de recuperação (RAG)?

O RAG permite aplicar o poder dos LLMs (por exemplo, criatividade, compreensão profunda das nuances da linguagem) a informações sobre as quais os modelos sabem pouco ou nada. Essa falta de conhecimento pode ser porque a informação é privada (por exemplo, no seu banco de dados) ou mais recente que os dados de treinamento do modelo. Ao aumentar o conteúdo gerado por IA com informações confiáveis, o RAG pode ajudar a melhorar a precisão, a relevância e a confiabilidade dos resultados do GenAI.

O RAG é geralmente associado a bancos de dados vetoriais, que ajudam a fornecer contexto a um LLM, permitindo a recuperação super-rápida de dados semelhantes de mecanismos de armazenamento (por exemplo, dados não estruturados, PDFs, documentos), em vez de apenas correspondências exatas de palavras-chave. Para obter insights usando RAG:

1. Defina sua tarefa usando linguagem natural.
2. Execute uma pesquisa de similaridade vetorial em seus dados para obter contexto.
3. Passe essas informações para o LLM.

Agora você pode responder a uma pergunta em linguagem natural como: “Meu cliente acha este condomínio lindo. Que outros condomínios na área de Boston se parecem com esse e estão na faixa de preço dela? Isso retorna casas de aparência semelhante que ela pode pagar com base na semelhança de imagens e em suas informações financeiras privadas contidas no banco de dados.

O que é RAG baseado em SQL?

Existem outras maneiras de fornecer contexto a um LLM que são mais simples, mas talvez não tão poderosas quanto as descritas acima. Essa abordagem funciona com os dados acessíveis à implantação do Autonomous Database (por exemplo, tabelas internas, data lakes, tabelas vinculadas). Para usar RAG com Autonomous Database:

1. Defina sua tarefa usando linguagem natural.
2. Forneça uma consulta SQL em seus dados para obter contexto.
3. Passe essas informações para o LLM.

Conceitualmente, isso é muito semelhante ao uso do RAG com bancos de dados vetoriais. Aqui está um exemplo de aplicação dessas etapas no Autonomous Database usando um aplicativo Oracle APEX de amostra.

Usando RAG baseado em SQL

O Autonomous Database fornece um recurso chamado Select AI que permite usar LLMs com seus dados. Uma maneira popular de usar o Select AI é para consultas em linguagem natural (consulte Autonomous Database fala “humano” e Conversas são a próxima geração em consultas de linguagem natural).

Isso é um pouco diferente das consultas em linguagem natural; em vez de gerar uma consulta, combina os resultados de uma consulta SQL com instruções de tarefa para produzir um prompt. Esse prompt é passado para um LLM e processado, produzindo uma recomendação, um resumo ou o que quer que seu projeto tenha solicitado. Para fazer isso funcionar:

1. Conecte o Autonomous Database a um LLM, como o Cohere no OCI Generative AI.
2. Use uma linguagem natural para dizer ao LLM o que você deseja realizar.
3. Defina uma consulta que contenha as informações que você deseja analisar.
4. Empacote os dados e as instruções em um prompt “aumentado”.
5. Envie o prompt aumentado para o LLM e obtenha seus resultados.

A seguir estão exemplos de código para cada uma dessas etapas. Confira este workshop do LiveLabs se quiser executar as etapas sozinho.

1. Conecte o Autonomous Database a um LLM

Select AI usa um perfil de IA para encapsular informações de conexão a um provedor de IA. Crie um perfil usando o procedimento PLSQL DBMS_CLOUD_AI.create_profile:

• Este perfil se conecta ao OCI Generative AI, mas você pode se conectar a outros provedores, como OpenAI e Azure OpenAI.
• OCI Generative AI oferece suporte a vários modelos; o acima se conecta ao comando cohere.LLM.
• Uma credencial é usada para assinar a solicitação. Isso usa uma entidade de recurso do Autonomous Database, o que significa que sua instância de banco de dados precisa de acesso ao serviço OCI Generative AI usando uma política de gerenciamento de identidade (IAM). Para serviços como o Azure OpenAI, as credenciais devem ser criadas usando a sua chave API secreta.

2. Use linguagem natural para dizer ao LLM o que você deseja fazer

Há uma ciência emergente em torno da engenharia imediata tentando responder à pergunta: “Qual a melhor forma de dar instruções ao LLM?” Você vai querer testar diferentes prompts para ver o que dá os melhores resultados. Aqui está um exemplo:

Escolha 5 ótimas coisas para fazer no local

1. Incentive o cliente a seguir essas recomendações.
2. Leve em consideração todas as informações fornecidas sobre o cliente, incluindo situação familiar ou canina, se ele possui ou não carro e sua faixa de renda.
3. Formate o resultado com emojis e torne-o divertido.

3. Defina uma consulta com as informações que deseja analisar

O LLM não tem conhecimento sobre a pessoa que viaja para aquele local. Forneça uma consulta ao banco de dados que complemente as instruções com o perfil do viajante:

4. Empacote os dados e instruções em um prompt aumentado

Você deseja fornecer instruções claras ao LLM para ajudá-lo a produzir os melhores resultados. Fornecer um documento JSON é uma ótima maneira de organizar essas instruções e é incrivelmente fácil empacotar consultas SQL como JSON usando a função JSON_OBJECT integrada do Autonomous Database:

Esta consulta retorna um documento JSON bem estruturado:

5. Envie o prompt aumentado para o LLM e obtenha seus resultados

Select AI fornece uma função simples, DBMS_CLOUD_AI.GENERATE, para se comunicar com o LLM. Utiliza o(s) perfil(s) criado(s) anteriormente, facilitando o teste de resultados de diferentes fornecedores:

Confira os resultados de Jennine:

Aqui estão cinco recomendações de atividades para você em Paris, levando em consideração suas preferências e situação:

1. 🥂 Visite a Torre Eiffel e faça um piquenique romântico com seu cônjuge. 🍽️ Aproveite as vistas deslumbrantes da Cidade do Amor enquanto saboreia algumas iguarias francesas. Não se esqueça de tirar algumas fotos para suas memórias!

2. ✨ Mergulhe na cena artística do Museu do Louvre. 🎨 Explore a vasta coleção de obras-primas e perca-se nos corredores que abrigam obras de arte icônicas como a Mona Lisa. Aproveite o tempo para apreciar a diversidade de formas de arte e obtenha uma compreensão mais profunda da história e da cultura da França.

3. 🚶 Experimente o charme de Montmartre e passeie pelas ruas de paralelepípedos. ✨ Descubra o bairro vibrante adorado por artistas como Picasso e Van Gogh. Aprecie as vistas deslumbrantes da cidade do topo da Basílica de Sacré-Cœur enquanto aprecia o ambiente encantador deste bairro parisiense único.

4. ☕️ Mime-se com um luxuoso coffee break em um café pitoresco. 🧐 Enquanto explora a cidade, faça uma pausa num encantador café e delicie-se com os melhores doces franceses e café aromático. Desfrute de observar as pessoas e tenha uma ideia do estilo de vida local.

5. 🐶 Se você adora animais, considere visitar o Jardin du Luxembourg. 🐶 Este exuberante parque não é apenas um ótimo local para relaxar e apreciar a natureza, mas também possui uma área dedicada onde você pode admirar os adoráveis ​​gatos vadios que perambulam por aí. Você também pode trazer seus próprios lanches para alimentar os gatos, se desejar.

Espero que estas sugestões ajudem! Se você tiver alguma preferência ou informação adicional que gostaria que eu considerasse, entre em contato e teremos prazer em fornecer recomendações mais personalizadas.

Tenha um tempo maravilhoso em Paris!

Observe que, embora as sugestões acima sejam principalmente para sua diversão, é sempre uma boa ideia fazer uma pesquisa completa e fazer reservas ou reservas com antecedência para garantir uma experiência tranquila durante sua visita a Paris.

Boa viagem e aproveite sua estadia!

Acho que Jennine vai se divertir muito em Paris!

Resumo

GenAI é incrivelmente poderoso e, com as ferramentas certas, você pode aplicá-lo facilmente aos dados da sua organização. Leve-o para dar uma volta! Confira os links para obter experiência prática.