Como resumir documentos grandes com LangChain e OpenAI
22 de abril de 2024Como compreender e melhorar sua experiência de desenvolvedor
23 de abril de 2024Nem toda IA generativa é um chatbot e nem precisa ser. A IA generativa envolve muito mais, disse Rodrigo Coutinho, gerente de produtos de IA da plataforma de desenvolvimento low-code OutSystems.
A empresa lançou recentemente uma nova oferta chamada AI Agent Builder que simplifica o desenvolvimento de agentes de IA para uso organizacional. Os agentes são uma coleção de conexões de modelo, configurações e solicitações, explicou ele.
“A ideia por trás de um agente de IA é dar às pessoas que usam low code a capacidade de acessar as tecnologias GenAI, e então você pode pensar nisso como uma configuração, onde você estabelece qual modelo deseja usar”, disse Coutinho. A nova pilha. “O legal é que isso não só permite que você use o agente no ambiente low-code, então em vez de ter que pensar em todas essas coisas, você simplesmente tem o elemento visual que faz toda essa funcionalidade, mas também permite para darmos um playground para as pessoas experimentarem o agente.”
Os agentes ainda exigem alguma engenharia imediata, mas a interface pronta para uso permite que desenvolvedores e outros experimentem o agente, ajustem-no e tornem-no seu, disse ele.
Três agentes disponíveis imediatamente
A OutSystems oferece três agentes de IA: um que pode lidar com o resumo de chamadas, outro que lida com o desvio de tickets e um agente de chat privado.
O resumo de chamadas simplesmente resume chamadas longas, para que (por exemplo) os vendedores possam carregar um resumo completo em seu aplicativo de vendas ou em outras notas. O desvio de ticket significa que se alguém fizer uma pergunta que normalmente exigiria um ticket de suporte, o agente poderá fornecer uma resposta com base na documentação fornecida. Ele também pode ser conectado a algo como o Zendesk para prosseguir com o envio do ticket. O elemento da interface do usuário também é fornecido imediatamente com o agente de IA, acrescentou.
O chat privado permite que as organizações adotem funcionalidades semelhantes ao ChatGPT sem se preocupar com possíveis problemas de uso de dados e outros problemas relacionados à conformidade levantados pelos chatbots de IA generativos. Todos os agentes de IA são projetados para garantir a privacidade e limitar outros riscos organizacionais associados às GPTs públicas.
“Toda a arquitetura foi feita pensando em ser utilizada em nossos sistemas, no sentido de disponibilizarmos um elemento local que expõe o agente e que é muito fácil de chamar”, disse. “Se você quiser usar o agente de um aplicativo de terceiros ou fazer uma integração, é bastante simples no sentido de que você pode criar um aplicativo OutSystem, onde apenas o expõe como uma API REST.”
Simplificando o desenvolvimento de IA
Embora os desenvolvedores tendam a associar o low-code aos desenvolvedores cidadãos, os agentes de IA também simplificam os esforços de desenvolvimento para os programadores, disse Coutinho.
“É muito fácil para qualquer um, com algumas configurações, criar um agente que seja realmente útil e que tenha algo que impacte o negócio”, disse. “Além disso, porque após a configuração, você tem o playground, para poder ajustar e iterar o agente que fez até ficar satisfeito com os resultados.”
Os agentes podem ser usados e reutilizados em qualquer aplicação, acrescentou.
“Você pode ter múltiplas interfaces usando o mesmo agente”, disse ele. “Poderíamos ter uma interface mais próxima de um chatbot ou algo mais próximo de um fórum e tudo isso é um elemento visual. É muito fácil reutilizar isso em toda a organização.”
Atualmente, os desenvolvedores podem escolher entre os modelos de base Azure OpenAI ou AWS Bedrock, integrá-los às fontes de conhecimento organizacional e inserir instruções em linguagem natural para uso dentro dos aplicativos. A OutSystems também incorporou proteções para controlar o acesso e o monitoramento de desempenho, incluindo suporte de segurança.
“Queremos ter certeza de que o modelo de usuário garante privacidade e segurança no acesso aos dados e, assim, ao dar aos desenvolvedores um agente, em vez de dar acesso direto a esses modelos, você garante que eles usem o agente certo”, disse ele.
O mesmo se aplica aos dados, acrescentou. Quando os desenvolvedores configuram o agente, a plataforma garante que os dados não contenham dados confidenciais que uma organização não gostaria que fossem expostos, disse ele. Ele também monitora coisas como o uso de tokens para que os usuários estejam cientes dos custos de cada modelo e da quantidade de informações que cada modelo fornece, acrescentou.
“Um agente também tem dados associados, então é muito fácil controlar que tipo de dados e o que você deseja fornecer ao agente para dar as respostas aos clientes”, disse ele. “Mesmo que não vá para o modelo, você também quer ter cuidado com os dados que vão para os clientes. Você não quer que dados privados vazem.”
Ele também pode simplificar o combate às alucinações, simplificando a conexão com outro modelo e fazendo com que ele verifique as respostas de um modelo em busca de possíveis alucinações.
“O legal de ter esses agentes disponíveis em low code é que é muito fácil orquestrar essas coisas”, disse Coutinho.
Por exemplo, a OutSystems criou a sua própria tradução dos seus fóruns do inglês para o japonês. A primeira coisa que foi necessária foi garantir que o inglês estava correto, disse ele, porque a empresa tem muitos falantes não nativos que “são muito criativos no uso do inglês, inclusive eu”, disse Coutinho.
“Portanto, a primeira coisa que você precisa fazer é pedir à IA para pegar essa frase em inglês e torná-la boa e depois traduzi-la para o japonês”, explicou ele. “Usando low code, isso é muito fácil de usar porque você só tem alguns elementos visuais, conecta tudo e tem uma maneira visual de entender o que está acontecendo. O mesmo se aplica à verificação de alucinações. Você pode ligar para o modelo e depois ter outro agente que valide se está dentro dos padrões que você esperaria.”
Casos de uso criativos de IA
A OutSystems planeja adicionar modelos LLM adicionais no futuro, incluindo modelos para lidar com imagens e vídeos.
“Queremos expandir também com mais exemplos, tanto do lado do agente para ajudar as pessoas a criar produtos melhores, quanto no site de amostra para inspirar”, disse ele. “Estamos cientes de que muitas empresas sabem que a GenAI pode ajudá-las a ser mais produtivas e eficazes, mas precisam de um pouco de inspiração para compreender exatamente o que é possível. Continuaremos desenvolvendo o construtor AI Agent para fornecer esses exemplos.”
Além dos casos de uso previsíveis, os clientes têm usado os agentes para ajudar os funcionários a serem mais produtivos com planilhas de horas perdidas, disse Coutinho. Os funcionários descrevem o que fizeram durante a semana e a IA permite que preencham rapidamente suas planilhas de ponto.
Os clientes também estão usando a função de chat privado para extrair informações de entradas baseadas em texto, como nome ou informações de e-mail. Então, essas informações podem ser usadas para criar conjuntos de dados estruturados, disse ele.
Uma empresa está usando os agentes para extrair informações de todos os formulários de emprego, currículos e currículos que recebem de um anúncio de emprego, acrescentou.
“Estou muito curioso para ver o que as pessoas farão com isso”, disse ele. “Nossos clientes têm muita imaginação. Estou realmente ansioso para ver o tipo de ideias originais que surgirão disso”
A postagem IA generativa de baixo código: nova solução torna a IA mais fácil de criar apareceu pela primeira vez em The New Stack.