Deepset levanta US$ 30 milhões para ajudar empresas a desbloquear o valor dos LLMs

A Deepset, com sede na Alemanha, uma startup que ajuda empresas a desbloquear o valor de grandes modelos de linguagem (LLMs) em seus fluxos de trabalho, anunciou hoje US$ 30 milhões em uma nova rodada de financiamento. A empresa disse que usará o capital para desenvolver ainda mais sua oferta comercial, Deepset Cloud, com novos recursos, incluindo otimizações para configurações de nuvem privada virtual (VPC) e foco no lado da observabilidade.

O investimento foi liderado pela Balderton Capital com a participação dos investidores existentes da empresa GV (Google Ventures), Harpoon, System.One e Lunar. Isso eleva o capital total levantado pela Deepset para US$ 46 milhões. Apoiadores anteriores da empresa incluem Alex Ratner da Snorkel AI, Mustafa Suleyman da Deepmind, Spencer Kimball da Cockroach Labs, Jeff Hammerbacher da Cloudera e Emil Eifrem da Neo4j.

O desenvolvimento surge num momento em que empresas de todos os setores e de todo o mundo procuram aproveitar o poder dos grandes modelos de linguagem nos seus sistemas internos para enfrentar melhor o desafio dos crescentes volumes de dados e fazer com que as suas equipas funcionem de forma mais eficiente.

Como o Deepset fornece suporte LLM?

Até 2025, espera-se que a esfera de dados global cresça para 163 zettabytes. Desse total, os dados dos sistemas corporativos representarão quase 60%, o que significa que as equipes terão uma montanha de dados para lidar. Isso tornará a busca, recuperação, resumo e análise de informações relevantes relacionadas ao trabalho uma tarefa e tanto.

Agora, embora grandes modelos de linguagem possam ser treinados para desenvolver a intuição linguística e a semântica, utilizá-los para enfrentar este desafio em aplicações empresariais pode ser uma tarefa e tanto, especialmente para empresas que não utilizam IA. É aqui que entra o Deepset.

A empresa oferece uma estrutura de código aberto – chamada Haystack – que permite aos desenvolvedores escolher os componentes necessários para um projeto de PNL moderno, desde LLMs proprietários e de código aberto e bancos de dados vetoriais até conversores de arquivos e modelos de incorporação de texto. Depois que os componentes são escolhidos, a estrutura os conecta a pipelines ou agentes para construir aplicativos orientados a LLM.

Esse aplicativo pode ser qualquer coisa, desde um mecanismo de busca semelhante ao Google para documentos da empresa até IA de conversação e um poderoso suporte técnico interno.

A Deepset começou há cinco anos com soluções de PNL personalizadas e seguiu esses esforços com o lançamento do Haystack em 2019. No ano passado, ela expandiu seu portfólio com deepset Cloud, uma plataforma de nuvem independente de modelo e com certificação SOC 2 que permite que equipes de IA construam soluções personalizadas e sistemas LLM flexíveis, mantendo a propriedade total de seus dados. Esta é a oferta comercial da empresa.

Conforme explica a empresa, o deepset Cloud cobre todo o ciclo de vida de um aplicativo moderno de PNL – experimentação, produção e observabilidade – ao mesmo tempo que facilita a comparação e o intercâmbio de diferentes modelos de linguagem. Oferece às partes interessadas um ambiente unificado para trabalhar com prototipagem rápida, ciclos de feedback frequentes e fácil personalização.

“As empresas podem obter enormes benefícios ao aproveitar a tecnologia LLM. Na Deepset, fornecemos uma plataforma que ajuda a unir décadas de pesquisa em aprendizado de máquina e ciência da computação em aplicativos prontos para produção. Da mesma forma que você não precisa saber muito sobre arquitetura de microchip para escrever software, você não precisa ser um pesquisador científico de PNL ou LLM para usar nossa estrutura Haystack e deepset Cloud”, disse Milos Rusic, cofundador da Deepset. em um comunicado.

A forte empresa de 50 pessoas trabalha com empresas no Reino Unido, na Europa e na editora jurídica dos EUA, Manz, por exemplo, conseguiu usar o deepset Cloud para desenvolver produtos habilitados para LLM com o objetivo de ajudar a encontrar precedentes, regulamentações relevantes, modelos e muito mais de milhões de pessoas. de documentos.

Enquanto isso, a equipe de P&D da fabricante de aeronaves Airbus está usando o Haystack para construir um aplicativo que ajuda os pilotos a descobrir e usar as diretrizes de operação de aeronaves mais relevantes diretamente do cockpit. A estrutura de código aberto teve um aumento de 250% no número de usuários ativos, segundo a empresa.

Planeje fazer mais

Com esta ronda de financiamento, a empresa planeia continuar a expansão internacional e desenvolver os seus produtos com novas capacidades.

“Faremos isso refinando aplicativos deepset Cloud para RAG (geração aumentada de recuperação): em particular, melhorando a avaliação de cada componente em um pipeline RAG. Também nos concentraremos em tornar a plataforma viável para clientes com fortes restrições de privacidade, otimizando as configurações de nuvem privada virtual (VPC)”, disse a empresa em um blog.

Além disso, ele se concentrará na diversificação e melhoria da observabilidade do LLM na nuvem profunda, dando aos clientes confiança no desempenho de seus aplicativos LLM em ambientes de produtos, disse o post do blog.