Docker lança GenAI Stack e AI Assistant na DockerCon

Docker revelou duas novas soluções de inteligência artificial na DockerCon da semana passada: uma pilha generativa de IA para ajudar os desenvolvedores a começar a criar seus próprios aplicativos de IA, e Docker AI, que é projetado para ajudar os desenvolvedores a implantar e otimizar o próprio Docker.

É a primeira oferta de IA para um produto que é frequentemente usado para construir ferramentas populares de IA, como Hugging Face e Replicate. Muitos expõem as interfaces para suas comunidades como um contêiner Docker e pedem que suas comunidades enviem modelos para seus serviços como imagens de contêiner Docker, de acordo com Scott Johnston, CEO da Docker.

“Imagens de contêiner são chamadas de imutáveis, o que significa que são reproduzíveis”, disse Johnston ao New Stack. “Quando você faz modelagem, ciência e análise científica, você quer ser capaz de reproduzir os resultados independentemente do colega, independentemente da situação. Portanto, o fato de a imagem do contêiner ser imutável realmente ajuda nisso.”

Docker tem trabalhado com essas comunidades upstream para fornecer imagens confiáveis ​​para atividades e aplicativos de IA/ML há anos, acrescentou.

“Com o aumento do interesse nesta categoria, nos últimos anos vimos os downloads dispararem”, disse ele. “Estamos vendo a comunidade baixá-los, fazer seus próprios ajustes, ajustá-los e, em seguida, empacotá-los novamente como contêineres Docker e compartilhá-los entre si por meio do Hub.”

Hub é o serviço de registro público do Docker para imagens Docker. Possui mais de 500 imagens de IA sendo compartilhadas por meio do Hub, acrescentou.

Uma resposta a uma pergunta da comunidade

A comunidade do Docker perguntou como eles podem começar a usar as tecnologias de IA/ML, disse Johnston.

“Ouvimos muito da nossa comunidade de desenvolvedores: ‘Como posso começar? Que tecnologia posso usar? Eles são seguros para uso?’”, Disse Johnston.

Durante a palestra de quarta-feira da DockerCon, a Docker respondeu a essa pergunta anunciando seu GenAI Stack. GenAI Stack combina tecnologias e ferramentas do Docker e dos parceiros Neo4j, LangChain e Llama. É uma solução pré-configurada com Llama fornecendo o modelo de linguagem grande, Neo4j fornecendo os bancos de dados vetoriais e gráficos e a estrutura LangChain.

“Definimos uma pilha GenAI que aborda os casos de uso mais comuns em IA generativa, empacotamos cada uma dessas tecnologias como um contêiner Docker e depois colocamos o Docker Compose em torno dela”, disse ele. “Eles não precisam sair e procurar os bits e bytes. Eles não precisam remendar tudo. Eles não precisam configurá-lo. Está pronto para ir.”

Os desenvolvedores podem começar em cinco minutos, ver o impacto de seu trabalho e iterar a partir daí, acrescentou.

E um para crescer

A segunda oferta lançada na quarta-feira foi o Docker AI, um bot generativo projetado para auxiliar no uso do Docker. Ele é treinado nos arquivos Compose do Docker e na biblioteca de erros que vem dos produtos e ferramentas do Docker, disse Johnston. Não há dados de clientes envolvidos, acrescentou.

Embora o Copilot e a IA de conclusão de código semelhante abordem 10 ou 15% de um aplicativo, os aplicativos também geralmente utilizam um banco de dados, um servidor web, um front-end e imagens de base.

Essa porcentagem restante é onde o Docker já atua, fornecendo imagens de contêiner e arquivos Docker Compose para definir outras partes do aplicativo em torno do código-fonte, disse ele. O Docker AI, então, complementa as IAs de conclusão de código abordando os 85-90% finais.

“O Docker já está fornecendo imagens de contêiner, arquivos Docker e arquivos Compose para definir essas outras partes do aplicativo em torno do código-fonte”, disse ele. “O que isso faz é nos dar esta maravilhosa oportunidade de complementar os Copilots e os Ghostwriters com uma IA que aborda esses 85% de que estamos falando.”

A IA foi projetada para se integrar ao fluxo de trabalho do desenvolvedor, ajudando os desenvolvedores a resolver problemas ou bugs que, de outra forma, poderiam tirá-los do fluxo, acrescentou. Ele se integra aos ambientes de desenvolvimento de Internet do Visual Studio Code e JetBrain.

“Você pode pensar nisso – não como um substituto para um humano – mas como um traje mecânico para o humano”, disse ele. “Queremos mantê-los no estado de fluxo, iterando, construindo e evoluindo sem que eles passem para terceiros.”

O assistente de IA está atualmente disponível por meio de aplicativo em um programa de acesso antecipado do Docker.

A postagem Docker lança GenAI Stack e AI Assistant na DockerCon apareceu pela primeira vez em The New Stack.