Cloud to Edge AI com uma plataforma de banco de dados móvel

Edge computing é uma arquitetura técnica que estende o processamento de dados da nuvem até a borda, aproximando-o do ponto de interação, inclusive em dispositivos móveis. Do ponto de vista do banco de dados, uma arquitetura típica inclui um banco de dados na nuvem, um banco de dados na borda em um data center de borda e bancos de dados incorporados executados em aplicativos em dispositivos de ponta, como telefones e tablets, todos vinculados por meio de sincronização de dados para maior consistência. As plataformas de banco de dados móveis modernas combinam todos esses recursos.

Uma típica arquitetura de computação de ponta

Essa arquitetura oferece quatro vantagens distintas para aplicativos:

1. Velocidade — Ao processar os dados mais perto do ponto de interação, a distância que eles precisam percorrer é reduzida, reduzindo drasticamente a latência do aplicativo.
2. Resiliência — Ao processar dados na borda, você reduz as dependências de uma Internet inerentemente não confiável para dados, reduzindo o tempo de inatividade do aplicativo. Se qualquer camada upstream da arquitetura for interrompida, os aplicativos downstream não serão afetados.
3. Gestão de dados — Com a edge computing, os dados confidenciais nunca precisam sair da edge.
4. Eficiência de largura de banda — Ao distribuir o armazenamento de dados até a borda, você reduz o uso de largura de banda e os custos de saída de extração de dados da nuvem.

Quando aplicadas a um sistema de IA, as vantagens da computação de ponta podem acelerar e ampliar enormemente as capacidades da IA, tanto no treinamento de algoritmos de aprendizagem, quanto na aplicação prática de modelos.

IA ‘híbrida’ é centralizada e descentralizada

Um artigo recente da Forbes fala sobre a noção de que “o futuro da IA ​​é híbrido”, o que significa que a IA precisa da capacidade de processar dados tanto na nuvem quanto na borda para realizar todo o seu potencial. No artigo, o autor afirma:

“A IA precisa de um lugar poderoso e estável para treinamento e inferência de modelos, que exigem enormes quantidades de espaço para processar cargas de trabalho complexas. É aí que entra a nuvem. Ao mesmo tempo, a IA também precisa acontecer rapidamente. Para ser útil, ele precisa ser processado mais próximo de onde a ação realmente acontece – a borda de um dispositivo móvel.”

Esta observação destaca a noção de que a IA alimentada por LLM é gravitacionalmente centralizada, enquanto a criação e o consumo dos dados que utiliza e produz serão descentralizados e altamente distribuídos.

O aspecto híbrido da IA ​​descrito no artigo pode ser alcançado de maneira elegante com uma arquitetura de computação de ponta, onde a nuvem, o data center de ponta e os dispositivos de ponta não são ambientes separados, por si só, mas na verdade são camadas dentro de um ecossistema de processamento de dados vinculado. através da sincronização.

Neste modelo, as cargas de trabalho de IA podem ser processadas onde for mais apropriado: o treinamento de IA com aprendizado profundo ocorre em imensas quantidades de dados na nuvem central, onde o armazenamento e a potência são limitados apenas pelo orçamento, enquanto modelos menores de IA com aprendizado de máquina podem ser executados diretamente na borda. em dispositivos de ponta, onde podem fazer coisas como fazer recomendações imediatas a um usuário com base em dados locais e na situação atual.

O que é necessário para facilitar o conceito de IA híbrida é um banco de dados construído para computação de ponta que também suporte IA.

O principal ingrediente da IA: dados

Independentemente das técnicas ou algoritmos utilizados, a espinha dorsal e o recurso mais necessário para alcançar a IA são os dados. Os dados são combustível para o aprendizado de máquina, tanto histórico para contexto e precedência, quanto em tempo real para consciência situacional. Mas é muito mais do que simplesmente adquirir dados. O local onde você armazena e processa esses dados tem enormes implicações no sucesso (ou fracasso) dos sistemas baseados em IA, portanto, é necessária uma consideração cuidadosa ao projetar uma arquitetura de IA.

IA no Edge com um banco de dados móvel

Couchbase é um banco de dados em nuvem de documentos JSON distribuído na memória que oferece suporte a SQL, pesquisa, eventos e análises. A plataforma é usada para potencializar grandes aplicativos empresariais e pode ser dimensionada para milhões de usuários com tempo de atividade 24 horas por dia, 365 dias por ano. Ele também fornece suporte exclusivo para computação de ponta, bem como processamento de IA.

O Couchbase pode ser executado na nuvem, na borda e em dispositivos, e pode sincronizar dados entre essas camadas, alcançando as vantagens da computação de ponta de velocidade, confiabilidade, governança de dados e eficiência de largura de banda para aplicativos.

Arquitetura de computação de ponta Couchbase

O Couchbase também é capaz de integrar IA em toda a arquitetura por meio de sua capacidade de chamar modelos diretamente do banco de dados e alimentá-los com dados operacionais em tempo real, seja na nuvem, na borda ou em um dispositivo móvel. Essas capacidades se combinam para tornar o conceito de “IA híbrida” uma realidade.

Vamos explorar isso com mais detalhes.

Borda nativa

A pilha de produtos Couchbase Mobile oferece suporte nativo a arquiteturas de computação de ponta, fornecendo:

• Um banco de dados nativo da nuvem

Disponível como um banco de dados como serviço totalmente gerenciado e hospedado com Couchbase Capella, ou implante e hospede o Couchbase Server por conta própria.

• Um banco de dados incorporado

Couchbase Lite é a versão incorporável do Couchbase para aplicativos móveis e IoT que armazena dados localmente no dispositivo. Ele fornece funcionalidade completa de consulta CRUD e SQL e oferece suporte a todas as principais plataformas, incluindo iOS, OS X, tvOS, Android, Linux, Windows, Xamarin, Kotlin e muito mais.

• Sincronização de dados da nuvem até a borda

Um gateway seguro e hierárquico para sincronização de dados pela Web, bem como sincronização ponto a ponto entre dispositivos, com suporte para autenticação, autorização e controle de acesso refinado. Escolha entre sincronização de dados totalmente hospedada e gerenciada com Capella App Services ou instale e gerencie você mesmo o Couchbase Sync Gateway.

A sincronização de dados integrada do Couchbase Mobile conecta a pilha, sincronizando dados entre o banco de dados backend em nuvem e o banco de dados incorporado executado em dispositivos de borda conforme a conectividade permite, enquanto durante interrupções de rede os aplicativos continuam a operar devido ao processamento de dados local.

Com a pilha Couchbase Mobile, você pode criar arquiteturas de borda multicamadas para oferecer suporte a qualquer requisito de velocidade, disponibilidade ou baixa largura de banda.

Pronto para IA

O Couchbase Mobile não foi projetado apenas para computação de ponta, mas também suporta IA da nuvem até a borda, inclusive em dispositivos.

Cloud AI com o serviço Couchbase Analytics

O Couchbase fornece processamento na memória para capacidade de resposta hiper-rápida e uma arquitetura distribuída para escala e resiliência, trazendo a velocidade, capacidade de armazenamento e potência de carga de trabalho necessárias para processar as enormes quantidades de dados necessários para treinar modelos de IA.

Ele também fornece um serviço de análise integrado, um recurso que permite a análise de dados operacionais sem exigir que eles sejam movidos para um sistema analítico separado, eliminando a necessidade de longos processos de ETL (extrair, transformar, carregar) para serem executados antes que os dados possam ser usado para treinamento ou análise de modelo.

Além do mais, embora o Couchbase seja um banco de dados de documentos, os cientistas de dados trabalham com ele usando uma linguagem familiar: SQL, completa com junções e agregações. Isso permite que eles escrevam consultas complexas e altamente contextuais em conjuntos de dados massivos que retornam resultados em milissegundos ou submilissegundos, reduzindo o tempo de obtenção de insights e acelerando a preparação de dados e as iterações de treinamento de modelo.

O Couchbase Analytics Service oferece um recurso para integração de IA chamado Python User Defined Functions (UDF), que permite aos desenvolvedores vincular o código Python como uma função e chamá-lo em consultas SQL. Isso permite que eles criem um pipeline contínuo, sem processos ETL tediosos, desde modelos de aprendizado de máquina baseados em Python até Couchbase Analytics para aplicar IA em escala a coisas como análise de sentimento, previsão de resultados prováveis ​​ou classificação de itens com base em dados operacionais retornados de consultas analíticas.

Um exemplo de uso de modelos de aprendizado de máquina com Couchbase Analytics pode ser encontrado nesta postagem do blog.

Com o serviço Analytics, o Couchbase atende ao lado da nuvem do conceito de “IA híbrida”.

Edge AI com consulta preditiva Couchbase Lite

Embora cargas de trabalho pesadas de IA possam ser executadas com eficiência em escala na nuvem com o Couchbase, há casos em que é desejável executar modelos menores na borda em dispositivos móveis, por exemplo, para fazer coisas como fazer recomendações com base em dados locais em tempo real. E o poder crescente dos dispositivos móveis atuais, bem como o surgimento de modelos de aprendizado de máquina otimizados para dispositivos móveis, estão tornando a IA no limite uma realidade.

Na verdade, a API de consulta preditiva do Couchbase Lite foi projetada para IA de ponta, permitindo que aplicativos móveis usem modelos de aprendizado de máquina pré-treinados e executem consultas preditivas em dados locais no dispositivo. Essas previsões, feitas com base em dados em tempo real capturados pelo aplicativo móvel, permitem uma série de aplicações atraentes.

Ao aplicar modelos de aprendizado de máquina no dispositivo móvel, as recomendações e previsões são mais personalizadas, podem ser instantâneas e ter mais impacto graças à alta disponibilidade garantida, à latência ultrabaixa e ao uso reduzido da largura de banda da rede possibilitado pelo processamento de dados local. Em essência, elimina a necessidade de enviar e receber dados pela Internet para data centers em nuvem distantes para serem avaliados pela IA, tornando toda a experiência mais rápida e confiável.

Exemplos de IA na borda incluem varejo e comércio eletrônico, onde recomendações de itens no local podem ser feitas com base em imagens ou fotos; hospitalidade onde as preferências pessoais são combinadas com localização, horário, clima e outros fatores para recomendar comodidades em tempo real; ou fabricação industrial, onde problemas em processos fabris de alta velocidade podem ser previstos e mitigados instantaneamente antes que ocorra uma falha.

Para saber mais sobre como usar modelos de aprendizado de máquina com o Couchbase Lite, leia esta postagem do blog.

Com a API Predictive Query, o Couchbase Lite atende ao lado do dispositivo móvel do conceito de “IA híbrida”.

IA da nuvem à borda e ao dispositivo

Ao combinar os recursos de IA do Couchbase Mobile com seu suporte nativo para arquiteturas de computação de ponta, as organizações podem colocar cargas de trabalho de processamento de IA e processamento de dados em qualquer topologia necessária para os sistemas de IA integrados mais rápidos e escaláveis, todos executados em uma tecnologia de banco de dados padrão.

Arquitetura de computação de ponta Couchbase

Com essa arquitetura, as cargas de trabalho de IA são processadas onde faz mais sentido para a complexidade de um determinado modelo e a quantidade de dados necessários. O treinamento de aprendizagem profunda e a aplicação de grandes modelos acontecem em imensas quantidades de dados na nuvem, o que oferece a escala para treinar com eficiência modelos de aprendizagem profunda e aplicá-los em massa, enquanto modelos menores de aprendizagem de máquina são executados na borda diretamente em dispositivos de ponta, onde são executados. aproveite os dados locais para envolvimento e interação imediatos.

E o sistema de IA também se beneficia muito por fazer parte de um único ecossistema de tecnologia de dados porque usa o mesmo banco de dados, consultas e APIs em toda a pilha, tornando o desenvolvimento e a manutenção contínua muito mais fáceis do que com um mashup extenso de tecnologias de banco de dados diferentes.

A computação de borda é uma necessidade para que a IA cumpra toda a sua promessa hoje e no futuro, e o banco de dados moderno, nativo e pronto para IA da Couchbase está pronto para ajudar a forjar o próximo grande avanço.

Saiba mais sobre os recursos do Couchbase AI:

• Documentos UDF do Couchbase Server Python
• Documentos de consulta preditiva do Couchbase Lite
• Experimente o Couchbase Mobile gratuitamente

A postagem Cloud to Edge AI com uma plataforma de banco de dados móvel apareceu pela primeira vez em The New Stack.