DigitalOcean quer abrir as comportas para IA para pequenas empresas com acesso Nvidia H100

A IA não é apenas para as maiores empresas; ela também está sendo cada vez mais usada por pequenas e médias empresas (SMBs).

A DigitalOcean construiu seu negócio em nuvem com foco em desenvolvedores que atendem pequenas e médias empresas e agora está expandindo esse negócio com novo suporte para o acelerador Nvidia H100 GPU AI líder do setor. A Nvidia H100 estará disponível na plataforma Paperspace, que foi adquirida pela DigitalOcean em julho de 2023 como ponto de entrada no espaço de IA. O Paperspace já fornece acesso a GPUs e também possui uma plataforma de ciência de dados conhecida como Gradient.

A nova oferta fornece acesso às tão procuradas GPUs H100 no Paperspace, em uma abordagem que pode virtualizar as GPUs, tornando-as mais acessíveis aos desenvolvedores. Com seu desempenho extremamente alto, os H100s podem reduzir significativamente os tempos de treinamento e os tempos de resposta de inferência para modelos de IA.

Com o entusiasmo atual em torno da IA ​​generativa, a demanda por GPUs Nvidia H100 é extremamente alta, o que leva a desafios de acesso para organizações menores.

“Para essas empresas, quando precisam de GPUs muito poderosas, do jeito que as coisas estão agora, é realmente muito difícil ter acesso a elas e então elas descobrem que o crescimento de seus próprios negócios fica restrito e é aí que entramos”, Kanishka Roychoudhury, GM da AI/ML na DigitalOcean, disse ao VentureBeat.

Adotando uma abordagem de virtualização para acesso à GPU H100

Para dizer o mínimo, a GPU Nvidia H100 é uma fera em termos de capacidade e desempenho.

Nem todas as pequenas empresas ou desenvolvedores precisam de um H100 completo, mas podem querer uma fração do poder e dos recursos de IA.

“As startups menores vêm em todas as formas e tamanhos”, disse Roychoudhury

A plataforma DigitalOcean Paperspace está adotando uma abordagem de virtualização para permitir o nível certo de acesso e desempenho às GPUs para tudo o que uma organização possa precisar.

Roychoudhury explicou que cada GPU Nvidia H100 física pode ser virtualizada para fornecer até oito instâncias de GPU separadas que podem ser usadas pelos desenvolvedores. As organizações podem optar por provisionar um valor fracionário, digamos, uma única instância ou um H100 completo que use todas as 8 fatias.

Como as pequenas e médias empresas estão construindo com IA hoje

As pequenas e médias empresas já estão utilizando a plataforma DigitalOcean Paperspace para construir vários tipos de aplicativos de IA. Roychoudhury espera que o novo suporte Nvidia H100 estenda e expanda os aplicativos construídos.

Roychoudhury mencionou que os clientes da DigitalOcean e Paperspace de pequenas empresas e startups estão usando a plataforma para construir uma ampla variedade de aplicativos de IA, não apenas chatbots. Um exemplo que ele forneceu foi a construção de um serviço de aumento de vídeo para tradução de vídeo entre idiomas.

Em termos de como as GPUs H100 serão usadas especificamente, Roychoudhury disse que espera que elas sejam usadas principalmente para treinamento de modelos de IA devido ao seu alto desempenho. No entanto, ele observou que alguns clientes já estão usando GPUs Nvidia A100 menos potentes também para cargas de trabalho de inferência, e é provável que o H100 seja implantado para suportar inferência à medida que as necessidades aumentam com o tempo.

O que vem por aí para IA na DigitalOcean

A aquisição da Paperspace pela DigitalOcean ainda é relativamente nova, com esforços de integração ainda em curso.

Roychoudhury espera que haja mais integração nos próximos meses, mas enfatizou que a plataforma já funciona em conjunto. Por exemplo, os recursos de GPU, incluindo as novas máquinas Nvidia H100, podem ser implantados via Paperspace com acesso a recursos de armazenamento em execução na computação DigitalOcean.

Haverá também maior integração e disponibilidade do H100. Inicialmente as GPUs Nvidia topo de linha estarão disponíveis apenas como recursos de infraestrutura. O plano é disponibilizar as GPUs H100 também por meio da plataforma de ciência de dados Paperspace Gradient.

Roychoudhury explicou que Gradient é um ambiente baseado em notebook para cientistas e engenheiros de dados construir, treinar, testar e implantar modelos de IA. Ao lançar um projeto Gradient, os desenvolvedores obtêm recursos computacionais básicos e podem atualizar para adicionar recursos mais poderosos, como GPUs. Atualmente, o Gradient se integra ao Hugging Face para permitir o download e o ajuste fino de modelos pré-treinados.

A direção geral que a DigitalOcean está tomando é reduzir o atrito para obter acesso a ferramentas e hardware de IA de ponta, como o Nvidia H100.

“Queremos tornar isso facilmente disponível e acessível para as empresas menores”, disse Roychoudhury.