DGX Cloud on OCI da Nvidia agora disponível para treinamento generativo de IA

A Nvidia anunciou hoje a ampla acessibilidade de seu serviço de supercomputação de IA baseado em nuvem, DGX Cloud. Este serviço concederá aos usuários acesso a milhares de GPUs Nvidia virtuais na Oracle Cloud Infrastructure (OCI), juntamente com infraestrutura nos EUA e no Reino Unido

DGX Cloud foi anunciado durante a conferência GTC da Nvidia em março. Prometeu fornecer às empresas a infraestrutura e o software necessários para treinar modelos avançados em IA generativa e outros campos que utilizam IA.

A Nvidia disse que a infraestrutura construída especificamente foi projetada para atender às demandas da geração AI por supercomputação massiva de IA para treinar modelos grandes e complexos, como modelos de linguagem.

>>Siga a cobertura contínua de IA generativa da VentureBeat<<

“Semelhante a quantas empresas implantaram DGX SuperPODs no local, o DGX Cloud aproveita a melhor arquitetura de computação, com grandes clusters de instâncias DGX Cloud dedicadas interconectadas por uma estrutura de rede Nvidia de largura de banda ultra-alta e baixa latência”, Tony Paikeday , diretor sênior de plataformas DGX da Nvidia, disse ao VentureBeat.

Paikeday disse que o DGX Cloud simplifica o gerenciamento de infraestrutura complexa, fornecendo uma experiência de “IA sem servidor” fácil de usar. Isto permite que os desenvolvedores se concentrem na execução de experimentos, na construção de protótipos e na obtenção de modelos viáveis ​​com mais rapidez, sem o peso das preocupações com a infraestrutura.

“As organizações que precisavam desenvolver modelos generativos de IA antes do advento do DGX Cloud teriam apenas a infraestrutura de data center local como uma opção viável para lidar com essas cargas de trabalho em grande escala”, disse Paikeday ao VentureBeat. “Com o DGX Cloud, agora qualquer organização pode acessar remotamente seu próprio supercomputador de IA para treinar grandes e complexos LLM e outros modelos generativos de IA a partir da conveniência de seu navegador, sem ter que operar um data center de supercomputação.”

>>Não perca nossa edição especial: O Futuro do data center: Lidando com demandas cada vez maiores.<<

A Nvidia afirma que a oferta permite que desenvolvedores de IA generativa distribuam cargas de trabalho pesadas em vários nós de computação em paralelo, levando a acelerações de treinamento de duas a três vezes em comparação com a computação em nuvem tradicional.

A empresa também afirma que o DGX Cloud permite que as empresas estabeleçam seu próprio “centro de excelência em IA”, apoiando grandes equipes de desenvolvedores que trabalham simultaneamente em vários projetos de IA. Esses projetos podem se beneficiar de um conjunto de capacidade de supercomputação que atende automaticamente às cargas de trabalho de IA conforme necessário.

Facilitando cargas de trabalho de IA generativas empresariais por meio da DGX Cloud

De acordo com a McKinsey, a IA generativa poderia contribuir com mais de 4 biliões de dólares anualmente para a economia global, transformando o conhecimento empresarial proprietário em aplicações de IA da próxima geração.

O crescimento exponencial da IA ​​generativa obrigou empresas líderes em vários setores a adotarem a IA como um imperativo empresarial, impulsionando a procura por infraestruturas de computação aceleradas. A Nvidia disse que otimizou a arquitetura do DGX Cloud para atender a essas crescentes demandas computacionais.

Paikeday, da Nvidia, disse que os desenvolvedores muitas vezes enfrentam desafios na preparação de dados, na construção de protótipos iniciais e no uso eficiente da infraestrutura de GPU. DGX Cloud, desenvolvido pela Nvidia Base Command Platform e Nvidia AI Enterprise, visa resolver esses problemas.

“Por meio da Nvidia Base Command Platform e da Nvidia AI Enterprise, o DGX Cloud permite que os desenvolvedores obtenham modelos prontos para produção mais cedo e com menos esforço, graças a bibliotecas aceleradas de ciência de dados, estruturas de IA otimizadas, um conjunto de modelos de IA de pré-treinamento e fluxo de trabalho software de gerenciamento para acelerar a criação de modelos”, disse Paikeday ao VentureBeat.

A empresa de biotecnologia Amgen está usando o DGX Cloud para agilizar a descoberta de medicamentos. A Nvidia disse que a empresa emprega DGX Cloud em combinação com o software Nvidia BioNeMo large language model (LLM) e o software Nvidia AI Enterprise, incluindo bibliotecas de aceleração de ciência de dados Nvidia RAPIDS.

“Com Nvidia DGX Cloud e Nvidia BioNeMo, nossos pesquisadores podem se concentrar em biologia mais profunda, em vez de ter que lidar com infraestrutura de IA e configurar engenharia de ML”, disse Peter Grandsard, diretor executivo de pesquisa, descoberta terapêutica biológica, Center for Research Acceleration by Digital Inovação na Amgen, em comunicado por escrito.

Um estudo de caso saudável

A Amgen afirma que agora pode analisar rapidamente trilhões de sequências de anticorpos por meio do DGX Cloud, permitindo o rápido desenvolvimento de proteínas sintéticas. A empresa relatou que os recursos de computação e multinó da DGX Cloud a ajudaram a alcançar um treinamento três vezes mais rápido de LLMs de proteína com BioNeMo e análises pós-treinamento até 100 vezes mais rápidas com Nvidia RAPIDS em comparação com plataformas alternativas.

A Nvidia oferecerá instâncias DGX Cloud com aluguel mensal. Cada instância contará com oito poderosas GPUs Nvidia Tensor Core de 80 GB, oferecendo 640 GB de memória GPU por nó.

O sistema usa uma malha de alto desempenho e baixa latência que permite o escalonamento da carga de trabalho em clusters interconectados, transformando efetivamente várias instâncias em uma enorme GPU unificada. Além disso, o DGX Cloud está equipado com armazenamento de alto desempenho, fornecendo uma solução abrangente.

A oferta também incluirá Nvidia AI Enterprise, uma camada de software com mais de 100 estruturas de IA ponta a ponta e modelos pré-treinados. O software visa facilitar pipelines acelerados de ciência de dados e agilizar o desenvolvimento e implantação de IA de produção.

“O DGX Cloud não apenas fornece grandes recursos computacionais, mas também permite que os cientistas de dados sejam mais produtivos e utilizem seus recursos com eficiência”, disse Paikeday. “Eles podem começar imediatamente, lançar vários trabalhos simultaneamente com grande visibilidade e executar vários programas generativos de IA em paralelo, com o suporte dos especialistas em IA da Nvidia que ajudam a otimizar o código e as cargas de trabalho do cliente.”