Lightning AI provoca plataforma de desenvolvimento de aplicativos – um ‘sistema operacional para IA’

Will Falcon tem um currículo e tanto. Ele é o criador do PyTorch Lightning, um wrapper para PyTorch (a popular estrutura de aprendizado de máquina), e o CEO de uma empresa “OS for AI” financiada por VC chamada Lightning AI. E, como aprendi hoje em uma entrevista com Falcon, ele é um ex-estagiário da Navy Seal que só aprendeu a programar há dez anos.

Embora atualmente ele seja mais conhecido pelo PyTorch Lightning de código aberto, que tem quase 25.000 estrelas no GitHub, sua empresa Lightning AI tem ambições de se tornar uma plataforma líder de desenvolvimento de IA. Entre seus recursos está o Lightning Apps, que é descrito como uma “estrutura para construir fluxos de trabalho de ML reativos e combináveis” usando Python. Os clientes também podem criar aplicativos completos de IA. A plataforma está atualmente disponível apenas para empresas, mas em breve estará disponível para todos os desenvolvedores.

Onde o relâmpago Pytorch se encaixa

Antes de chegarmos à plataforma da empresa, primeiro gostaria de esclarecer a relação entre Pytorch (uma estrutura de aprendizado de máquina de código aberto originalmente desenvolvida pela Meta) e Pytorch Lightning.

“Pytorch é como JavaScript, Lightning é como React”, foi como Falcon disse inicialmente. Mas essa analogia me confundiu um pouco, já que o próprio Pytorch é um framework. Falcon então mudou para uma metáfora de carro.

“Pytorch é um framework em Python para construção de modelos, mas eles só te darão os blocos, certo? É como um carro (e) eles apenas te dão um monte de peças. A Lightning (…) pré-monta os carros para você e aí você pode ajustar os carros se quiser, certo.”

Como mencionei o ChatGPT no início da nossa conversa, ele acrescentou que o OpenAI é “como uma Ferrari”.

Não tenho certeza se a analogia também funciona totalmente, mas independentemente disso, ponto entendido: Pytorch é uma estrutura de ML que fornece as peças para construir um aplicativo de ML, Pytorch Lightning faz parte da “pré-montagem”, mas você ainda precisa construir o aplicativo, e ChatGPT é um aplicativo de ML de última geração.

Plataforma Lightning AI

Lightning AI é uma plataforma empresarial para construção de modelos de ML, explicou Falcon. Atualmente, esta plataforma de IA não está aberta a desenvolvedores independentes, mas ele disse que estará disponível ao público “dentro de alguns meses”.

Ele passou a descrever o que seus clientes normalmente fazem na plataforma Lightning AI.

“Você faria sua pesquisa e desenvolvimento, desenvolveria seus modelos, testaria ideias, treinaria os modelos, implantaria os modelos. Então é como o sistema operacional de como você faz isso.”

Portanto, o núcleo da plataforma é o desenvolvimento de modelos ou, como disse Falcon, as “operações em torno do desenvolvimento de modelos”.

Perguntei quais são os casos de uso para seus clientes atuais. “Temos empresas de mídia social que nos usam para treinar modelos de imagem”, respondeu ele. “Então eles fazem recomendações de feeds de notícias (…) são como na escala de um LLM, mas são para imagens.”

Ele também mencionou empresas que utilizam sua plataforma para treinar modelos de vídeo ou multimodais. Ainda assim, outros clientes estão a utilizá-lo para formar LLMs – por exemplo, empresas farmacêuticas que estão a formar LLMs para a descoberta de medicamentos.

Embora o desenvolvimento e o treinamento de modelos sejam as principais funcionalidades do Lightning AI, Falcon me disse que seus usuários também podem criar aplicativos em sua plataforma selecionando ferramentas de IA de terceiros (recebi alguns nomes de ferramentas comuns de desenvolvimento de IA, mas após a entrevista, Pediram-me para não os revelar, uma vez que a plataforma ainda não é pública).

Ele me mostrou alguns exemplos de demonstração, mas observou que a maioria dos aplicativos atualmente desenvolvidos no Lightning AI são aplicativos internos de empresas. Portanto, era hora de outra analogia.

“Portanto, você pode pensar em um aplicativo Lightning como uma receita”, disse ele, com os ingredientes sendo ferramentas de IA de terceiros. “Posso instalar os ingredientes conforme preciso (…) somos mais como um sistema operacional.”

IA de código aberto

Falcão recentemente postado no X/Twitter, “Como comunidade, devemos continuar a defender que a IA permaneça de código aberto.” Isso foi em resposta a um tweet por Yann LeCuncientista-chefe de IA da Meta, que escreveu que “os sistemas de IA estão rapidamente se tornando uma infraestrutura básica” e que “historicamente, a infraestrutura básica sempre acaba sendo de código aberto”.

A Meta, é claro, tem liderado o caminho com grandes modelos de linguagem (LLMs) de código aberto – mais recentemente com o lançamento de código aberto do Llama 2. Perguntei a Falcon se ele acha que outras empresas líderes no espaço LLM, como OpenAI e Google , também abrirão o código-fonte de seus modelos no futuro?

“Eventualmente as coisas se abrem”, respondeu ele. “Já existem muitos precedentes para isso. (…) Então a IBM tinha o mainframe, né? E era algo que só eles poderiam fazer. Imagine se (…) a computação pessoal não tivesse chegado e você sempre tivesse que ir à IBM para comprar um computador. Tipo, isso é loucura, certo? Portanto, nenhuma tecnologia fundamental será propriedade de uma única empresa. Isso não acontece. Então, quer eles queiram ou não, será de código aberto – estará disponível para mais pessoas, certo? Só porque é assim que é. Então, acho que essa é provavelmente a analogia mais próxima que consigo pensar.”

Ele admite que não sabe se a OpenAI e o Google se abrirão, mas disse que provavelmente terão “versões (de LLMs) que são privadas”. Desta vez, ele usou a analogia do Windows (proprietário) versus Linux (código aberto).

A analogia do Windows e do Linux faz mais sentido para mim do que o mainframe IBM e o PC. Com o tempo, os LLMs de código aberto muito provavelmente se tornarão mais poderosos e mais abundantes e, portanto, eventualmente rivalizarão com os LLMs proprietários, como o mais recente modelo GPT da OpenAI. O Llama 2 provavelmente já está muito próximo da qualidade do GPT-4 (Anyscale afirmou em agosto que o Llama 2 “é tão factualmente preciso quanto o GPT-4 para resumos”).

Conclusão

Falando em abertura… Como o Lightning AI ainda não abriu sua plataforma de desenvolvedor para Disponibilidade Geral, é difícil dizer o quão bom será para o desenvolvimento de aplicativos – especialmente em comparação com plataformas de desenvolvedor comprovadas que oferecem funcionalidade de IA, como a Vercel. Will Falcon fala muito com sua analogia com o sistema operacional, mas poucos produtos de software se tornam tão fundamentais quanto um sistema operacional. Mas vamos reservar o julgamento até que a plataforma Lightning AI seja disponibilizada para todos.

Por enquanto, há muito o que ponderar em termos do que os desenvolvedores podem fazer com LLMs de código aberto – especialmente à medida que mais plataformas de desenvolvedores para aplicativos de IA se tornam disponíveis.

A postagem Lightning AI provoca plataforma de desenvolvimento de aplicativos – um ‘sistema operacional para IA’ apareceu pela primeira vez em The New Stack.