O que o CEO da OpenAI, Sam Altman, realmente espera do futuro da IA

Na semana passada, a OpenAI lançou o GPT-4o, a mais recente versão interativa por voz do poderoso chatbot. Mas poucos dias antes de seu lançamento, o CEO da OpenAI, Sam Altman, compartilhou alguns pensamentos surpreendentemente sinceros em uma entrevista de uma hora no podcast “All-In”.

Apresentado por um painel de capitalistas de risco de alto nível – Chamath Palihapitiya, Jason Calacanis, David O. Sacks e David Friedberg – o podcast deu a Altman a oportunidade de se abrir num ambiente mais conversacional.

Em uma ampla discussão de uma hora, Altman forneceu pistas sobre sua visão de longo prazo para OpenAI – e até mesmo a provável trajetória para o desenvolvimento mundial da inteligência artificial geral. Como chefe da maior empresa de IA do mundo, Altman respondeu a perguntas sobre segurança, acessibilidade, modelos econômicos e o próximo grande sucesso.

E em algum lugar ao longo do caminho, talvez ele também tenha dado uma ideia do que está por vir.

Visceralmente Diferente

Ao anunciar o GPT-4o, Altman identificou o seu lugar na evolução dos produtos OpenAI. “O ChatGPT original mostrou uma dica do que era possível com interfaces de linguagem; essa coisa nova parece visceralmente diferente. É rápido, inteligente, divertido, natural e útil. Falar com um computador nunca foi tão natural para mim; agora acontece.”

Mas é no podcast que você tem uma ideia de como isso é fundamental para sua visão de longo prazo. Depois de uma discussão sobre qual será a próxima grande peça de tecnologia da humanidade, Altman acrescentou esta revelação à parte. “Acho que a voz é uma dica para o que vem a seguir.

“Tipo, se você conseguir que a interação por voz seja realmente boa, parece – acho que é uma maneira diferente de usar um computador.”

E quanto à segurança?

Na semana passada, a OpenAI também ganhou as manchetes ao dissolver a equipe que havia criado 10 meses antes para explorar soluções “para dirigir e controlar sistemas de IA muito mais inteligentes do que nós”, quando os dois líderes da equipe renunciaram. (A CNBC observa que Ilya Sutskever foi um dos membros do conselho que votou pela destituição de Altman em novembro, enquanto Jan Leike reclamou no Twitter na sexta-feira que a “cultura e processos de segurança da OpenAI ficaram em segundo plano em relação aos produtos brilhantes”.)

Nos últimos meses, minha equipe navegou contra o vento. Às vezes, estávamos lutando pela computação e estava ficando cada vez mais difícil realizar essa pesquisa crucial.

-Jan Leike (@janleike) 17 de maio de 2024

Portanto, é interessante ouvir os comentários de Altman sobre a destituição de Novembro, poucos dias antes de essas demissões serem anunciadas. “Olha, obviamente nem todos os membros do conselho são minhas pessoas favoritas no mundo. Mas tenho muito respeito pela gravidade com que tratam a AGI e pela importância de acertar na segurança da IA. E mesmo que eu discorde estritamente das suas decisões e ações, o que faço, nunca duvidei da sua integridade ou compromisso com o tipo de missão partilhada de uma AGI segura e benéfica.”

adorei meu tempo na openai. foi transformador para mim pessoalmente e, espero, para o mundo um pouco. acima de tudo, adorei trabalhar com pessoas tão talentosas.

terá mais a dizer sobre o que vem a seguir mais tarde.

🫡

-Sam Altman (@sama) 17 de novembro de 2023

E Altman também abordou diretamente a questão do risco. “Acho que chegará um momento, num futuro não muito distante, em que os sistemas de IA de fronteira serão capazes de causar danos globais significativos.” O que ele espera é uma agência internacional que garanta “testes de segurança razoáveis” dos sistemas mais poderosos, para que “você sabe, essas coisas não vão escapar e se auto-melhorar recursivamente ou algo assim…” Ele acrescentou mais tarde que “Talvez nada vá acontecer. Mas acho que faz parte do nosso dever e da nossa missão falar sobre o que acreditamos que é provável que aconteça e o que é necessário para acertar…”

Altman comparou isso à supervisão já existente para armas nucleares ou biotecnologia “ou coisas que podem realmente ter um impacto muito negativo, muito além do domínio de um país”.

Ele tinha sugestões específicas para uma metodologia (como testar a segurança do saída em vez de ter reguladores governamentais tentando revisar todas as bases de código internas de uma empresa e avaliar quais pesos estão sendo usados ​​em modelos de aprendizado de máquina). Mas Altman também tem outra preocupação. “Eu ficaria muito nervoso com o excesso regulatório aqui. Acho que podemos errar fazendo muito, ou até um pouco demais.”

Ele imediatamente admite que também podemos “errar se não fizermos o suficiente”. Mas Altman passou cinco anos como presidente da aceleradora de startups YCombinator e também reconhece a perspectiva empreendedora. “Temos visto excessos regulatórios ou capturas ficarem muito ruins em outras áreas.”

Por isso, ele gostaria que as agências reguladoras se concentrassem, por exemplo, apenas em projectos com custos superiores a 10 mil milhões de dólares. “Não acho que isso coloque qualquer carga regulatória sobre as startups.”

‘Para inventar o futuro’

No início da conversa, Altman reiterou que disponibilizar tecnologia avançada gratuitamente era “uma parte superimportante da nossa missão”. Ele não quer apenas construir ferramentas de IA, mas “torná-las amplamente disponíveis – gratuitas ou, você sabe, não tão caras, seja lá o que for – para que as pessoas possam usá-las para inventar o futuro, em vez de do que a magia AGI no céu inventando o futuro e derramando-o sobre nós.

“Esse parece ser um caminho muito melhor. Parece um caminho mais inspirador. Eu também acho que é para onde as coisas realmente estão indo. Portanto, fico triste por não termos descoberto como disponibilizar a tecnologia de nível GPT4 para usuários gratuitos. É algo que realmente queremos fazer…”

P: É muito caro, certo?

Sam Altman: Isso é muito caro.

Mas Altman ainda prevê que veremos um mundo com inteligência artificial barata. “É importante para nós, é claramente importante para os usuários e irá desbloquear muitas coisas.”

É um tema que Altman reiterou na semana passada ao anunciar o GPT-4o. “Estou muito orgulhoso por termos disponibilizado o melhor modelo do mundo gratuitamente no ChatGPT, sem anúncios ou algo parecido.

“Nossa concepção inicial quando iniciamos a OpenAI era criar IA e usá-la para criar todos os tipos de benefícios para o mundo. Em vez disso, agora parece que criaremos IA e então outras pessoas a usarão para criar todo tipo de coisas incríveis das quais todos nos beneficiaremos.

“Somos uma empresa e encontraremos muitas coisas pelas quais cobrar, e isso nos ajudará a fornecer serviços de IA excelentes e gratuitos para (espero) bilhões de pessoas”.

Além da ‘Renda Básica Universal’

Altman tem claramente pensado no futuro – na disrupção, nos modelos económicos e em como será o mundo. No podcast, Altman disse estar “super entusiasmado” com a possibilidade de um tutor de IA e com a possibilidade de “fazer descobertas científicas melhores e mais rápidas… isso será um triunfo”.

Mas Altman também lançou um teste famoso para 3.000 pessoas da Renda Básica Universal. Por isso, foi interessante ouvir suas últimas reflexões sobre uma nova variação que incorpora inteligência artificial.

Computação Básica Universal: UBI Reimaginado na Era da IA, de acordo com @sama

No podcast da semana passada, Sam Altman propôs uma variação do UBI tradicional:

“Agora que vemos algumas das formas como a IA está se desenvolvendo… eu me pergunto se o futuro se parece mais com algo básico universal… pic.twitter.com/fOz8yOxQk4

– O podcast completo (@theallinpod) 15 de maio de 2024

Primeiro, ele abordou a ideia convencional de uma Renda Básica Universal. “Dar dinheiro às pessoas não vai resolver todos os problemas”, disse Altman. “Certamente não vai deixar as pessoas felizes. Mas pode resolver alguns problemas e pode dar às pessoas um horizonte melhor para se ajudarem.”

Mas Altman tem outra ideia. “Agora que vemos algumas das maneiras como a IA está se desenvolvendo… Eu me pergunto se o futuro se parece mais com a Computação Básica Universal do que com a Renda Básica Universal… Todo mundo recebe uma fatia da computação do GPT-7 e pode usar eles podem revendê-lo, podem doá-lo para alguém usar na pesquisa do câncer. Mas o que você ganha não são dólares, mas esta fatia.

“Você possui parte da produtividade!”

Preservando o que nos importa

Ocasionalmente, houve até vislumbres dos sentimentos pessoais de Altman – como quando ele abordou um anúncio da Apple onde materiais de arte eram esmagados em um local hidráulico (para serem substituídos por um tablet da Apple).

“Obviamente, sou extremamente positivo em relação à IA – mas há algo que considero lindo na criatividade humana e na expressão artística humana”, disse Altman. “E você sabe, para uma IA que simplesmente faz ciência melhor? Ótimo, vamos lá. Mas uma IA que fará essa expressão criativa humana profundamente bela? Acho que deveríamos descobrir…”

Altman fez uma pausa no meio da frase – e então disse “Isso vai acontecer. Será uma ferramenta que nos levará a patamares criativos ainda maiores.

“Mas acho que deveríamos descobrir como fazer isso de uma forma que preserve o espírito daquilo que nos importa aqui.”

Houve também alguma discussão sobre direitos autorais e dados de treinamento, com Altman revelando que a OpenAI decidiu “não fazer música… em parte exatamente por causa dessas questões de onde você traça os limites”.

“Isso vai acontecer”

Então, o que acontece quando finalmente alcançamos o Santo Graal da AGI – uma máquina com capacidades iguais ou superiores à inteligência humana? “Acho que grande parte do mundo tem, compreensivelmente, muito medo da AGI”, reconheceu Altman. “Ou com muito medo até atual AI, e muito animado com isso – e ainda mais com medo, e ainda mais animado com o rumo que isso está tomando.”

“E nós lutamos com isso, mas acho que é inevitável que isso aconteça.”

Ele parecia ciente do potencial para uma ruptura muito real, concordando que “muita coisa vai mudar”. E a mudança é bastante desconfortável para as pessoas. Portanto, há muitas peças que precisamos acertar.”

Ainda assim, no final, Altman também acredita que tudo será “tremendamente benéfico”. Mas temos que descobrir como chegar lá de uma forma razoável.” A certa altura, Altman até enfatizou que a missão da OpenAI “é construir em direção à AGI – e descobrir como distribuir amplamente seus benefícios”.

E Altman não saiu da entrevista antes de incluir uma declaração sincera de seu entusiasmo honesto pelo longo caminho que temos pela frente.

“Eu realmente me importo com AGI – e acho que este é o trabalho mais interessante do mundo.”

A postagem O que o CEO da OpenAI, Sam Altman, realmente espera do futuro da IA ​​apareceu pela primeira vez em The New Stack.