Arm empurra IA para os menores dispositivos IoT com chip Cortex-M52

A IA está em toda parte hoje em dia, mas onde ela é realmente necessária é nos confins da borda, onde os dispositivos da Internet das Coisas (IoT) estão gerando enormes quantidades de dados que precisam ser analisados, onde insights preditivos podem ser coletados e usados. , e onde a computação otimizada para aprendizado de máquina pode ser executada.

“Só então poderemos realmente dimensionar a IoT e impulsionar ainda mais a inovação e a implantação que acreditamos existir”, disse Paul Williamson, vice-presidente sênior e gerente geral da linha de negócios IoT da Arm. “Mas os desenvolvedores enfrentam desafios. Eles precisam ampliar os recursos de hardware de sua plataforma, mas também precisam de uma plataforma simplificada de desenvolvimento de software.”

Isso é o que Arm diz que está entregando com seu novo Cortex-M52, a mais recente adição à família de microcontroladores Cortex-M de baixo custo e eficiência energética do designer de chips, voltada para os menores dispositivos IoT e embarcados, disse Williamson a repórteres durante um coletiva de imprensa.

“A interseção dos avanços da IA ​​e a difusão das tecnologias de conectividade significa que a inteligência no dispositivo pode ser habilitada em dispositivos pequenos e sensíveis ao custo e eles podem se tornar mais inteligentes e mais capazes”, disse ele. “Esses dispositivos podem operar com grande privacidade e confiabilidade devido à menor dependência da nuvem”.

Williamson acrescentou que “para que a indústria aproveite essa oportunidade, os fornecedores e desenvolvedores de silício precisam de acesso a mais capacidade de IA para fornecer a inteligência necessária, mas fazê-lo em uma área com custos e energia limitados, típica de uma empresa pequena e incorporada. dispositivo.”

Um mercado em rápido crescimento para IA em IoT

O setor de IA em IoT é um espaço em rápido crescimento à medida que as organizações recorrem à inteligência artificial e à aprendizagem automática para dar sentido aos dados que estes dispositivos – existem atualmente cerca de 15 mil milhões de dispositivos IoT – estão a gerar. A Pragma Market Research espera que esse segmento do mercado, que gerou US$ 10,3 bilhões no ano passado, cresça para US$ 91,7 bilhões até 2032.

“Isso é fundamental para o sucesso da IoT, tentar obter o máximo de inteligência nos endpoints para reduzir a carga nos serviços de nuvem relacionados”, disse Rob Enderle, analista principal do The Enderle Group, ao The New Stack. “Mas tem que ser muito eficiente, pois muitas vezes há muito pouca energia disponível nos terminais, (incluindo) bateria e, às vezes, energia solar.”

A Arm construiu o Cortex-M52 para incluir a tecnologia Helium da empresa, uma extensão da arquitetura Armv8.1-M que traz desempenho aprimorado para aplicativos de aprendizado de máquina e processamento de sinal digital (DSP). Com o Helium, o Cortex-M52 dará um impulso ao desempenho do DSP e do aprendizado de máquina sem DSP dedicado ou aceleradores de aprendizado de máquina ou uma unidade de processamento neural (NPU) Arm Ethos, que são vistos no Cortex-M85 de última geração e no M55 de médio porte da Arm. .

A vantagem do hélio

O aumento de desempenho do Helium permite que os desenvolvedores implantem algoritmos de aprendizado de máquina com uso mais intensivo de computação, disse Williamson. O Cortex-M52 foi criado através da colaboração da Arm e de uma equipe de engenharia com a Arm China e oferece um local para cargas de trabalho que agora são executadas no Cortex-M4 e M33.

Ele oferece uma melhoria de 5,6 vezes no desempenho para trabalhos de aprendizado de máquina, um salto de desempenho de 2,7 vezes para tarefas de DSP e eficiência energética de 2,1 em comparação com as gerações anteriores do Cortex-M.

Há também uma redução de 23% na área de silício, o que dá aos fabricantes de silício mais opções quando procuram compromissos entre desempenho e custo.

Para segurança, o Cortex-M52 usa as extensões mais recentes para a extensão Armv8.1-M Pointer Authentication and Branch Target Identification (PACBTI) e a tecnologia TrustZone da Arm. Também ajudará os fabricantes de chips a obter silício nível 2 certificado pela PSA para criar dispositivos IoT certificados pela PSA.

Os desenvolvedores obtêm um ambiente unificado

Para os desenvolvedores, ele abre uma ampla gama de casos de uso, incluindo vibração, anomalia e detecção de palavras-chave, bem como fusão de sensores.

“Isso lhes dá mais opções ao otimizar uma solução IoT”, disse Enderle.

O novo design do chip fornece um ambiente de desenvolvimento de software unificado e um conjunto de ferramentas Cortex-M. Outros chips Cortex-M incluem código incorporado, código DSP e um modelo de rede neural. Tudo isso é agrupado em um fluxo de desenvolvimento de software no Cortex-M52, oferecendo aos programadores um caminho de desenvolvimento mais fácil que funciona com estruturas comuns de aprendizado de máquina e ferramentas existentes.

“O desenvolvedor pode codificar em uma única linguagem em uma API comum e obter o aumento de desempenho necessário nos elementos DSP e ML de seu aplicativo”, disse Williamson. “Não há necessidade de entender os detalhes específicos do hardware do processador que está abaixo.”

Os desenvolvedores de software precisam do desempenho do DSP e do aprendizado de máquina para aproveitar o que a IA pode fazer. Anteriormente, isso significava usar uma CPU, DSP e uma NPU.

“Isso significa que eles teriam que construir o hardware e, uma vez construído, eles poderiam ter que escrever, depurar e encadear códigos em vários chips ou processadores dentro de um único design”, disse ele. “Posso precisar de três conjuntos de ferramentas, compiladores e depuradores separados, e o desenvolvedor teria que ter um conhecimento profundo de tempo e acesso à memória e agendamento de eventos em vários processadores. Uma tarefa muito complexa.”

Os fabricantes de chips já possuem o Cortex-M52 e ele começará a aparecer em silício no próximo ano, disse ele.

De olho no RISC-V

Outros fabricantes de chips, desde Intel, AMD e Nvidia até um número crescente de empresas menores, pretendem trazer mais recursos de IA para IoT e dispositivos embarcados, mas de acordo com Enderle, a “exposição potencialmente grande da Arm vem do RISC-V, que tem sido fazendo incursões e usando ASICs em vez de processadores para isso.”

O RISC-V entrou em cena há cerca de uma década, dando aos fabricantes e desenvolvedores de chips um design de chip de código aberto que a RISC-V International, que está desenvolvendo a arquitetura do chip, pode ser usada como uma alternativa ao x86 e Arm. É um mantra que a RISC-V International trouxe em seu recente RISC-V Summit, promovendo a ideia de que a arquitetura pode ser usada em qualquer dispositivo, desde IoT e nuvem até PCs e servidores de data center.

Está ganhando força, com a Apple colocando controladores em seu silício e outras como Meta, AMD e Qualcomm estão investigando a arquitetura.

No momento, o campo está inclinado a favor de Arm. Embora existam cerca de 10 bilhões de núcleos RISC-V no mercado, com mais esperados nos próximos anos, Arm estima que existam 100 bilhões de dispositivos Cortex-M já vendidos.

No entanto, o RISC-V vem com a vibração aberta à qual os desenvolvedores e organizações se acostumaram por meio do Linux e de outros softwares abertos. As empresas podem licenciá-lo, criando suas próprias versões do chip.

“É mais barato e os apoiadores são mais abertos”, disse Enderle. “Muitos desenvolvedores ARM já adotaram ou estão mudando para isso. Tanto a Qualcomm quanto a AMD também estão de olho nessa tecnologia. “

A natureza aberta e disponível gratuitamente do RISC-V também está sendo usada na China, colocando a tecnologia em uma controvérsia contínua em torno de processadores entre o país e os Estados Unidos. Os legisladores dos EUA e a administração Biden estão considerando restrições às empresas americanas que desejam exportar tecnologia baseada em RISC-V para a China.

Durante uma sessão de perguntas e respostas com jornalistas, Williamson evitou uma pergunta sobre o Cortex-M52 possivelmente ser uma resposta ao crescente interesse da China no RISC-V, dizendo que Arm tem tido um “forte foco em trazer DSPs e desempenho de aprendizado de máquina há vários anos”. . Este é o tipo de próxima evolução nesse roteiro para trazê-lo para um desempenho mais baixo e menor consumo de energia, dispositivos mais restritos. É algo que existe há muito tempo e é um foco de desenvolvimento fundamental para nós.”

Ele também falou sobre a vantagem significativa que Arm tem no ecossistema de parceiros e software em relação ao RISC-V, apontando para a ampla gama de recursos no mercado para a arquitetura Arm – desde os menores dispositivos embarcados até grandes servidores – ao mesmo tempo com consistência consistente. bibliotecas e ferramentas.

“A razão pela qual temos esse ecossistema realmente forte de parceiros que investem em nossas ferramentas é que eles sabem que, quando produzem uma ferramenta, ela pode ser usada em todos esses produtos e em todas as diferentes áreas de mercado onde a tecnologia poderia ser implantada. Williamson disse. “É algo realmente mutuamente valioso para nós e nosso ecossistema. … Essa consistência existe para impulsionar essa escalabilidade.”

No entanto, embora Enderle tenha concordado que a Arm está à frente com o seu ecossistema, o RISC-V ainda está por aí a desenvolver as suas capacidades e parcerias e está a receber atenção.

“As recentes ações de preços e litígios contra licenciados fizeram com que os desenvolvedores desconfiassem da plataforma e o RISC-V é muito semelhante sem a bagagem”, disse o analista.

A postagem Arm empurra IA para os menores dispositivos IoT com chip Cortex-M52 apareceu pela primeira vez em The New Stack.