Estabeleça metas e meça o progresso para uma implantação eficaz de IA

Uma das partes mais essenciais do Ciclo de adoção de IA é frequentemente o mais esquecido: garantir que a tecnologia agregue valor ao negócio.

O atual frenesim da IA ​​está a transformar até mesmo as empresas mais avessas ao risco em vanguardas digitais decididas a tirar partido de novas aplicações poderosas o mais rapidamente possível. Embora a velocidade seja sem dúvida críticao mesmo acontece com a garantia de que os investimentos em IA proporcionem o valor comercial desejado conforme pretendido, sem agravar ainda mais a exposição ao risco da empresa – seja um risco de reputação, financeiro ou de segurança.

À medida que o número de prioridades de TI continua a crescer, o gerenciamento e o rastreamento dos diversos aplicativos personalizados e SaaS se tornam cada vez mais desafiadores. Embora possa parecer difícil quantificar com precisão o valor comercial dos investimentos em TI, não é impossível. Como qualquer adoção de tecnologia, a adoção da IA ​​também requer o mesmo nível de avaliação minuciosa e devida diligência para garantir uma implementação bem-sucedida.

A história da evolução humana mostra que qualquer ferramenta tem potencial para ser transformada em arma – depende apenas de quem a utiliza e por quê. Isto é ainda mais verdadeiro hoje, onde as ameaças cibernéticas são cada vez mais criadas por agentes maliciosos que utilizam as suas formas de IA. Sem supervisão suficiente na adoção da IA, este risco inerente de utilização indevida pode agravar ainda mais a exposição ao risco de uma organização. Embora medir o resultado do negócio possa parecer complicado, é recomendável dividir cada uma das metas em bytes alcançáveis ​​e quantificáveis ​​(trocadilho intencional).

Ao definir esses objetivos, os líderes também se beneficiariam com as seguintes recomendações: definição de métricas realistas, monitoramento contínuo e seleção de parceiros de TI confiáveis ​​que possam melhor ajudá-los a atingir essas metas.

Fator-chave 1: Objetivos claros: Definir objetivos e resultados específicos para implementação de IA. Identificar o que a empresa pretende alcançar com a implementação da IA ​​é o primeiro passo crítico. Ajuda começar aos poucos em um caso de uso adequado que seja uma preocupação central para a organização. Isso ajuda a medir o sucesso como resultados tangíveis, facilitando o dimensionamento da implementação para casos de uso mais amplos em toda a organização.

Por exemplo, como afirmado neste artigoum dos objetivos comerciais críticos da American Express era detectar transações fraudulentas usando IA, com o objetivo de reduzir as perdas financeiras em 30%.

Da mesma forma, uma empresa de varejo poderia usar IA para otimizar o gerenciamento de estoque, visando reduzir rupturas e excesso de estoque em 20%. Eles fornecem um ponto de partida para medir “o quê”, com decisões importantes como conclusão para gerar os resultados de negócios desejados.

Fator-chave 2: Necessidade de dados de alta qualidade e aprendizagem contínua: Garanta acesso a dados relevantes, precisos e diversos para treinamento e otimização. O sucesso de uma implantação de IA depende da qualidade dos dados usados ​​para treinar seus modelos. É aqui que se torna crítico para as organizações garantir que as fontes de dados corretas com os controles de acesso e proteções necessários sejam implementadas. Além disso, as organizações devem confirmar que dados confidenciais não estão sendo inseridos nos pipelines de dados; isso ajudará a evitar quaisquer incidentes de vazamento de dados confidenciais.

Esta faceta é crítica e um objetivo formidável de alcançar, uma vez que as organizações devem agora encontrar o equilíbrio certo para evitar que os seus grandes modelos de linguagem (LLMs) se tornem câmaras de eco, ao mesmo tempo que se protegem contra riscos de envenenamento de LLM, fuga de dados sensíveis, ataques de injeção imediata e potenciais Alucinações de IA.

Estes riscos também deram origem a várias soluções que fornecem firewalls de dados para AI LLMs. O amplo espectro de soluções de firewall de dados agora permite que os líderes de TI façam seleções com base na melhor opção para seus casos de uso.

Achamos que seria interessante ver o que o ChatGPT 4.0 considerava a definição mais apropriada de envenenamento por AI LLM, e a seguir está sua resposta:

O envenenamento por AI LLM refere-se à manipulação maliciosa de dados de treinamento LLM para introduzir intencionalmente preconceitos, erros ou comportamento prejudicial na saída do modelo. Isso pode ocorrer por vários meios, incluindo:

Envenenamento de dados: adulteração dos dados de treinamento para manipular o desempenho do modelo ou introduzir vieses específicos.

Exemplos adversários: elaboração de dados de entrada projetados para fazer com que o modelo produza uma saída incorreta ou enganosa.

Ataques de inversão de modelo: Explorar os relacionamentos do modelo para extrair informações confidenciais dos dados de treinamento.

Um exemplo de empresa que agrega valor ao melhorar continuamente a qualidade dos dados inseridos em seu LLM é o Airbnb. A empresa aproveita os dados do usuário para otimizar preços e disponibilidade, aumentando a receita do anfitrião em 15%. Quanto mais precisos forem os dados do usuário, mais receitas confiáveis ​​e previsíveis poderão gerar para usuários e assinantes da plataforma.

É fundamental atualizar e refinar regularmente os sistemas de IA para se adaptarem a ambientes em mudança. Isto é conseguido garantindo que os dados que alimentam os LLMs sejam mantidos atualizados e relevantes; em alguns casos, até mesmo dados em tempo real são usados.

Curiosamente, o Spotify atualiza continuamente seus algoritmos de recomendação de música para se adaptar às mudanças nas preferências e hábitos de audição do usuário. De forma similar, plataformas de streaming atualizam continuamente suas recomendações algoritmos para se adaptar às preferências do espectador e ao comportamento de compra em constante mudança. Essas plataformas aproveitam os dados dos usuários para criar recomendações personalizadas, impulsionar a audiência com base nos interesses dos espectadores e, assim, aumentar o envolvimento do usuário.

Fator chave 3: Algoritmos avançados: Selecione algoritmos e modelos apropriados para o caso de uso de negócios que está sendo considerado. A IA não está em conformidade com o “tamanho único”. Cada caso de uso requer o envolvimento de algoritmos e modelos relevantes.

Por exemplo, os modelos de IA utilizados pela Tesla para algoritmos avançados de visão computacional utilizados no seu sistema de condução autónoma ajudam a melhorar a segurança e a assistência ao condutor. Isso é exclusivo do caso de uso da Tesla e muito diferente dos exemplos anteriores de benefícios da IA ​​para outras empresas.

Fator-chave 4: Colaboração Humano-IA: Combinar a experiência humana e as capacidades de IA para aumentar a tomada de decisões é um princípio essencial nos princípios de IA responsável. A era atual de adoção da IA ​​deve ser considerada uma “união de humanos e tecnologia”. Os humanos continuarão a ser os guardiões e administradores dos dados, o que está relacionado com o Fator Chave 2 sobre a necessidade de dados de alta qualidade, uma vez que os humanos podem ajudar a selecionar os conjuntos de dados relevantes para treinar um LLM.

Isto é fundamental, e a faceta “humano no circuito” deve ser incorporada em todas as implementações de IA para evitar implementações completamente autónomas. Além da curadoria de dados, isso permite que os humanos realizem ações mais significativas quando equipados com insights relevantes, alcançando assim melhores resultados de negócios.

Vale a pena notar que a Siemens Healthineers combina IA com experiência humana para diagnosticar doenças com mais precisão e eficiência.

A mesma filosofia vale para resiliência cibernética com Commvault. Nossos mecanismos de IA/ML ajudam os clientes a tomar decisões mais informadas ao responder aos requisitos de recuperação cibernética. A riqueza de contexto das capacidades de detecção de anomalias da Commvault é ainda melhorada por seres humanos que podem fazer a triagem de um evento de forma eficaz e responder adequadamente.

Fator-chave 5: Considerações éticas: Abordar o preconceito, a privacidade e a transparência no desenvolvimento e implementação de IA é a métrica fundamental para medir o seu sucesso. Como qualquer tecnologia, estabelecer proteções e regras de engajamento é fundamental para esse fator.

Empresas como a Accenture implementar medidas para detectar e prevenir preconceitos em suas ferramentas de recrutamento de IA, ajudando a garantir práticas de contratação justas. Da mesma forma, a Microsoft implementa medidas para detectar e mitigar preconceitos em seus modelos de linguagem de IA para garantir justiça e inclusão.

Fator Chave 6: Monitoramento e avaliação: Avaliar regularmente o desempenho e o impacto da IA ​​para garantir os resultados desejados ajuda uma organização a permanecer no caminho certo com sua missão de implementação bem-sucedida da IA. Esta é uma ladeira escorregadia, pois existe uma propensão geral para utilizar pressupostos qualitativos que não podem ser vinculados a métricas quantificáveis ​​prescritivas.

A maioria das organizações implementa ferramentas de defesa cibernética baseadas em IA e espera nunca mais ter outra violação de segurança. Dadas as realidades do crime cibernético no mundo de hoje, isso é, na melhor das hipóteses, quixotesco.

No entanto, empresas como a Nike usaram IA para analisar dados de clientes e medir a eficácia de suas campanhas de marketing personalizadasresultando em um aumento de 20% nas vendas – uma métrica tangível.

O notável avanço na IA está a gerar toda uma nova geração de soluções que competem pela atenção dos compradores empresariais. O crescimento repentino e constante de soluções de IA no mercado, contaminadas com Lavagem com IA O número de soluções incluídas no mix torna imperativo que as organizações invistam em ciclos de avaliação e instalação de tecnologia.

Além disso, com a segurança se tornando uma preocupação central em todas as empresas, conhecer os participantes da cadeia de suprimentos em soluções de IA/ML e seu compromisso com a segurança também se torna um critério de seleção importante. Tal como acontece com as ramificações da segurança cibernética na cadeia de abastecimento, escolher os parceiros tecnológicos certos é fundamental.

Embora a IA seja uma tecnologia poderosa que promete reinventar processos em todas as empresas, não é uma ferramenta do tipo configure e esqueça. A tecnologia requer monitoramento, recalibração, curadoria e gerenciamento regulares. Os líderes se beneficiariam se estivessem dispostos a fazer correções de rumo em sua jornada de TI. Avaliações intermediárias regulares ajudam a identificar áreas de melhoria desde o início ou a modelar aspectos que estão funcionando bem para aumentar o sucesso.

A implementação de uma abordagem de avaliação contínua facilita a otimização a longo prazo do Custo Total de Operações e Propriedade e permite a identificação dos projetos mais influentes e viáveis. Esse reconhecimento auxilia no desenvolvimento de protocolos padronizados que podem ser replicados e dimensionados em outras áreas de negócios.

Uma implementação de IA bem-sucedida requer uma abordagem multidisciplinar, refinamento contínuo e um compromisso com práticas responsáveis ​​de IA. Esses fatores são fundamentais para evoluir para um negócio centrado em IA.

A postagem Definir metas e medir o progresso para uma implantação eficaz de IA apareceu pela primeira vez em The New Stack.