Rafael NazarA Amazon lançou o TorchNeuron, uma ferramenta criada para facilitar a execução de aplicações de inteligência artificial (IA) nos chips Trainium, desenvolvidos pela Amazon Web Services (AWS). A iniciativa busca reduzir a dependência do mercado em relação à Nvidia, que mantém uma posição dominante no setor.
O recurso permite transferir aplicações desenvolvidas com PyTorch para os processadores da Amazon com apenas uma alteração de configuração, sem a necessidade de reescrever o código. Gratuito e de código aberto, o PyTorch é utilizado para desenvolver, treinar e executar modelos de IA. Segundo a Amazon, cerca de 85% das aplicações de IA são criadas com o framework.
A Nvidia fortaleceu sua presença no segmento ao longo dos anos com investimentos no CUDA, plataforma de software que permite executar aplicações de IA em seus processadores gráficos. Como resultado, muitos programas desenvolvidos com PyTorch já estão adaptados ao hardware da empresa.
O TorchNeuron foi adaptado do próprio PyTorch e aproveita conhecimentos que os desenvolvedores já têm sobre o framework. A proposta é permitir que aplicações existentes sejam executadas nos chips Trainium sem uma reformulação do código.
A Amazon não é a única empresa a buscar alternativas para facilitar o uso de outros hardwares. Aplicações do PyTorch também podem ser adaptadas para processadores gráficos da AMD e chips da Apple por meio de mudanças relativamente simples na configuração.
O diferencial defendido pela Amazon é a integração do TorchNeuron com a infraestrutura de computação em nuvem da AWS. Com isso, startups poderiam criar protótipos, treinar modelos e colocar aplicações em produção dentro do mesmo ecossistema.
Colin Brace, vice-presidente de software da Annapurna Labs, unidade da Amazon responsável pelo desenvolvimento dos chips próprios da companhia, afirmou que essa integração oferece vantagens em relação a provedores especializados em infraestrutura de IA.
“Você está construindo na AWS. Não está apostando em um provedor de computação de finalidade única e correndo para construir todo o resto ao redor dele”, disse o executivo ao TechCrunch.
A Amazon também afirma que utilizar o mesmo tipo de chip nas etapas de treinamento e inferência pode melhorar a economia das operações. No treinamento, o modelo aprende a partir dos dados. Já a inferência corresponde ao uso do modelo treinado para tarefas como responder a perguntas ou processar áudio.
Como exemplo dos possíveis benefícios, a Amazon cita a Deepgram, empresa especializada em inteligência artificial para processamento de voz. De acordo com Brace, a companhia passou a usar chips Trainium e conseguiu processar 70% mais áudio por dólar, mantendo a precisão necessária para operações em produção.
O relato é usado pela Amazon para defender que a escolha da infraestrutura de IA não deve considerar apenas o preço individual dos chips ou o custo por unidade de processamento. Para a empresa, é necessário avaliar conjuntamente desempenho, treinamento, inferência e serviços de nuvem no cálculo do custo total da operação.
A proposta, no entanto, terá de enfrentar um ecossistema consolidado. A Nvidia não depende somente do desempenho de seus processadores. O software, as ferramentas disponíveis e a familiaridade dos desenvolvedores também contribuem para manter a posição da empresa no mercado.
Além de facilitar a migração para seus próprios chips, a Amazon pretende contribuir com mudanças no projeto principal do PyTorch. O objetivo é reduzir a associação automática do framework a determinados fabricantes de hardware e tornar o ambiente de desenvolvimento mais independente dos chips utilizados.
A estratégia pode ampliar as opções para desenvolvedores e empresas que precisam de grande capacidade computacional para treinar e executar modelos de IA. Ao mesmo tempo, a Nvidia pode enfrentar uma concorrência maior não apenas de fabricantes de processadores, mas também de provedores de nuvem que desenvolvem chips próprios.
A Amazon ainda precisa demonstrar se a facilidade prometida pelo TorchNeuron resultará em vantagens práticas para diferentes aplicações. A abstração das diferenças entre os chips já é uma das funções de frameworks como o PyTorch, e alterações nessa camada podem gerar desafios de configuração e compatibilidade.
Se conseguir reduzir de forma significativa a dependência dos desenvolvedores em relação ao ecossistema da Nvidia, a iniciativa poderá ter efeitos que vão além da disputa direta entre fabricantes de chips. “A verdadeira história é eliminar o aprisionamento que impedia os desenvolvedores de ter uma escolha real”, afirmou Brace.
