Anunciando aprimoramentos para a Dell AI Platform com AMD

Coautor: Oliver Kaven

Principais pontos: Operacionalizar POCs (Provas de Conceito) de IA promissores em implantações de produção que geram resultados de negócios é um imperativo fundamental para empresas em todos os setores. A Dell e a AMD fornecem às empresas soluções práticas de IA, projetadas para simplificar as implantações e o dimensionamento da IA. A nova arquitetura modular da Dell AI Platform com AMD, utilizando GPUs AMD Instinct MI350P, oferece um ponto de partida realista e uma maneira previsível e flexível de dimensionar a infraestrutura para atender aos requisitos de recursos. A Dell AI Platform com AMD, utilizando as GPUs de alto desempenho AMD Instinct MI355X, fornece uma base robusta para implantações de IA empresariais em larga escala, bem como para provedores de serviços em nuvem. Juntamente com o AMD Enterprise AI Suite e o AMD ROCm, essas soluções permitem que as empresas abordem eficazmente seus principais casos de uso de IA e entreguem resultados de negócios.

Você provavelmente já viu o quão promissora a inteligência artificial pode ser em um ambiente controlado. Em todos os setores, muitas empresas lançaram com sucesso pilotos e projetos de prova de conceito (POC) de IA. No entanto, elas frequentemente encontram um obstáculo ao tentar transformar esses sucessos iniciais em produção em larga escala para gerar um impacto real nos negócios.

À medida que você passa de um piloto para a produção, a complexidade aumenta exponencialmente. Você enfrenta desafios significativos para preencher a lacuna de infraestrutura, gerenciar a integração contínua de dados e migrar cargas de trabalho de forma eficaz.

Compreendemos esses obstáculos. As próximas melhorias na Dell AI Platform com AMD, parte da Dell AI Factory, fornecem uma solução local segura, flexível e escalável para ajudá-lo a operacionalizar a IA com confiança. Em vez de juntar peças díspares, esta solução adota uma abordagem abrangente. Integramos computação, storage, infraestrutura de rede e pilhas de software abrangentes de IA e MLOps com suas fontes de dados empresariais, soluções de parceiros de software chave e serviços profissionais flexíveis. O resultado é uma solução totalmente validada e escalável para treinamento, ajuste fino e inferência de alto throughput, eliminando a necessidade de pilhas de IA separadas e isoladas.

A nova Dell AI Platform com AMD

Para ajudá-lo a implantar a IA de forma precisa e previsível, estamos introduzindo duas grandes melhorias na Dell AI Platform com AMD. Primeiro, estamos introduzindo uma nova configuração em larga escala projetada para treinamento rigoroso de modelos, pré-treinamento e inferência, utilizando nós de servidor Dell PowerEdge XE9785 equipados com GPUs AMD Instinct MI355X e CPUs EPYC, apoiados pela mesma rede PowerSwitch robusta e storage PowerScale. Alimentada pelas GPUs AMD Instinct MI355X, a plataforma oferece capacidade de memória líder do setor, permitindo modelos maiores e um dimensionamento mais eficiente. Isso é particularmente valioso para grandes empresas e provedores de serviços que gerenciam demandas massivas de IA 24 horas por dia.

Em segundo lugar, estamos estendendo a arquitetura modular da Dell AI Factory para incluir GPUs PCIe AMD Instinct MI350P e CPUs AMD EPYC. Esta nova configuração utiliza nós de servidor Dell PowerEdge XE7745 e R7725, rede Dell PowerSwitch e storage Dell PowerScale juntamente com a Dell AI Data Platform. Se você deseja fazer a transição de um piloto para a produção em uma base comum e previsível, esta solução permite que você dimensione de forma econômica e resolva gargalos de recursos específicos.

Ambas as configurações utilizam o AMD ROCm e a pilha de software AMD enterprise AI, com integração nativa de frameworks abertos como Pytorch e vLLM. A solução também estará disponível através da Dell Automation Platform, que simplifica as implantações iniciais e o dimensionamento contínuo.

Além disso, um estudo recente da Omdia encomendado pela Dell Technologies validou que a solução local da Dell e AMD, utilizando nós de computação Dell PowerEdge XE9785 com GPUs AMD Instinct MI355X, oferece um custo total de propriedade (TCO) até 65% menor do que as alternativas de nuvem empresarial. Alimentada por GPUs AMD Instinct e pelo ecossistema aberto ROCm, a solução oferece o desempenho, a flexibilidade e a eficiência de custos que as empresas precisam para ir além dos pilotos. Você pode explorar o resumo executivo ou ler o relatório completo para obter insights detalhados.

Operacionalize a IA com confiança com Dell e AMD

O valor central da Dell AI Platform com AMD é simples: ela capacita organizações de todos os tamanhos a operacionalizar a IA com confiança em suas funções para impulsionar resultados de negócios transformacionais. Isso é alcançado através de três capacidades principais:

Modularidade A nova arquitetura modular oferece um caminho comum desde pequenos pilotos até a produção empresarial em larga escala. Você pode começar pequeno com apenas um único nó de computação com 2 GPUs para testes iniciais. À medida que avança para a produção, você pode reaproveitar essa infraestrutura adicionando GPUs ou nós de computação, storage e rede adicionais. À medida que sua base de usuários cresce, você pode adicionar facilmente recursos precisos, sejam GPUs, CPUs, memória, largura de banda de rede ou capacidade de storage, em pequenos incrementos para atender às suas necessidades exatas.

Versatilidade Você precisa de uma infraestrutura que se adapte às suas cargas de trabalho, e não o contrário. Otimizada para o software AMD enterprise AI e soluções de parceiros de software chave, a plataforma lida com uma ampla gama de casos de uso. Ela serve como uma base comum para todas as suas iniciativas de IA, com portabilidade de modelo contínua em pilhas de software abertas. Agora você nunca mais terá que se preocupar em ficar preso em silos ineficientes e únicos.

Segurança À medida que o uso da IA se espalha por sua organização, manter uma segurança e governança rigorosas é fundamental. A plataforma é construída sobre a base local confiável da Dell, que inerentemente minimiza os riscos de segurança externos. Além disso, a governança profunda e os controles incorporados diretamente no AMD enterprise AI Resource Manager ajudam você a implementar os procedimentos corretos de acesso e gerenciamento de dados para proteger seus negócios.

Transforme sua visão de IA em realidade

Preencher a lacuna entre um piloto bem-sucedido e um ambiente de produção próspero não precisa ser uma luta. Com as novas configurações modulares e em larga escala, você obtém a flexibilidade, escalabilidade e segurança necessárias para escalar a IA com confiança.

Pronto para transformar seus resultados de negócios? Saiba mais sobre as soluções de IA da Dell e AMD aqui.

Sobre o autor: Vikram Belapurkar Vikram lidera as iniciativas de marketing de produtos e soluções de IA da Dell com parceiros-chave do ecossistema. Em suas funções anteriores na Dell, ele liderou atividades de marketing de produtos e soluções para as soluções de infraestrutura multicloud da Dell, plataformas de infraestrutura definidas por software e hiperconvergentes, bem como sistemas de storage de dados empresariais. Vikram traz mais de 20 anos de experiência, tanto em funções técnicas quanto de negócios, trabalhando em tecnologias que vão desde o desenvolvimento de aplicativos e software de código aberto até a infraestrutura de datacenter e plataformas de IA. Vikram é bacharel em engenharia eletrônica pela Universidade de Pune e possui um MBA em marketing e gestão geral pela Wake Forest University.

Perspectiva da VirtuAllIT: Como parceira certificada da Dell Technologies e especialista em soluções de infraestrutura e IA, a VirtuAllIT está pronta para ajudar sua empresa a planejar, implementar e otimizar a Dell AI Platform com AMD. Nossa equipe de especialistas pode guiá-lo na escolha da configuração ideal, garantindo uma transição suave de POCs para a produção e maximizando o retorno sobre o investimento em suas iniciativas de inteligência artificial.