Habilitar Recursos com GPU para Automação do VMware Cloud Foundation
À medida que a demanda por aplicações e agentes de IA cresce rapidamente, fornecer à sua organização acesso a recursos habilitados para GPU é essencial. Isso é fundamental para alavancar a IA para um crescimento acelerado dos negócios e minimizar os riscos de segurança, particularmente mantendo as cargas de trabalho de IA dentro do seu ambiente on-premises VMware Cloud Foundation (VCF). O VCF Automation é a solução que permite à sua organização ter autoatendimento desses recursos habilitados para GPU. Essa capacidade é vital para aumentar a segurança, evitar custos de "shadow IT" e acelerar o desenvolvimento e o uso da IA em toda a sua empresa.
As Reservas de GPU (GPU Reservations) atendem às necessidades de provedores de cloud e cenários multi-tenant semelhantes para reservar GPUs antes que um tenant utilize essa GPU, garantindo que a capacidade de GPU reservada seja acessível apenas a esse tenant dentro de seu namespace. A mesma abordagem pode ser aplicada dentro de uma empresa onde uma organização central de TI fornece capacidade vGPU de forma pré-reservada para diferentes departamentos. Algumas organizações não precisam desse nível de reservas e desejam ser mais flexíveis no agendamento em tempo de execução: elas devem ignorar o uso deste recurso.
O vídeo a seguir demonstra as etapas para habilitar recursos habilitados para GPU para o VCF Automation, tornando esses ativos valiosos prontamente disponíveis para autoatendimento dentro da sua organização.
Comandos Usados no Vídeo
# ACESSAR DCLI
dcli +i +show
# acessar dcli no vCenter Server
# LISTAR ZONE BINDINGS
com vmware vcenter namespace management supervisors zones bindings list --supervisor [supervisor ID]
# ATUALIZAR ZONE BINDING COM VMCLASS RESERVADA
supervisors zones bindings update --supervisor [supervisor ID] --resource-allocation-vm-reservations '[{"reserved_vm_class": "VMCLASS NAME", "count": 1}]' --zone domain-c[##]
# OBTER TENANT BEARER TOKEN
curl --insecure --location 'https://VCFA-FQDN/tm/oauth/tenant/YOUR-ORG/token' \
--header 'Accept: application/*' \
--header 'Content-type: application/x-www-form-urlencoded' \
--data-urlencode 'grant_type=refresh_token' \
--data-urlencode 'refresh_token=REFRESHTOKEN'
# CRIAR SUPERVISOR NAMESPACE CLASS
curl -k -XPOST https://VCFA-FQDN/cci/kubernetes/apis/infrastructure.cci.vmware.com/v1alpha2/supervisornamespaceclasses \
-H "Authorization: Bearer <YOUR_BEARER_TOKEN>" \
-H "Content-Type: application/json" \
-d '{ "apiVersion": "infrastructure.cci.vmware.com/v1alpha2", "kind": "SupervisorNamespaceClass", "metadata": { "name": "<YOUR_CLASS_NAME>" }, "spec": { "description": "supervisor namespace class", "parameters": [] } }'
# CRIAR SUPERVISOR NAMESPACE CLASS CONFIG
curl -k -XPOST https://VCFA-FQDN/cci/kubernetes/apis/infrastructure.cci.vmware.com/v1alpha2/supervisornamespaceclassconfigs \
-H "Authorization: Bearer YOUR BEARER TOKEN" \
-H "Content-Type: application/json" \
-d '{ "apiVersion": "infrastructure.cci.vmware.com/v1alpha2", "kind": "SupervisorNamespaceClassConfig", "metadata": { "name": "<CONFIG_NAME>" }, "spec": { "storageClasses": [ { "name": "<STORAGE_POLICY_NAME>", "limit": "<STORAGE_LIMIT_IN_Mi>" } ], "vmClasses": [ { "name": "*" } ], "contentSources": [], "limits": [], "zones": [ { "cpuLimit": "<CPU_LIMIT_IN_MHZ>", "cpuReservation": "<CPU_RESERVATION_IN_MHZ>", "memoryLimit": "<MEMORY_LIMIT_IN_Mi>", "memoryReservation": "<MEMORY_RESERVATION_IN_Mi>", "name": "domain-cXX", "vmClassReservations": [ { "count": <RESERVED_COUNT>, "vmClassName": "<YOUR VMCLASS>" } ] } ] } }'
# ACESSAR DCLI
dcli +i +show
# acessar dcli no vCenter Server
# LISTAR ZONE BINDINGS
com vmware vcenter namespace management supervisors zones bindings list --supervisor [supervisor ID]
# ATUALIZAR ZONE BINDING COM VMCLASS RESERVADA
supervisors zones bindings update --supervisor [supervisor ID] --resource-allocation-vm-reservations '[{"reserved_vm_class": "VMCLASS NAME", "count": 1}]' --zone domain-c[##]
# OBTER TENANT BEARER TOKEN
curl --insecure --location 'https://VCFA-FQDN/tm/oauth/tenant/YOUR-ORG/token' \
--header 'Accept: application/*' \
--header 'Content-type: application/x-www-form-urlencoded' \
--data-urlencode 'grant_type=refresh_token' \
--data-urlencode 'refresh_token=REFRESHTOKEN'
# CRIAR SUPERVISOR NAMESPACE CLASS
curl -k -XPOST https://VCFA-FQDN/cci/kubernetes/apis/infrastructure.cci.vmware.com/v1alpha2/supervisornamespaceclasses \
-H "Authorization: Bearer <YOUR_BEARER_TOKEN>" \
-H "Content-Type: application/json" \
-d '{ "apiVersion": "infrastructure.cci.vmware.com/v1alpha2", "kind": "SupervisorNamespaceClass", "metadata": { "name": "<YOUR_CLASS_NAME>" }, "spec": { "description": "supervisor namespace class", "parameters": [] } }'
# CRIAR SUPERVISOR NAMESPACE CLASS CONFIG
curl -k -XPOST https://VCFA-FQDN/cci/kubernetes/apis/infrastructure.cci.vmware.com/v1alpha2/supervisornamespaceclassconfigs \
-H "Authorization: Bearer YOUR BEARER TOKEN" \
-H "Content-Type: application/json" \
-d '{ "apiVersion": "infrastructure.cci.vmware.com/v1alpha2", "kind": "SupervisorNamespaceClassConfig", "metadata": { "name": "<CONFIG_NAME>" }, "spec": { "storageClasses": [ { "name": "<STORAGE_POLICY_NAME>", "limit": "<STORAGE_LIMIT_IN_Mi>" } ], "vmClasses": [ { "name": "*" } ], "contentSources": [], "limits": [], "zones": [ { "cpuLimit": "<CPU_LIMIT_IN_MHZ>", "cpuReservation": "<CPU_RESERVATION_IN_MHZ>", "memoryLimit": "<MEMORY_LIMIT_IN_Mi>", "memoryReservation": "<MEMORY_RESERVATION_IN_Mi>", "name": "domain-cXX", "vmClassReservations": [ { "count": <RESERVED_COUNT>, "vmClassName": "<YOUR VMCLASS>" } ] } ] } }'
Recursos Adicionais
- Documentação oficial sobre como Preparar o VCF para Cargas de Trabalho de IA Privadas
- Configure sua Organização VCF Automation para VMware Private AI Foundation com NVIDIA
- Descubra mais no Blog VMware Cloud Foundation (VCF)
Assine para receber as últimas postagens em seu e-mail. Digite seu e-mail… Assinar
Precisa de ajuda com suas soluções de TI?
A VirtuAllIT Solutions oferece consultoria especializada em virtualização, cloud computing e infraestrutura tecnológica.