Escolher a GPU certa para inteligência artificial é uma das decisões mais impactantes que uma equipe técnica pode tomar. Comprar hardware subdimensionado significa gargalos que travam o projeto. Superdimensionar significa imobilizar capital em hardware que fica ocioso. Este guia mostra como acertar na escolha.
Nossos arquitetos avaliam seu caso de uso e recomendam a GPU ideal — sem viés de fabricante.
O que define uma boa GPU para IA
Diferente de gaming — onde clock e resolução de textura dominam — GPUs para IA são avaliadas por três métricas:
1. VRAM (memória da GPU)
É o fator limitante mais comum. O modelo inteiro precisa caber na VRAM para rodar com eficiência. Um LLM de 7B parâmetros em FP16 precisa de ~14 GB. Com Q4 (quantização 4 bits), cabe em ~4 GB. Se o modelo não cabe na VRAM, o framework vai fazer offload para RAM do sistema — e a performance despenca 10–50×.
2. Tensor Cores / Matrix Cores
São unidades especializadas em multiplicação de matrizes — a operação dominante em redes neurais. GPUs modernas têm Tensor Cores (NVIDIA) ou Matrix Cores (AMD) que executam essas operações em hardware dedicado, 4–16× mais rápido do que as shaders convencionais.
3. Bandwidth de memória
A velocidade com que a GPU lê os pesos do modelo da VRAM. Para inferência de LLMs, o gargalo quase sempre é o bandwidth de memória, não a capacidade de computação. O H100 tem 3,35 TB/s de bandwidth HBM3 — o RTX 4090 tem 1,01 TB/s de GDDR6X. Para servir modelos grandes com baixa latência, bandwidth importa mais do que TFLOPS.
NVIDIA vs AMD: qual escolher?
NVIDIA — ecossistema dominante
CUDA é o padrão da indústria para frameworks de ML. PyTorch, TensorFlow, Triton e praticamente todos os frameworks de inferência (vLLM, TensorRT-LLM, llama.cpp com aceleração) têm suporte nativo e otimizado para CUDA. Isso se traduz em:
- Mais tutoriais, exemplos e suporte da comunidade
- Bibliotecas otimizadas (cuBLAS, cuDNN, NCCL) instaladas com um comando
- Suporte técnico empresarial com SLA definido (Enterprise Support)
- NVLink para comunicação ultra-rápida entre GPUs no mesmo servidor
AMD — alternativa viável em 2026
O AMD MI300X com 192 GB de VRAM HBM3 é o único chip capaz de rodar modelos de 70B parâmetros em FP16 em uma única placa. O suporte ROCm melhorou significativamente — PyTorch 2.x roda nativamente em AMD com performance comparável ao CUDA em muitas cargas de trabalho. A desvantagem é o ecossistema menor: alguns frameworks e extensões ainda têm suporte apenas experimental para ROCm.
Regra geral: se você está começando ou quer máxima compatibilidade, vá com NVIDIA. Se tem uma equipe técnica sênior e quer evitar dependência de fornecedor único, AMD MI300X merece avaliação séria para workloads de inferência de modelos grandes.
GPUs por categoria e orçamento
| GPU | VRAM | Preço (R$) | Melhor para |
|---|---|---|---|
| RTX 4060 Ti | 16 GB | R$ 4.000–6.000 | Protótipos, modelos 7B Q4 |
| RTX 4090 | 24 GB | R$ 15.000–22.000 | PME, fine-tuning LoRA, inferência 13B |
| RTX 4000 Ada | 20 GB | R$ 12.000–18.000 | Workstation enterprise 24/7 |
| L40S | 48 GB | R$ 90.000–130.000 | Inferência produção 24/7, modelos 30–70B Q4 |
| A100 80 GB | 80 GB | R$ 160.000–220.000 | Fine-tuning completo, modelos 70B FP16 |
| H100 SXM5 80 GB | 80 GB | R$ 400.000–600.000 | Treinamento de LLMs, cluster HPC |
Como escolher pelo caso de uso
Caso 1: Chatbot interno / automação de documentos
Você precisa de inferência rápida de modelos de linguagem com dados internos da empresa. O modelo roda continuamente para responder perguntas de funcionários.
Recomendação: 1–2× L40S (48 GB cada). Um L40S aguenta modelos de 30B em FP16 ou 70B em Q4, com múltiplos usuários simultâneos. Se o orçamento é limitado, 2× RTX 4090 em paralelo funcionam para cargas moderadas.
Caso 2: Fine-tuning com dados proprietários
Você quer adaptar um modelo de linguagem (Llama, Mistral, Phi) para o seu domínio específico usando seus próprios dados.
Recomendação: Para fine-tuning com LoRA/QLoRA, 1–2× A100 40 GB são suficientes para modelos até 13B. Para fine-tuning full de modelos 70B, você precisa de 2–4× A100 80 GB com pipeline parallelism. Full fine-tuning de modelos 70B+ requer H100.
Caso 3: Computer vision em produção
Detecção de objetos, OCR, inspeção de qualidade — modelos de visão rodando em tempo real ou near-real-time.
Recomendação: L40S é a escolha ideal — tem NVENC/NVDEC para aceleração de vídeo além de Tensor Cores para inferência. Para volumes menores, RTX 4000 Ada (workstation) ou T4 (data center entry-level).
Caso 4: RAG com base de conhecimento corporativa
Você precisa de um pipeline de embeddings + LLM para consultar documentos internos.
Recomendação: O modelo de embeddings (e5-large, bge-m3) precisa de apenas 4–8 GB de VRAM. O LLM precisa de 16–48 GB dependendo do modelo. Para começar: 1× RTX 4090 (24 GB) roda embeddings + Llama 3 8B Q4 no mesmo servidor. Para escalar: separe em dois servidores.
Perguntas para fazer antes de comprar
- Qual modelo vou rodar? — Define a VRAM mínima necessária.
- O workload é 24/7 ou pontual? — Consumer para pontual, enterprise para contínuo.
- Quantos usuários simultâneos? — Cada usuário adiciona KV-cache (8–20 GB por sessão em modelos grandes).
- Vou treinar ou só inferir? — Treinamento precisa de 3–4× mais VRAM que inferência.
- Qual o crescimento esperado em 12–18 meses? — Prefira servidor com slots PCIe livres para adicionar GPUs.
Perguntas frequentes
Posso usar múltiplas GPUs consumer em vez de uma GPU enterprise?
Sim, com algumas ressalvas. Duas RTX 4090 (2× 24 GB = 48 GB de VRAM total) custam ~R$ 35.000 versus um L40S de R$ 110.000. A diferença: as RTX 4090 não são certificadas para uso 24/7, não têm suporte enterprise, consomem mais energia relativa e não suportam ECC memory. Para protótipos e projetos internos sem SLA crítico, é uma opção válida. Para produção contínua, prefira enterprise.
GPU de workstation (RTX série profissional) vs GPU de servidor (A100/H100) — qual diferença?
GPUs de workstation (RTX 4000/5000 Ada, RTX 6000 Ada) têm forma PCIe dual-slot, suportam até 48 GB VRAM, são certificadas para uso profissional 24/7 e têm suporte de driver NVIDIA Enterprise. GPUs de servidor (A100, H100, L40S) têm resfriamento passivo, precisam de servidor rack com airflow adequado, suportam NVLink entre GPUs e têm licenciamento para multi-instância (MIG). Workstation: mais flexível, cabe em servidor tower. Servidor: mais performance em ambiente rack, essencial para clusters.
O que é MIG (Multi-Instance GPU) e quando usar?
MIG é uma tecnologia NVIDIA (disponível em A100 e H100) que divide uma GPU física em até 7 instâncias independentes, cada uma com VRAM e compute isolados. Permite que múltiplos usuários ou workloads usem a mesma GPU com isolamento total — ideal para ambientes multi-tenant, laboratórios de ML compartilhados ou quando você quer rodar vários modelos pequenos em paralelo em uma GPU grande.
Preciso de GPU para usar RAG com documentos da empresa?
Não obrigatoriamente. Modelos de embeddings pequenos (MiniLM, e5-small) rodam em CPU com latência aceitável para volumes baixos. O LLM que processa o contexto é o que mais beneficia de GPU. Para equipes pequenas (até 20 usuários), um servidor com CPU moderna e 64 GB de RAM pode rodar RAG com modelos quantizados via llama.cpp sem GPU dedicada. A partir de 50+ usuários simultâneos ou latência abaixo de 2 segundos, GPU dedicada se torna necessária.
Comprar GPU ou contratar cloud GPU?
Se o uso for constante (mais de 60% de utilização), comprar amortiza em 12–18 meses. Cloud GPU é mais adequada para treinamento esporádico ou experimentação. Veja a análise completa em Cloud GPU vs servidor próprio para IA.
