As peças e o papel de cada uma

As peças de um computador se dividem por função: quem processa (CPU e GPU), quem guarda enquanto está ligado (memória RAM), quem guarda para sempre (SSD ou HD) e quem liga tudo (placa-mãe e barramentos). Confundir os papéis dessas peças é a origem de quase toda confusão de iniciante sobre desempenho.

A pergunta natural é: por que não existe uma memória só? Se a RAM é rápida, por que não guardar tudo nela? E se o SSD é permanente, por que não usá-lo como memória principal?

A resposta é que velocidade, capacidade e custo brigam entre si. Memória rápida é caríssima por byte e perde tudo ao desligar. Armazenamento permanente é barato e enorme, mas ordens de grandeza mais lento. Como não existe uma tecnologia que seja rápida, grande, barata e permanente ao mesmo tempo, o computador usa várias camadas, cada uma cobrindo a fraqueza da outra.

Imagine trabalhar numa mesa. Os registradores são o que está na sua mão. O cache é o que está sobre a mesa, ao alcance. A RAM é a estante do escritório: levantar e buscar custa, mas é viável. O SSD é o arquivo morto no porão — está tudo lá, guardado para sempre, e você desce até lá o mínimo possível. Ninguém organiza o trabalho descendo ao porão a cada folha que precisa: você traz um maço inteiro de uma vez e deixa na mesa. É exatamente o que o cache faz.

Essa hierarquia aparece em toda decisão de desempenho profissional. Banco de dados é construído inteiro em volta dela: índice existe para evitar ir ao disco, e cache de consulta existe para evitar ir ao banco. Quando um serviço em nuvem custa caro, muitas vezes é porque está indo ao armazenamento quando poderia responder da memória. E quando alguém escolhe GPU para treinar um modelo em vez de CPU, está aplicando a diferença entre poucos núcleos espertos e milhares de núcleos paralelos.