Um equilibrador de carga é um sistema composto por vários componentes que interagem. Não existe um único recurso de API que represente um balanceador de carga. Em alternativa, vários componentes funcionam em conjunto para distribuir o tráfego recebido por vários back-ends.
O diagrama seguinte mostra os componentes principais de um Application Load Balancer, um Network Load Balancer de proxy e um Network Load Balancer de encaminhamento.