Faça a gestão dos recursos em fila

Os recursos em fila permitem-lhe pedir recursos de Cloud TPU de forma organizada em fila. Quando pede recursos em fila, o pedido é adicionado a uma fila mantida pelo serviço Cloud TPU. Quando o recurso pedido fica disponível, é atribuído ao seu Google Cloud projeto para uso exclusivo imediato. Permanece atribuído ao seu projeto, a menos que o elimine ou seja antecipado. Apenas as VMs Spot de TPU e as TPUs preemptíveis são elegíveis para a preempção.

Pode especificar uma hora de início e de fim opcional num pedido de recurso em fila. A hora de início especifica a hora mais antiga em que o pedido deve ser preenchido. Se um pedido não for preenchido até à hora de fim especificada, o pedido expira. O pedido permanece na fila após expirar.

Os pedidos de recursos em fila podem estar num dos seguintes estados:

  • WAITING_FOR_RESOURCES: A solicitação passou na validação inicial e foi adicionada à fila. Permanece neste estado até existirem recursos sem custo financeiro suficientes para começar o aprovisionamento do seu pedido ou o intervalo de atribuição expirar. Quando a procura é elevada, nem todos os pedidos podem ser imediatamente processados. Se precisar de uma obtenção mais fiável de TPUs, pondere comprar uma reserva.
  • PROVISIONING: o pedido foi selecionado na fila e os respetivos recursos estão a ser atribuídos.
  • ACTIVE: o pedido foi atribuído. Quando os pedidos de recursos em fila estão no estado ACTIVE, pode gerir as suas VMs de TPU conforme descrito em Gerir TPUs.
  • FAILED: Não foi possível concluir o pedido porque existe um problema com o pedido ou os recursos pedidos não estavam disponíveis no intervalo de atribuição. O pedido permanece na fila até ser eliminado explicitamente.
  • SUSPENDING: os recursos associados ao pedido estão a ser eliminados.
  • SUSPENDED: os recursos especificados no pedido foram eliminados. Quando um pedido se encontra no estado SUSPENDED, deixa de ser elegível para atribuição adicional.

Pré-requisitos

Antes de executar os comandos neste guia, tem de instalar a CLI Google Cloud, criar um Google Cloud projeto e ativar a API Cloud TPU. Para ver instruções, consulte o artigo Configure o ambiente do Cloud TPU.

Se estiver a usar uma das bibliotecas de cliente da nuvem, siga as instruções de configuração para o idioma que está a usar:

Peça um recurso em fila de espera a pedido

Os recursos a pedido não são antecipados, mas a quota a pedido não garante que existam recursos de Cloud TPU suficientes para satisfazer o seu pedido. Para mais informações sobre os recursos a pedido, consulte os tipos de quota.

gcloud

gcloud compute tpus queued-resources create your-queued-resource-id \
    --node-id your-node-id \
    --project your-project-id \
    --zone us-central1-a \
    --accelerator-type v5litepod-8 \
    --runtime-version v2-alpha-tpuv5-lite

Descrições dos parâmetros de comandos

  • queued-resource-id: o ID atribuído pelo utilizador do pedido de recurso em fila.
  • node-id: O ID atribuído pelo utilizador da TPU que é criado quando o pedido de recurso em fila é atribuído.
  • project: o seu Google Cloud projeto.
  • zone: a zona onde planeia criar o Cloud TPU.
  • accelerator-type: o tipo de acelerador especifica a versão e o tamanho da Cloud TPU que quer criar. Para mais informações sobre os tipos de aceleradores suportados para cada versão da TPU, consulte o artigo Versões da TPU.
  • runtime-version: A versão do software Cloud TPU.

curl

curl -X POST -H "Authorization: Bearer $(gcloud auth print-access-token)" \
-H "Content-Type: application/json" \
-d "{
    'tpu': {
    'node_spec': {
        'parent': 'projects/your-project-number/locations/us-central1-a',
        'node_id': 'your-node-id',
        'node': {
        'accelerator_type': 'v5litepod-8',
        'runtime_version': 'v2-alpha-tpuv5-lite',
        }
    }
    }
}" \
https://tpu.googleapis.com/v2alpha1/projects/your-project-id/locations/us-central1-a/queuedResources?queued_resource_id=your-queued-resource-id

Descrições dos parâmetros de comandos

  • queued-resource-id: o ID atribuído pelo utilizador do pedido de recurso em fila.
  • node-id: O ID atribuído pelo utilizador da TPU que é criado quando o pedido de recurso em fila é atribuído.
  • project: o seu Google Cloud projeto.
  • zone: a zona onde planeia criar o seu Cloud TPU.
  • accelerator-type: o tipo de acelerador especifica a versão e o tamanho da Cloud TPU que quer criar. Para mais informações sobre os tipos de aceleradores suportados para cada versão da TPU, consulte o artigo Versões da TPU.
  • runtime-version: A versão do software Cloud TPU.

Consola

  1. Na Google Cloud consola, aceda à página TPUs:

    Aceder às TPUs

  2. Clique em Criar TPU.

  3. No campo Nome, introduza um nome para a TPU.

  4. Na caixa Zona, selecione a zona onde quer criar a TPU.

  5. Na caixa Tipo de TPU, selecione um tipo de acelerador. O tipo de acelerador especifica a versão e o tamanho da Cloud TPU que quer criar. Para mais informações sobre os tipos de aceleradores suportados para cada versão da TPU, consulte o artigo Versões da TPU.

  6. Na caixa Versão do software da TPU, selecione uma versão do software. Quando cria uma VM do Cloud TPU, a versão do software da TPU especifica a versão do tempo de execução da TPU a instalar. Para mais informações, consulte o artigo Versões de software da TPU.

  7. Clique no botão de ativar/desativar Ativar filas.

  8. No campo Nome do recurso em fila, introduza um nome para o seu pedido de recurso em fila.

  9. Clique em Criar para criar o pedido de recursos em fila.

Java

Para se autenticar no Cloud TPU, configure as Credenciais padrão da aplicação. Para mais informações, consulte o artigo Configure a autenticação para um ambiente de desenvolvimento local.

import com.google.cloud.tpu.v2alpha1.CreateQueuedResourceRequest;
import com.google.cloud.tpu.v2alpha1.Node;
import com.google.cloud.tpu.v2alpha1.QueuedResource;
import com.google.cloud.tpu.v2alpha1.TpuClient;
import java.io.IOException;
import java.util.concurrent.ExecutionException;
import java.util.concurrent.TimeUnit;
import java.util.concurrent.TimeoutException;

public class CreateQueuedResource {
  public static void main(String[] args)
          throws IOException, ExecutionException, InterruptedException, TimeoutException {
    // TODO(developer): Replace these variables before running the sample.
    // Project ID or project number of the Google Cloud project you want to create a node.
    String projectId = "YOUR_PROJECT_ID";
    // The zone in which to create the TPU.
    // For more information about supported TPU types for specific zones,
    // see https://cloud.google.com/tpu/docs/regions-zones
    String zone = "us-central1-a";
    // The name for your TPU.
    String nodeName = "YOUR_NODE_ID"