In die Warteschlange gestellte Ressourcen verwalten

Mit in die Warteschlange gestellten Ressourcen können Sie Cloud TPU-Ressourcen über eine Warteschlange anfordern. Wenn Sie in die Warteschlange gestellte Ressourcen anfordern, wird die Anfrage einer vom Cloud TPU-Dienst verwalteten Warteschlange hinzugefügt. Wenn die angeforderte Ressource verfügbar wird, wird sie Ihrem Projekt in Google Cloud zugewiesen und steht Ihnen sofort zur exklusiven Nutzung zur Verfügung. Sie bleibt Ihrem Projekt zugewiesen, bis Sie sie löschen oder sie vorzeitig beendet wird. Nur TPU-Spot-VMs und TPUs auf Abruf können vorzeitig beendet werden.

Sie können in einer Anfrage für in die Warteschlange gestellte Ressourcen optional Beginn und Ende angeben. Der Beginn ist der früheste Zeitpunkt, zu dem die Anfrage ausgeführt werden soll. Wenn eine Anfrage nicht bis zum angegebenen Ende ausgeführt wurde, läuft sie ab. Die Anfrage bleibt in der Warteschlange, nachdem sie abgelaufen ist.

Anfragen für in die Warteschlange gestellte Ressourcen können einen der folgenden Status haben:

WAITING_FOR_RESOURCES

Die Anfrage hat die erste Validierung bestanden und wurde der Warteschlange hinzugefügt. Dieser Status bleibt bestehen, bis genügend freie Ressourcen vorhanden sind, um mit der Bereitstellung zu beginnen, oder bis das Zuweisungsintervall abläuft. Bei hoher Nachfrage können nicht alle angefragten Ressourcen sofort bereitgestellt werden. Wenn Sie eine verlässlichere Verfügbarkeit von TPUs benötigen, empfiehlt es sich, eine Reservierung zu erwerben.

PROVISIONING

Die Anfrage wurde aus der Warteschlange ausgewählt und die Ressourcen werden zugewiesen.

ACTIVE

Die angefragten Ressourcen wurden zugewiesen. Wenn sich Anfragen für in die Warteschlange gestellte Ressourcen im Status ACTIVE befinden, können Sie Ihre TPU-VMs so verwalten wie es unter TPUs verwalten beschrieben wird.

FAILED

Die Anfrage konnte nicht abgeschlossen werden, da entweder ein Problem mit der Anfrage vorliegt oder die angeforderten Ressourcen im Zuweisungsintervall nicht verfügbar waren. Die Anfrage bleibt in der Warteschlange, bis sie explizit gelöscht wird.

SUSPENDING

Die mit der Anfrage verknüpften Ressourcen werden gelöscht.

SUSPENDED

Die in der Anfrage angegebenen Ressourcen wurden gelöscht. Wenn sich eine Anfrage im Status SUSPENDED befindet, können ihr keine Ressourcen mehr zugewiesen werden.

Vorbereitung

Bevor Sie die Befehle in dieser Anleitung ausführen, müssen Sie die Google Cloud CLI installieren, ein Projekt in Google Cloud erstellen und die Cloud TPU API aktivieren. Eine Anleitung dazu finden Sie unter Cloud TPU-Umgebung einrichten.

Wenn Sie eine der Cloud-Clientbibliotheken verwenden, folgen Sie der Einrichtungsanleitung für die verwendete Sprache:

• Python
• Java

On-Demand-Ressource in der Warteschlange anfordern

On-Demand-Ressourcen werden nicht vorzeitig beendet. Das On-Demand-Kontingent gewährleistet jedoch nicht, dass genügend Cloud TPU-Ressourcen für Ihre Anfrage verfügbar sein werden. Weitere Informationen zu On-Demand-Ressourcen finden Sie auf der Seite zu den Kontingenttypen.

gcloud compute tpus queued-resources create your-queued-resource-id \
    --node-id your-node-id \
    --project your-project-id \
    --zone us-central1-a \
    --accelerator-type v5litepod-8 \
    --runtime-version v2-alpha-tpuv5-lite

curl -X POST -H "Authorization: Bearer $(gcloud auth print-access-token)" \
-H "Content-Type: application/json" \
-d "{
    'tpu': {
    'node_spec': {
        'parent': 'projects/your-project-number/locations/us-central1-a',
        'node_id': 'your-node-id',
        'node': {
        'accelerator_type': 'v5litepod-8',
        'runtime_version': 'v2-alpha-tpuv5-lite',
        }
    }
    }
}" \
https://tpu.googleapis.com/v2alpha1/projects/your-project-id/locations/us-central1-a/queuedResources?queued_resource_id=your-queued-resource-id

import com.google.cloud.tpu.v2alpha1.CreateQueuedResourceRequest;
import com.google.cloud.tpu.v2alpha1.Node;
import com.google.cloud.tpu.v2alpha1.QueuedResource;
import com.google.cloud.tpu.v2alpha1.TpuClient;
import java.io.IOException;
import java.util.concurrent.ExecutionException;
import java.util.concurrent.TimeUnit;
import java.util.concurrent.TimeoutException;

public class CreateQueuedResource {
  public static void main(String[] args)
          throws IOException, ExecutionException, InterruptedException, TimeoutException {
    // TODO(developer): Replace these variables before running the sample.
    // Project ID or project number of the Google Cloud project you want to create a node.
    String projectId = "YOUR_PROJECT_ID";
    // The zone in which to create the TPU.
    // For more information about supported TPU types for specific zones,
    // see https://cloud.google.com/tpu/docs/regions-zones
    String zone = "us-central1-a";
    // The name for your TPU.
    String nodeName = "YOUR_NODE_ID";
    // The accelerator type that specifies the version and size of the Cloud TPU you want to create.
    // For more information about supported accelerator types for each TPU version,
    // see https://cloud.google.com/tpu/docs/system-architecture-tpu-vm#versions.
    String tpuType = "v5litepod-4";
    // Software version that specifies the version of the TPU runtime to install.
    // For more information see https://cloud.google.com/tpu/docs/runtimes
    String tpuSoftwareVersion = "v2-tpuv5-litepod";
    // The name for your Queued Resource.
    String queuedResourceId = "QUEUED_RESOURCE_ID";

    createQueuedResource(
        projectId,