رابط برنامهنویسی نرمافزار Gemini Batch برای پردازش حجم زیادی از درخواستها به صورت غیرهمزمان با ۵۰٪ هزینه استاندارد طراحی شده است. زمان تحویل هدف ۲۴ ساعت است، اما در اکثر موارد، بسیار سریعتر است.
از Batch API برای کارهای بزرگ و غیر فوری مانند پیشپردازش دادهها یا اجرای ارزیابیها که در آنها پاسخ فوری لازم نیست، استفاده کنید.
ایجاد یک کار دستهای
شما دو راه برای ارسال درخواستهای خود در Batch API دارید:
- درخواستهای درونخطی : فهرستی از اشیاء
GenerateContentRequestکه مستقیماً در درخواست ایجاد دستهای شما گنجانده شدهاند. این برای دستههای کوچکتر که اندازه کل درخواست را زیر 20 مگابایت نگه میدارند، مناسب است. خروجی برگردانده شده از مدل، فهرستی از اشیاءinlineResponseاست. - فایل ورودی : یک فایل JSON Lines (JSONL) که هر خط آن شامل یک شیء
GenerateContentRequestکامل است. این روش برای درخواستهای بزرگتر توصیه میشود. خروجی برگردانده شده از مدل یک فایل JSONL است که هر خط آن یا یکGenerateContentResponseیا یک شیء وضعیت است.
درخواستهای درونخطی
برای تعداد کمی از درخواستها، میتوانید اشیاء GenerateContentRequest را مستقیماً درون BatchGenerateContentRequest خود جاسازی کنید. مثال زیر متد BatchGenerateContent را با درخواستهای درونخطی فراخوانی میکند: