Cara Men-debug Kesalahan "Sumber Daya Habis" GoogleGenerativeAI Menggunakan NodeJS SDK

Cara Memecahkan Masalah Kesalahan "Sumber Daya Habis" untuk Permintaan GoogleGenerativeAI

Skrip Backend Menggunakan Node.js dengan Google Generative AI SDK

// Import the Google Generative AI client library
const { GoogleAuth } = require('google-auth-library');
const { GoogleGenerativeAI } = require('google-generative-ai');
// Initialize client with API key and set authentication
const googleAiClient = new GoogleGenerativeAI();
googleAiClient.apiKey = 'YOUR_API_KEY';
// Function to generate content with error handling
async function generateContent(prompt) {
  try {
    // Retrieve model and execute completion request
    const model = googleAiClient.getGenerativeModel({ model: 'gemini-1.5-flash' });
    const result = await model.generateContent(prompt);
    return result.data;  // Return response on success
  } catch (error) {
    if (error.response && error.response.status === 429) {
      console.error("Quota limit reached, retry after some time.");
    } else {
      console.error("Error generating content:", error.message);
    }
  }
}
// Example prompt and function call
generateContent('Your AI prompt here').then(console.log).catch(console.error);

Solusi Alternatif: Mencoba Kembali Permintaan dengan Exponential Backoff

Skrip Node.js yang Disempurnakan Menggunakan Logika Coba Lagi

// Import required libraries and set up Google Generative AI client
const { GoogleGenerativeAI } = require('google-generative-ai');
const googleAiClient = new GoogleGenerativeAI();
googleAiClient.apiKey = 'YOUR_API_KEY';
// Function to handle exponential backoff for retrying requests
async function generateContentWithRetry(prompt, retries = 5) {
  let delay = 1000;  // Initial delay of 1 second
  for (let i = 0; i < retries; i++) {
    try {
      const model = googleAiClient.getGenerativeModel({ model: 'gemini-1.5-flash' });
      const result = await model.generateContent(prompt);
      return result.data;
    } catch (error) {
      if (error.response && error.response.status === 429) {
        console.warn(\`Attempt \${i + 1} failed due to quota limits. Retrying in \${delay} ms...\`);
        await new Promise(resolve => setTimeout(resolve, delay));
        delay *= 2;  // Exponentially increase delay
      } else {
        console.error("Unhandled error:", error.message);
        break;
      }
    }
  }
  throw new Error("All retries failed due to quota limitations.");
}
// Call the function and handle output or errors
generateContentWithRetry('Your AI prompt here').then(console.log).catch(console.error);

Menguji Kode dengan Kesalahan Kehabisan Kuota Tiruan

Uji Unit untuk Mekanisme Coba Ulang Menggunakan Jest

// Import required modules and mock response
const { generateContentWithRetry } = require('./yourModule');
const axios = require('axios');
jest.mock('axios');
describe("generateContentWithRetry", () => {
  it("should retry on 429 errors and eventually succeed", async () => {
    axios.get.mockRejectedValueOnce({ response: { status: 429 } });
    axios.get.mockResolvedValue({ data: "Success after retries!" });
    const result = await generateContentWithRetry('Test Prompt');
    expect(result).toBe("Success after retries!");
  });
  it("should throw an error after max retries", async () => {
    axios.get.mockRejectedValue({ response: { status: 429 } });
    await expect(generateContentWithRetry('Test Prompt')).rejects.toThrow("All retries failed due to quota limitations.");
  });
});

Pertanyaan Umum tentang Men-debug Masalah Kuota AI Generatif Google

1. Apa yang dimaksud dengan kesalahan "Sumber daya habis" di Google Generative AI?
2. Kesalahan ini biasanya menunjukkan bahwa permintaan API Anda telah melampaui batas quota batas yang ditetapkan oleh Google. Hal ini mungkin terjadi meskipun penagihan diaktifkan.
3. Bagaimana cara memeriksa kuota API untuk Google Generative AI?
4. Kunjungi Google Cloud Console dan buka bagian "API & Layanan", tempat Anda dapat mengakses penggunaan dan kuota untuk setiap API, termasuk Google Generative AI.
5. Mengapa saya mendapatkan error 429 pada paket berbayar?
6. Kode status HTTP 429 berarti "Terlalu Banyak Permintaan". Hal ini dapat terjadi jika kuota per menit atau per hari tertentu tercapai, bahkan pada paket berbayar. Pertimbangkan untuk memeriksa halaman kuota dan menyesuaikan pengaturan jika perlu.
7. Bagaimana cara menerapkan backoff eksponensial untuk permintaan AI Generatif Google?
8. Anda dapat menggunakan strategi percobaan ulang yang meningkatkan penundaan di antara setiap percobaan, seperti menggandakan waktu sebelum setiap percobaan ulang. Misalnya, mulailah dengan penundaan 1 detik, lalu tunggu 2, 4, dan 8 detik untuk setiap percobaan ulang berikutnya.
9. Apa yang harus saya lakukan jika aplikasi saya memerlukan kuota lebih tinggi?
10. Di Google Cloud Console, Anda dapat meminta penambahan kuota dengan mengirimkan formulir atau menghubungi dukungan Google secara langsung, terutama jika proyek Anda memiliki permintaan penggunaan yang tinggi.
11. Bisakah saya memonitor penggunaan kuota secara real time?
12. Ya, alat pemantauan Google Cloud memungkinkan Anda menyiapkan peringatan yang memberi tahu Anda saat penggunaan kuota mencapai ambang batas yang ditentukan.
13. Apa tujuan melakukan cache dengan Google Generative AI?
14. Caching memungkinkan Anda menyimpan respons yang sering diminta untuk sementara, mengurangi jumlah panggilan API dan karenanya meminimalkan konsumsi kuota.
15. Apakah penerapan batching mengurangi penggunaan kuota?
16. Ya, permintaan batching dapat mengoptimalkan penggunaan sumber daya dengan mengelompokkan beberapa perintah ke dalam satu panggilan API, terutama jika kueri serupa sering dibuat.
17. Bagaimana cara mengoptimalkan penggunaan API pada waktu di luar jam sibuk?
18. Dengan menjadwalkan permintaan yang tidak mendesak di luar jam sibuk, Anda dapat mendistribusikan beban secara merata dan menghindari mencapai batas penggunaan selama jam sibuk.
19. Alternatif apa yang tersedia jika saya melebihi batas kuota?
20. Jika proyek Anda masih memerlukan lebih banyak sumber daya, Anda dapat mencoba menggunakan model atau endpoint API lain yang memiliki opsi kapasitas lebih tinggi dalam Google Generative AI.

Poin Penting untuk Mengelola Kesalahan Kuota AI Generatif Google

Men-debug kesalahan kehabisan kuota sangat penting untuk memastikan interaksi API yang andal. Dengan memantau batas kuota di Google Cloud Console, menyetel peringatan, dan mengoptimalkan permintaan, pengembang dapat secara proaktif mengatasi masalah "Sumber daya habis" dan meningkatkan kinerja aplikasi mereka.

Praktik tambahan seperti logika percobaan ulang, pengelompokan permintaan, dan perintah caching yang sering digunakan akan mengoptimalkan penggunaan sumber daya lebih lanjut. Bersama-sama, strategi ini memberdayakan pengembang untuk mengatasi kesalahan terkait kuota secara efektif, menjaga aplikasi tetap stabil dan berjalan tanpa gangguan. 🚀