Kā atrisināt OpenAI API kļūdas kodu 429 Python pat ar kredītu

Izpratne par OpenAI API kvotas kļūdām

Strādājot ar OpenAI API, tiek saņemts kļūdas ziņojums, piemēram Kļūdas kods 429 var būt nomākta, jo īpaši tiem, kas ir iesācēji gan Python, gan OpenAI. Šī kļūda parasti norāda, ka esat pārsniedzis pašreizējo API lietošanas kvotu.

Ja esat pārbaudījis savu OpenAI kontu un apstiprinājis, ka jums joprojām ir pieejami kredīti, iespējams, rodas jautājums, kāpēc šī kļūda joprojām tiek rādīta. Izstrādātāji bieži saskaras ar šo problēmu, pirmo reizi iestatot savus API zvanus.

Izpratne par šīs problēmas cēloni ir ļoti svarīga, lai pārliecinātos, ka varat efektīvi izmantot API. Šajā rokasgrāmatā ir aprakstīti iespējamie kļūdas iemesli un sniegti norādījumi, kā to novērst.

Apskatīsim iespējamos iemeslus, kāpēc rodas šī kļūda, lai gan jūsu OpenAI kontā ir kredīti, un to, kā to novērst Python skriptā.

Kā Python skripti apstrādā OpenAI API ātruma ierobežojumus

Iepriekš sniegtie skripti ir izstrādāti, lai risinātu izplatītu problēmu, ar ko saskaras izstrādātāji, izmantojot OpenAI API: tiek parādīts kļūdas ziņojums, kas norāda, ka esat pārsniedzis API kvota neskatoties uz to, ka viņam ir kredīts. Šī problēma ir saistīta ar OpenAI noteikto ātruma ierobežojumu pieprasījumu skaitam noteiktā periodā. Galvenais skripts ir rakstīts, lai risinātu šo situāciju, izmantojot kļūdu apstrādes un atkārtošanas mehānismus. Tas izmanto RateLimitError izņēmums, lai noteiktu, kad īsā laika posmā tiek nosūtīts pārāk daudz pieprasījumu, izraisot kļūdu. Turklāt skripti izmanto atkārtošanas stratēģiju, lai pēc ātruma ierobežojuma sasniegšanas automātiski mēģinātu vēlreiz izsaukt API.

Lai īstenotu šīs stratēģijas, pirmais skripts definē funkciju, ko sauc izveides_pabeigšana, kas pieņem uzvedni un atļauto atkārtoto mēģinājumu skaitu. Šī funkcija mēģina izsaukt OpenAI pabeigšanas API, ģenerējot atbildi, pamatojoties uz doto modeli un uzvedni. Ja tiek konstatēta ātruma ierobežojuma kļūda, funkcija izdrukā informatīvu ziņojumu un rekursīvi izsauc sevi, lai mēģinātu darbību vēlreiz. Šī pieeja ir efektīva, lai izvairītos no pēkšņas skripta pārtraukšanas, vienlaikus efektīvi pārvaldot API ātruma ierobežojumus.

Otrajā skriptā ir ieviesta līdzīga kļūdu apstrādes stratēģija, taču tajā ir iekļauta papildu loģika, lai pārslēgtu modeļus, ja tiek pārsniegts ātruma ierobežojums. Tas ir īpaši noderīgi, ja dažādiem modeļiem var būt dažādi ātruma ierobežojumi. Skripts sākas, inicializējot OpenAI klientu, izmantojot pielāgotu funkciju inicializēt klientu. Šī funkcija pārbauda API atslēgas derīgumu, pārliecinoties, ka skripts ir veiksmīgi autentificēts, pirms turpināt turpmākos izsaukumus. Ja autentifikācija neizdodas, tā lietotājam atgriež skaidru kļūdas ziņojumu, samazinot neskaidrības saistībā ar nepareizu konfigurāciju.

Otrais skripts arī ievieš funkciju ar nosaukumu izveidot_tērzēšanu, kas mēģina veikt API izsaukumu, izmantojot noteiktu modeli. Ja a RateLimitError tiek pacelts, funkcija izdrukā ziņojumu, norādot, ka tā pārslēgsies uz rezerves modeli, piemēram, no "davinci-002" uz "davinci-003". Tas parāda elastību ātruma ierobežojumu pārvaldībā, vienlaikus turpinot sniegt rezultātus. Turklāt skripti izmanto vides mainīgos, lai droši pārvaldītu API atslēgu, izmantojot dotenv paketi, uzsverot drošas kodēšanas praksi. Vides mainīgie samazina risku atklāt sensitīvus datus kodu bāzē.

import os
from dotenv import load_dotenv
import openai
from openai.error import RateLimitError
# Load environment variables from a .env file
load_dotenv()
# Retrieve API key securely
api_key = os.getenv("OPENAI_API_KEY")
# Initialize OpenAI client
client = openai.OpenAI(api_key=api_key)
# Define a function to handle API calls with retry mechanism
def create_completion(prompt, retries=3):
    try:
        response = client.Completion.create(
            model="davinci-002",
            prompt=prompt,
            max_tokens=50
        )
        return response
    except RateLimitError as e:
        if retries > 0:
            print("Rate limit exceeded. Retrying...")
            return create_completion(prompt, retries - 1)
        else:
            print(f"Failed after multiple attempts: {str(e)}")
            return None
# Testing prompt
result = create_completion("Say this is a test")
if result:
    print(result)

import os
from dotenv import load_dotenv
import openai
from openai.error import RateLimitError, AuthenticationError
# Load environment variables
load_dotenv()
api_key = os.getenv("OPENAI_API_KEY")
# Initialize OpenAI client with API key validation
def initialize_client(api_key):
    try:
        return openai.OpenAI(api_key=api_key)
    except AuthenticationError as auth_error:
        print("Invalid API key provided:", str(auth_error))
        return None
client = initialize_client(api_key)
# API call with fallback model if rate limit is reached
def create_chat(prompt, model="text-davinci-002"):
    try:
        response = client.Completion.create(
            model=model,
            prompt=prompt,
            max_tokens=60
        )
        return response
    except RateLimitError:
        print("Rate limit reached. Switching model...")
        return create_chat(prompt, model="text-davinci-003")
# Testing fallback mechanism
result = create_chat("Say this is another test")
if result:
    print(result)

OpenAI ātruma ierobežojumu kļūdu pārvarēšana Python skriptos

Strādājot ar OpenAI API, lietotāji bieži saskaras ar kļūdas kodu 429, kas norāda, ka ir pārsniegts atļauto API pieprasījumu skaits. Tas var būt mulsinoši, īpaši iesācējiem, kuri ir pārbaudījuši savu kredīta atlikumu un apstiprinājuši, ka viņiem ir pietiekami daudz līdzekļu. Šādos gadījumos problēma, visticamāk, nav saistīta ar pieejamo kredītu, bet gan par OpenAI noteiktajiem likmju ierobežojumiem. Šie ierobežojumi var ierobežot API zvanu skaitu, ko varat veikt noteiktā laika periodā. Šo ierobežojumu izpratne un efektīva pārvaldība ir ļoti svarīga, lai izveidotu uzticamu risinājumu.

Viens no veidiem, kā to atrisināt, ir atkārtotas mēģinājuma mehānisma ieviešana, kā parādīts iepriekšējos skriptu piemēros. Tomēr vēl viens svarīgs aspekts, kas jāņem vērā, ir izpratne par OpenAI kvotu politikas dziļumā. OpenAI var piemērot dažādus likmju ierobežojumus atkarībā no modeļa vai izmantotā konta veida. Piemēram, brīvā līmeņa kontiem var būt stingrāki ierobežojumi salīdzinājumā ar maksas līmeņiem, kas var ietekmēt veidu, kā jūs veidojat API zvanus. Turklāt lietotājiem ir jānodrošina, lai viņu API atslēgas atļaujas būtu pareizi iestatītas, jo nepareiza konfigurācija var izraisīt arī kvotu kļūdas.

Papildus atkārtotu mēģinājumu pārvaldībai un rezerves modeļu izvēlei ir ļoti svarīgi optimizēt API zvanus. Tas ietver nevajadzīgu API pieprasījumu samazināšanu un koncentrēšanos uz kritiskajiem. Izstrādātāji var arī izsekot API lietošanas statistikai no OpenAI informācijas paneļa, lai gūtu ieskatu savos patēriņa modeļos un attiecīgi pielāgotu savus skriptus. Ieviešot šīs stratēģijas, jūs varat samazināt ātruma ierobežojumu sasniegšanas iespējamību un nodrošināt vienmērīgāku mijiedarbību ar OpenAI API.