Kako razrešiti kodo napake OpenAI API 429 v Pythonu tudi s kreditom

Razumevanje napak kvote OpenAI API

Pri delu z API-jem OpenAI prejmete napako, kot je Koda napake 429 je lahko frustrirajoče, še posebej za tiste, ki so novi v Pythonu in OpenAI. Ta napaka običajno pomeni, da ste presegli trenutno kvoto uporabe API-ja.

Če ste preverili svoj račun OpenAI in potrdili, da imate še vedno na voljo kredite, se morda sprašujete, zakaj se ta napaka nenehno pojavlja. Za razvijalce je običajno, da naletijo na to težavo, ko prvič nastavijo svoje klice API-ja.

Razumevanje vzroka te težave je ključnega pomena za zagotovitev, da lahko API učinkovito izkoristite. Ta vodnik bo razčlenil verjetne razloge za napako in vam ponudil korake za njeno odpravo.

Poglobimo se v morebitne razloge, zakaj naletite na to napako, čeprav imate kredite v svojem računu OpenAI, in kako pristopiti k njenemu popravljanju v skriptu Python.

Kako skripti Python obravnavajo omejitve hitrosti API-ja OpenAI

Zgornji skripti so zasnovani tako, da obravnavajo pogosto težavo, s katero se srečujejo razvijalci pri uporabi API-ja OpenAI: naletite na sporočilo o napaki, ki nakazuje, da ste presegli API kvota kljub kreditu. Ta težava je povezana z omejitvijo števila zahtevkov v določenem obdobju, ki jo nalaga OpenAI. Glavni skript je napisan za obravnavo te situacije z uporabo mehanizmov za obravnavo napak in ponovnih poskusov. Uporablja RateLimitError izjema za zaznavanje, ko je v kratkem času poslanih preveč zahtev, kar sproži napako. Poleg tega skripti uporabljajo strategijo ponovnega poskusa za samodejni ponovni poskus klica API-ja, potem ko dosežejo omejitev hitrosti.

Za izvajanje teh strategij prvi skript definira funkcijo, imenovano create_completion, ki sprejme poziv in dovoljeno število ponovnih poskusov. Ta funkcija poskuša poklicati API za dokončanje OpenAI in ustvari odgovor na podlagi podanega modela in poziva. Če je zaznana napaka omejitve hitrosti, funkcija natisne informativno sporočilo in se rekurzivno pokliče, da znova poskusi operacijo. Ta pristop je učinkovit pri izogibanju nenadnim prekinitvam skripta, hkrati pa učinkovito upravlja omejitve hitrosti API-ja.

V drugem skriptu je implementirana podobna strategija obravnavanja napak, vendar vključuje dodatno logiko za preklop modelov, če je omejitev stopnje presežena. To je še posebej uporabno, če imajo različni modeli različne omejitve hitrosti. Skript se začne z inicializacijo odjemalca OpenAI z uporabo funkcije po meri, imenovane inicializirati odjemalca. Ta funkcija preveri veljavnost ključa API in zagotovi, da je skript uspešno overjen, preden nadaljuje z nadaljnjimi klici. Če preverjanje pristnosti ne uspe, vrne uporabniku jasno sporočilo o napaki, kar zmanjša zmedo zaradi napačnih konfiguracij.

Drugi skript uvaja tudi funkcijo z imenom create_chat, ki poskuša klic API-ja z uporabo določenega modela. Če a RateLimitError se dvigne, funkcija natisne sporočilo, ki nakazuje, da bo preklopila na nadomestni model, na primer iz "davinci-002" v "davinci-003". To dokazuje prilagodljivost pri upravljanju omejitev stopenj, hkrati pa zagotavlja rezultate. Poleg tega skripti uporabljajo spremenljivke okolja za varno upravljanje ključa API z uporabo dotenv paket, s poudarkom na varnih praksah kodiranja. Spremenljivke okolja zmanjšajo tveganje za razkritje občutljivih podatkov v kodni bazi.

import os
from dotenv import load_dotenv
import openai
from openai.error import RateLimitError
# Load environment variables from a .env file
load_dotenv()
# Retrieve API key securely
api_key = os.getenv("OPENAI_API_KEY")
# Initialize OpenAI client
client = openai.OpenAI(api_key=api_key)
# Define a function to handle API calls with retry mechanism
def create_completion(prompt, retries=3):
    try:
        response = client.Completion.create(
            model="davinci-002",
            prompt=prompt,
            max_tokens=50
        )
        return response
    except RateLimitError as e:
        if retries > 0:
            print("Rate limit exceeded. Retrying...")
            return create_completion(prompt, retries - 1)
        else:
            print(f"Failed after multiple attempts: {str(e)}")
            return None
# Testing prompt
result = create_completion("Say this is a test")
if result:
    print(result)

import os
from dotenv import load_dotenv
import openai
from openai.error import RateLimitError, AuthenticationError
# Load environment variables
load_dotenv()
api_key = os.getenv("OPENAI_API_KEY")
# Initialize OpenAI client with API key validation
def initialize_client(api_key):
    try:
        return openai.OpenAI(api_key=api_key)
    except AuthenticationError as auth_error:
        print("Invalid API key provided:", str(auth_error))
        return None
client = initialize_client(api_key)
# API call with fallback model if rate limit is reached
def create_chat(prompt, model="text-davinci-002"):
    try:
        response = client.Completion.create(
            model=model,
            prompt=prompt,
            max_tokens=60
        )
        return response
    except RateLimitError:
        print("Rate limit reached. Switching model...")
        return create_chat(prompt, model="text-davinci-003")
# Testing fallback mechanism
result = create_chat("Say this is another test")
if result:
    print(result)

Odpravljanje napak pri omejitvi hitrosti OpenAI v skriptih Python

Pri delu z OpenAI API uporabniki pogosto naletijo na kodo napake 429, kar pomeni, da je bilo število dovoljenih zahtev API preseženo. To je lahko begajoče, zlasti za začetnike, ki so preverili svoje kreditno stanje in potrdili, da imajo dovolj sredstev. V takšnih primerih težava verjetno ni v razpoložljivem kreditu, temveč v omejitvah obrestnih mer, ki jih določa OpenAI. Te omejitve lahko omejijo število klicev API-ja, ki jih lahko opravite v določenem časovnem obdobju. Razumevanje in učinkovito upravljanje teh omejitev je ključnega pomena za izdelavo zanesljive rešitve.

Eden od načinov za obravnavo tega je uvedba mehanizma ponovnega poskusa, kot je prikazano v prejšnjih primerih skriptov. Vendar je še en pomemben vidik, ki ga je treba upoštevati, razumevanje OpenAI politike kvot v globino. OpenAI lahko uveljavi različne omejitve stopnje glede na model ali vrsto računa, ki se uporablja. Na primer, računi brezplačne ravni se lahko soočajo s strožjimi omejitvami v primerjavi s plačljivimi ravnmi, kar lahko vpliva na vaš način oblikovanja klicev API-ja. Poleg tega morajo uporabniki zagotoviti, da so njihova dovoljenja za ključ API pravilno nastavljena, saj lahko napačna konfiguracija sproži tudi napake kvote.

Poleg upravljanja ponovnih poskusov in izbire nadomestnih modelov je bistveno optimizirati klice API-ja. To vključuje zmanjšanje nepotrebnih zahtev API in osredotočanje na kritične. Razvijalci lahko tudi spremljajo statistiko uporabe API-ja z nadzorne plošče OpenAI, da pridobijo vpogled v svoje vzorce porabe in ustrezno prilagodijo svoje skripte. Z izvajanjem teh strategij lahko zmanjšate verjetnost, da boste dosegli omejitve hitrosti, in zagotovite bolj gladko interakcijo z API-jem OpenAI.