Kako riješiti OpenAI API kod pogreške 429 u Pythonu čak i uz kredit

Razumijevanje grešaka OpenAI API kvote

Kada radite s API-jem OpenAI-ja, primate pogrešku poput Šifra pogreške 429 može biti frustrirajuće, posebno za one koji su novi u Pythonu i OpenAI-ju. Ova pogreška obično znači da ste premašili trenutnu kvotu korištenja API-ja.

Ako ste provjerili svoj OpenAI račun i potvrdili da još uvijek imate raspoložive kredite, možda se pitate zašto se ova pogreška stalno pojavljuje. Uobičajeno je da se programeri susreću s ovim problemom kada prvi put postavljaju svoje API pozive.

Razumijevanje uzroka ovog problema ključno je za učinkovito korištenje API-ja. Ovaj će vodič raščlaniti vjerojatne razloge pogreške i pružiti vam korake za njezino rješavanje.

Uronimo u potencijalne razloge zašto se susrećete s ovom pogreškom, iako imate kredite na svom OpenAI računu, i kako pristupiti njezinom rješavanju u svojoj Python skripti.

Kako Python skripte postupaju s ograničenjima brzine OpenAI API-ja

Gore navedene skripte osmišljene su za rješavanje uobičajenog problema s kojim se susreću programeri kada koriste API OpenAI-ja: nailaženje na poruku o pogrešci koja pokazuje da ste prekoračili API kvota unatoč tome što ima kredit. Ovaj problem povezan je s ograničenjem stope koje nameće OpenAI na broj zahtjeva unutar određenog razdoblja. Glavna skripta je napisana za rješavanje ove situacije korištenjem mehanizama obrade grešaka i ponovnog pokušaja. Koristi se RateLimitError iznimka za otkrivanje kada je poslano previše zahtjeva u kratkom razdoblju, što izaziva pogrešku. Osim toga, skripte koriste strategiju ponovnog pokušaja za automatski pokušaj ponovnog pozivanja API-ja nakon što dosegnu ograničenje brzine.

Za provedbu ovih strategija, prva skripta definira funkciju tzv stvoriti_završetak, koji prihvaća upit i broj dopuštenih ponovnih pokušaja. Ova funkcija pokušava uputiti poziv OpenAI-jevom dovršetku API-ja, generirajući odgovor na temelju zadanog modela i upita. Ako se otkrije pogreška ograničenja brzine, funkcija ispisuje informativnu poruku i rekurzivno se poziva kako bi ponovno pokušala operaciju. Ovaj je pristup učinkovit u izbjegavanju naglih prekida skripte uz učinkovito upravljanje ograničenjima brzine API-ja.

U drugoj skripti implementirana je slična strategija rukovanja pogreškama, ali uključuje dodatnu logiku za promjenu modela ako se premaši ograničenje stope. Ovo je osobito korisno kada različiti modeli mogu imati različita ograničenja brzine. Skripta počinje inicijalizacijom OpenAI klijenta pomoću prilagođene funkcije koja se zove inicijalizirati klijenta. Ova funkcija provjerava valjanost API ključa, osiguravajući da je skripta uspješno autentificirana prije nastavka s daljnjim pozivima. Ako provjera autentičnosti ne uspije, korisniku vraća jasnu poruku o pogrešci, čime se smanjuje zabuna oko pogrešnih konfiguracija.

Druga skripta također predstavlja funkciju pod nazivom create_chat, koji pokušava uputiti API poziv koristeći određeni model. Ako a RateLimitError podignuta, funkcija ispisuje poruku koja pokazuje da će se prebaciti na rezervni model, kao što je s "davinci-002" na "davinci-003". Ovo pokazuje fleksibilnost u upravljanju ograničenjima stope dok nastavlja s isporukom rezultata. Osim toga, skripte koriste varijable okoline za sigurno upravljanje API ključem pomoću dotenv paket, s naglaskom na sigurnu praksu kodiranja. Varijable okruženja smanjuju rizik od izlaganja osjetljivih podataka u bazi koda.

import os
from dotenv import load_dotenv
import openai
from openai.error import RateLimitError
# Load environment variables from a .env file
load_dotenv()
# Retrieve API key securely
api_key = os.getenv("OPENAI_API_KEY")
# Initialize OpenAI client
client = openai.OpenAI(api_key=api_key)
# Define a function to handle API calls with retry mechanism
def create_completion(prompt, retries=3):
    try:
        response = client.Completion.create(
            model="davinci-002",
            prompt=prompt,
            max_tokens=50
        )
        return response
    except RateLimitError as e:
        if retries > 0:
            print("Rate limit exceeded. Retrying...")
            return create_completion(prompt, retries - 1)
        else:
            print(f"Failed after multiple attempts: {str(e)}")
            return None
# Testing prompt
result = create_completion("Say this is a test")
if result:
    print(result)

import os
from dotenv import load_dotenv
import openai
from openai.error import RateLimitError, AuthenticationError
# Load environment variables
load_dotenv()
api_key = os.getenv("OPENAI_API_KEY")
# Initialize OpenAI client with API key validation
def initialize_client(api_key):
    try:
        return openai.OpenAI(api_key=api_key)
    except AuthenticationError as auth_error:
        print("Invalid API key provided:", str(auth_error))
        return None
client = initialize_client(api_key)
# API call with fallback model if rate limit is reached
def create_chat(prompt, model="text-davinci-002"):
    try:
        response = client.Completion.create(
            model=model,
            prompt=prompt,
            max_tokens=60
        )
        return response
    except RateLimitError:
        print("Rate limit reached. Switching model...")
        return create_chat(prompt, model="text-davinci-003")
# Testing fallback mechanism
result = create_chat("Say this is another test")
if result:
    print(result)

Prevladavanje grešaka OpenAI ograničenja brzine u Python skriptama

Kada rade s OpenAI API-jem, korisnici se često susreću s kodom pogreške 429, što označava da je premašen broj dopuštenih API zahtjeva. To može biti zbunjujuće, posebno za početnike koji su provjerili svoje kreditno stanje i potvrdili da imaju dovoljno sredstava. U takvim slučajevima problem vjerojatno nije u dostupnom kreditu, već u ograničenjima stope koje postavlja OpenAI. Ova ograničenja mogu ograničiti broj API poziva koje možete uputiti unutar određenog vremenskog razdoblja. Razumijevanje i učinkovito upravljanje ovim ograničenjima ključno je za izgradnju pouzdanog rješenja.

Jedan od načina rješavanja ovoga je uvođenje mehanizma ponovnog pokušaja, kao što je prikazano u prethodnim primjerima skripte. Međutim, još jedan važan aspekt koji treba uzeti u obzir je razumijevanje OpenAI-ja politike kvota u dubinu. OpenAI može nametnuti različita ograničenja stope ovisno o modelu ili vrsti računa koji se koristi. Na primjer, besplatni računi mogu se suočiti sa strožim ograničenjima u usporedbi s plaćenim razinama, što može utjecati na način na koji dizajnirate svoje API pozive. Osim toga, korisnici bi trebali osigurati da su njihova dopuštenja ključa API-ja ispravno postavljena jer pogrešna konfiguracija također može izazvati pogreške kvote.

Osim upravljanja ponovnim pokušajima i odabira zamjenskih modela, ključna je optimizacija API poziva. To uključuje minimiziranje nepotrebnih API zahtjeva i fokusiranje na kritične. Programeri također mogu pratiti statistiku korištenja API-ja s nadzorne ploče OpenAI-ja kako bi dobili uvid u svoje obrasce potrošnje i prilagodili svoje skripte u skladu s tim. Implementacijom ovih strategija možete smanjiti vjerojatnost dostizanja ograničenja brzine i osigurati lakšu interakciju s API-jem OpenAI-ja.