Kaip išspręsti „OpenAI API“ klaidos kodą 429 „Python“ net su kreditu

OpenAI API kvotos klaidų supratimas

Kai dirbate su „OpenAI“ API, gaunate klaidą, pvz Klaidos kodas 429 gali būti varginantis, ypač tiems, kurie yra naujokai Python ir OpenAI. Ši klaida paprastai rodo, kad viršijote dabartinę API naudojimo kvotą.

Jei patikrinote savo OpenAI paskyrą ir patvirtinote, kad vis dar turite laisvų kreditų, jums gali kilti klausimas, kodėl ši klaida nuolat rodoma. Įprasta, kad kūrėjai susiduria su šia problema pirmą kartą nustatydami API skambučius.

Labai svarbu suprasti šios problemos priežastį, kad įsitikintumėte, jog galite efektyviai panaudoti API. Šiame vadove bus išaiškintos galimos klaidos priežastys ir pateikiami veiksmai, kaip ją išspręsti.

Panagrinėkime galimas priežastis, kodėl susiduriate su šia klaida, net jei turite kreditų savo OpenAI paskyroje, ir kaip išspręsti šią klaidą Python scenarijuje.

Kaip Python scenarijai tvarko OpenAI API greičio apribojimus

Aukščiau pateikti scenarijai yra skirti spręsti įprastai problemai, su kuria susiduria kūrėjai naudodami OpenAI API: klaidos pranešimas, rodantis, kad viršijote API kvota nepaisant to, kad turi kreditą. Ši problema susijusi su „OpenAI“ nustatyta užklausų skaičiaus riba per tam tikrą laikotarpį. Pagrindinis scenarijus yra parašytas taip, kad būtų galima išspręsti šią situaciją, naudojant klaidų apdorojimo ir pakartotinio bandymo mechanizmus. Jis naudojasi RateLimitError išimtis, skirta aptikti, kai per trumpą laikotarpį išsiunčiama per daug užklausų ir suaktyvinama klaida. Be to, scenarijus naudoja pakartotinio bandymo strategiją, kad pasiekus greičio limitą būtų automatiškai bandoma iškviesti API.

Norint įgyvendinti šias strategijas, pirmasis scenarijus apibrėžia funkciją, vadinamą sukurti_užbaigimas, kuris priima raginimą ir leidžiamą pakartotinių bandymų skaičių. Ši funkcija bando iškviesti OpenAI užbaigimo API, generuodama atsakymą pagal pateiktą modelį ir raginimą. Jei aptinkama greičio ribos klaida, funkcija išspausdina informacinį pranešimą ir rekursyviai išsikviečia pati, kad pabandytų operaciją dar kartą. Šis metodas yra veiksmingas siekiant išvengti staigių scenarijaus nutraukimų ir efektyviai valdyti API greičio apribojimus.

Antrajame scenarijuje įdiegta panaši klaidų valdymo strategija, bet apima papildomą modelių perjungimo logiką, jei viršijama greičio riba. Tai ypač naudinga, kai skirtingi modeliai gali turėti skirtingas greičio ribas. Scenarijus pradedamas inicijuojant OpenAI klientą naudojant pasirinktinę funkciją, vadinamą inicijuoti klientą. Ši funkcija patikrina API rakto galiojimą ir užtikrina, kad scenarijus sėkmingai autentifikuotas prieš tęsiant tolesnius skambučius. Jei autentifikavimas nepavyksta, vartotojui pateikiamas aiškus klaidos pranešimas, todėl sumažėja painiavos dėl netinkamų konfigūracijų.

Antrasis scenarijus taip pat pristato funkciją pavadintą sukurti_pokalbį, kuris bando iškviesti API naudodami konkretų modelį. Jeigu a RateLimitError yra pakeltas, funkcija išspausdina pranešimą, nurodantį, kad persijungs į atsarginį modelį, pvz., iš "davinci-002" į "davinci-003". Tai rodo lankstumą valdant normos ribas ir toliau duodama rezultatų. Be to, scenarijai naudoja aplinkos kintamuosius, kad saugiai valdytų API raktą naudojant dotenv paketą, pabrėžiant saugaus kodavimo praktiką. Aplinkos kintamieji sumažina jautrių duomenų atskleidimo kodų bazėje riziką.

import os
from dotenv import load_dotenv
import openai
from openai.error import RateLimitError
# Load environment variables from a .env file
load_dotenv()
# Retrieve API key securely
api_key = os.getenv("OPENAI_API_KEY")
# Initialize OpenAI client
client = openai.OpenAI(api_key=api_key)
# Define a function to handle API calls with retry mechanism
def create_completion(prompt, retries=3):
    try:
        response = client.Completion.create(
            model="davinci-002",
            prompt=prompt,
            max_tokens=50
        )
        return response
    except RateLimitError as e:
        if retries > 0:
            print("Rate limit exceeded. Retrying...")
            return create_completion(prompt, retries - 1)
        else:
            print(f"Failed after multiple attempts: {str(e)}")
            return None
# Testing prompt
result = create_completion("Say this is a test")
if result:
    print(result)

import os
from dotenv import load_dotenv
import openai
from openai.error import RateLimitError, AuthenticationError
# Load environment variables
load_dotenv()
api_key = os.getenv("OPENAI_API_KEY")
# Initialize OpenAI client with API key validation
def initialize_client(api_key):
    try:
        return openai.OpenAI(api_key=api_key)
    except AuthenticationError as auth_error:
        print("Invalid API key provided:", str(auth_error))
        return None
client = initialize_client(api_key)
# API call with fallback model if rate limit is reached
def create_chat(prompt, model="text-davinci-002"):
    try:
        response = client.Completion.create(
            model=model,
            prompt=prompt,
            max_tokens=60
        )
        return response
    except RateLimitError:
        print("Rate limit reached. Switching model...")
        return create_chat(prompt, model="text-davinci-003")
# Testing fallback mechanism
result = create_chat("Say this is another test")
if result:
    print(result)

„Python“ scenarijų „OpenAI“ greičio apribojimo klaidų įveikimas

Dirbdami su OpenAI API vartotojai dažnai susiduria su klaidos kodu 429, kuris rodo, kad viršytas leistinų API užklausų skaičius. Tai gali būti mįslinga, ypač pradedantiesiems, kurie patikrino savo kredito likutį ir patvirtino, kad turi pakankamai lėšų. Tokiais atvejais problema greičiausiai kyla ne dėl turimo kredito, o dėl OpenAI nustatytų normų limitų. Šie apribojimai gali apriboti API skambučių, kurias galite atlikti per tam tikrą laikotarpį, skaičių. Norint sukurti patikimą sprendimą, labai svarbu suprasti ir veiksmingai valdyti šias ribas.

Vienas iš būdų tai išspręsti yra pakartotinio bandymo mechanizmo įdiegimas, kaip parodyta ankstesniuose scenarijaus pavyzdžiuose. Tačiau dar vienas svarbus aspektas, į kurį reikia atsižvelgti, yra suprasti OpenAI kvotų politika gilumoje. OpenAI gali taikyti skirtingus tarifų limitus, atsižvelgdama į naudojamą modelį arba paskyros tipą. Pavyzdžiui, laisvos pakopos paskyroms gali būti taikomi griežtesni apribojimai, palyginti su mokamų pakopų, o tai gali turėti įtakos API skambučių kūrimo būdui. Be to, vartotojai turėtų užtikrinti, kad jų API rakto leidimai būtų tinkamai nustatyti, nes netinkama konfigūracija taip pat gali sukelti kvotos klaidas.

Be pakartotinių bandymų valdymo ir atsarginių modelių pasirinkimo, labai svarbu optimizuoti API iškvietimus. Tai apima nereikalingų API užklausų sumažinimą ir susitelkimą į svarbiausias. Kūrėjai taip pat gali stebėti API naudojimo statistiką iš OpenAI prietaisų skydelio, kad gautų įžvalgų apie savo vartojimo įpročius ir atitinkamai pakoreguotų savo scenarijus. Įgyvendindami šias strategijas galite sumažinti tikimybę, kad pasieksite normos ribas ir užtikrinti sklandesnę sąveiką su OpenAI API.