正如摘要所述，本文將深入探討在使用 gpt-4 Vision API 處理大量圖像時遇到的常見問題，即由于 API 的速率限制導致的錯誤。我們將分析問題代碼，解釋速率限制的原因，并提供一系列可行的解決方案，幫助開發者有效地利用 GPT-4 Vision API。
問題分析
提供的代碼旨在利用 GPT-4 Vision API 為 Google Drive 中的大量圖片生成 SEO 優化的元描述。代碼的功能主要包括：
- 掛載 Google Drive: 允許訪問存儲在 Google Drive 中的圖片。
- 讀取圖片: 從指定文件夾讀取圖片文件。
- 編碼圖片: 將圖片編碼為 Base64 字符串，以便通過 API 發送。
- 調用 GPT-4 Vision API: 向 Openai API 發送請求，請求生成元描述。
- 處理 API 響應: 解析 API 響應，并將結果保存到 pandas DataFrame 中。
- 導出結果: 將 DataFrame 導出到 excel 文件。
問題在于，代碼在處理大約 100 張圖片后開始返回 “Error”，這很可能與 OpenAI API 的速率限制有關。
速率限制詳解
OpenAI 的 GPT-4 Vision API 具有速率限制，旨在防止濫用并確保所有用戶都能獲得公平的服務。速率限制的具體數值取決于用戶的使用層級。這意味著，免費用戶可能具有較低的速率限制，而付費用戶則可能具有更高的限制。
如何查看速率限制？
可以在 OpenAI 平臺的文檔中找到關于速率限制的詳細信息。訪問OpenAI 速率限制文檔可以了解不同使用層級的具體限制。
解決方案
以下是一些解決 GPT-4 Vision API 速率限制問題的方案：
-
了解并監控速率限制:
- 仔細閱讀 OpenAI 的速率限制文檔，了解你的使用層級對應的限制。
- 在代碼中添加監控機制，以便在接近速率限制時發出警告。
- 考慮使用 OpenAI 提供的 API 監控工具，以便更好地了解你的 API 使用情況。
-
優化代碼，減少 API 調用頻率:
- 批量處理: 如果可能，嘗試一次性發送多個圖片進行處理，而不是逐個發送。但是，需要注意 API 的請求大小限制。
- 降低圖片分辨率: 如果元描述不需要非常高的圖片細節，可以降低圖片的分辨率，從而減少 API 的處理時間和資源消耗。
- 緩存結果: 對于已經生成過元描述的圖片，可以將結果緩存起來，避免重復調用 API。
-
處理速率限制錯誤:
- 重試機制: 在代碼中添加重試機制，當 API 返回速率限制錯誤時，等待一段時間后自動重試。可以使用 time.sleep() 函數來控制等待時間。
- 指數退避 (Exponential Backoff): 使用指數退避策略來增加重試之間的等待時間，避免在短時間內發送大量請求。
-
升級 OpenAI 使用層級:
- 如果你的應用需要處理大量的圖片，并且速率限制成為瓶頸，可以考慮升級到 OpenAI 的付費層級，以獲得更高的速率限制。
代碼示例：添加重試機制
以下代碼示例展示了如何在原始代碼中添加重試機制，以處理速率限制錯誤：
import os import base64 import requests import pandas as pd from google.colab import drive import time drive.mount('/content/drive') image_folder = '/content/drive/MyDrive/Work related/FS/Imagenes/Metadescripciones HC ' api_key = 'my api code goes here XXXXX' def encode_image(image_path): with open(image_path, "rb") as image_file: return base64.b64encode(image_file.read()).decode('utf-8') headers = { "Content-Type": "application/json", "Authorization": f"Bearer {api_key}" } results_df = pd.DataFrame(columns=['Nombre del Archivo', 'Metadescripcion']) def get_metadescription(base64_image): payload = { "model": "gpt-4-vision-preview", "messages": [ { "role": "user", "content": [ { "type": "text", "text": "Write a meta description for the image of this product, optimized for SEO and in less than 150 words" }, { "type": "image_url", "image_url": { "url": f"data:image/jpeg;base64,{base64_image}", "detail": "low" } } ] } ], "max_tokens": 400 } max_retries = 5 for attempt in range(max_retries): try: response = requests.post("https://api.openai.com/v1/chat/completions", headers=headers, json=payload) response_json = response.json() if response.status_code == 200: return response_json['choices'][0]['message']['content'] else: print(f"Attempt {attempt 1} failed with status code: {response.status_code}") if response.status_code == 429: # Rate limit error wait_time = (2 ** attempt) # Exponential backoff print(f"Rate limit exceeded. Waiting {wait_time} seconds before retrying.") time.sleep(wait_time) else: print(f"Unexpected error: {response_json}") return 'Error' # Return error for other status codes except Exception as e: print(f"An exception occurred: {e}") return 'Error' return 'Error' # Return error after all retries failed for filename in os.listdir(image_folder): if filename.endswith((".png", ".jpg", ".jpeg")): image_path = os.path.join(image_folder, filename) base64_image = encode_image(image_path) metadescription = get_metadescription(base64_image) new_row = pd.DataFrame({'Nombre del Archivo': [filename], 'Metadescripcion': [metadescription]}) results_df = pd.concat([results_df, new_row], ignore_index=True) results_df.to_excel('/content/drive/MyDrive/Work related/FS/Imagenes/Metadescripciones.xlsx', index=False)
代碼解釋：
- get_metadescription(base64_image) 函數: 封裝了調用 API 的邏輯，并包含了重試機制。
- max_retries 變量: 定義了最大重試次數。
- for attempt in range(max_retries) 循環: 循環嘗試調用 API。
- try…except 塊: 捕獲可能出現的異常。
- response.status_code == 429 條件: 檢查是否為速率限制錯誤。
- `wait_time = (2 attempt)`:** 使用指數退避策略計算等待時間。
- time.sleep(wait_time): 暫停執行，等待一段時間后重試。
總結
在使用 GPT-4 Vision API 處理大量圖片時，速率限制是一個常見的問題。通過了解速率限制、優化代碼、添加重試機制以及考慮升級使用層級，可以有效地解決這個問題，并更高效地利用 GPT-4 Vision API。 記住，良好的 API 使用習慣不僅可以提高效率，還可以避免不必要的費用。
? 版權聲明
文章版權歸作者所有，未經允許請勿轉載。
THE END
