​
1️⃣ 直接調用 AiHubMix API

其中 <AIHUBMIX_API_KEY> 替換為 Aihubmix Key，注意 key 的有效期和額度限制。

可使用的 model 列表，可查閱 模型廣場 ，複製模型名稱替換即可。

import requests
import json

response = requests.post(
  url="https://aihubmix.com/v1/chat/completions",
  headers={
    "Authorization": "Bearer <AIHUBMIX_API_KEY>",
    "Content-Type": "application/json",
  },
  data=json.dumps({
    "model": "gpt-4o-mini", # 替換模型 id
    "messages": [
      {
        "role": "user",
        "content": "What is the meaning of life?"
      }
    ]
  })
)

支援串流調用，只需要增加參數 stream: true

​
2️⃣ 使用 OpenAI SDK

其中 <AIHUBMIX_API_KEY> 替換為 Aihubmix Key，注意 key 的有效期和額度限制。 可使用的 model 列表，可查閱 模型廣場 ，複製模型名稱替換即可。

from openai import OpenAI

client = OpenAI(
  base_url="https://aihubmix.com/v1",
  api_key="<AIHUBMIX_API_KEY>",
)

completion = client.chat.completions.create(
  model="gpt-4o-mini", # 替換模型 id
  messages=[
    {
      "role": "developer",
      "content": "總是用中文回覆"
    },    
    {
      "role": "user",
      "content": "What is the meaning of life?"
    }
  ],
  temperature=0.8,
  max_tokens=1024,
  top_p=1,
  frequency_penalty=0,
  presence_penalty=0,
  seed=random.randint(1, 1000000000),
)

print(completion.choices[0].message.content)

對於支援搜尋的模型，可以追加下方參數來支援：

  web_search_options={}, # 搜尋參數

可用模型：gpt-4o-search-preview、gpt-4o-mini-search-preview。

注意搜尋模型暫不支援 temperature 等細節參數。

​
3️⃣ 透過第三方客戶端發起請求

參考 場景示例