1️⃣ AiHubMix에 직접 API 호출하기
<AIHUBMIX_API_KEY>를 Aihubmix 키로 바꾸세요. 키의 유효 기간과 사용 한도를 확인해 주세요.
사용 가능한 model 옵션은 모델 갤러리에서 확인하세요. 모델 이름을 복사하여 붙여넣기만 하면 사용할 수 있습니다.
import requests
import json
response = requests.post(
url="https://aihubmix.com/v1/chat/completions",
headers={
"Authorization": "Bearer <AIHUBMIX_API_KEY>",
"Content-Type": "application/json",
},
data=json.dumps({
"model": "gpt-4o-mini", # 모델 ID를 바꾸세요
"messages": [
{
"role": "user",
"content": "삶의 의미는 무엇인가요?"
}
]
})
)
스트리밍 응답을 원하시면 stream: true 매개변수를 추가하기만 하면 됩니다.
2️⃣ OpenAI SDK 사용하기
<AIHUBMIX_API_KEY>를 Aihubmix 키로 바꾸세요. 키의 유효 기간과 사용 한도를 확인해 주세요.
사용 가능한 model 옵션은 모델 갤러리에서 확인하세요. 모델 이름을 복사하여 붙여넣기만 하면 사용할 수 있습니다.
from openai import OpenAI
import random
client = OpenAI(
base_url="https://aihubmix.com/v1",
api_key="<AIHUBMIX_API_KEY>",
)
completion = client.chat.completions.create(
model="gpt-4o-mini", # 모델 ID를 바꾸세요
messages=[
{
"role": "developer",
"content": "항상 한국어로 답하세요"
},
{
"role": "user",
"content": "삶의 의미는 무엇인가요?"
}
],
temperature=0.8,
max_tokens=1024,
top_p=1,
frequency_penalty=0,
presence_penalty=0,
seed=random.randint(1, 1000000000),
)
print(completion.choices[0].message.content)
웹 검색을 지원하는 모델의 경우 다음 매개변수를 추가할 수 있습니다:
web_search_options={}, # 검색 매개변수
사용 가능한 모델: gpt-4o-search-preview, gpt-4o-mini-search-preview.
검색 모델은 현재 temperature와 같은 매개변수를 지원하지 않습니다.
3️⃣ 타사 클라이언트를 통해 요청하기
사용 사례를 참조하세요.