リアルタイム会話

# 依存関係: pip install "openai[realtime]"
import asyncio
import base64
from openai import AsyncOpenAI

# 公式 SDK の再利用は2点の適応のみ:
#   1) websocket_base_url を AiHubMix ゲートウェイに向ける(OpenAI の既定アドレスではない)
#   2) connect() に model を明示的に渡す(ゲートウェイのハンドシェイクに必須、会話に intent は不要)
client = AsyncOpenAI(
    api_key="sk-***",  # AiHubMix の API キーに置き換えてください
    websocket_base_url="wss://aihubmix.com/v1",
)

async def main():
    async with client.realtime.connect(model="gpt-realtime-2.1") as conn:
        # 1) セッションを構成: システム指示 + 音色 + VAD を有効化(自動ターン検出)
        await conn.session.update(session={
            "type": "realtime",
            "instructions": "You are a helpful voice assistant. Keep answers concise.",
            "audio": {
                "input": {
                    "format": {"type": "audio/pcm", "rate": 24000},
                    "turn_detection": {"type": "server_vad"},
                },
                "output": {
                    "format": {"type": "audio/pcm", "rate": 24000},
                    "voice": "alloy",
                },
            },
        })

        # 2) テキストメッセージを送信して返答を要求(音声入力は生サンプルの append/commit を参照)
        await conn.conversation.item.create(item={
            "type": "message",
            "role": "user",
            "content": [{"type": "input_text", "text": "What is the capital of France?"}],
        })
        await conn.response.create()

        # 3) このターンの返答を受信: テキストは転写デルタ、音声はオーディオデルタ
        async for event in conn:
            if event.type == "response.output_audio_transcript.delta":
                print(event.delta, end="", flush=True)  # 返答テキスト(出力に音声を含む場合)
            elif event.type == "response.output_audio_transcript.done":
                print()  # このターンの文字起こし終了
            elif event.type == "response.output_text.delta":
                print(event.delta, end="", flush=True)  # テキストのみの出力の場合
            elif event.type == "response.output_text.done":
                print()
            elif event.type == "response.output_audio.delta":
                pass  # base64 PCM16 音声チャンク、デコードして再生可能
            elif event.type == "input_audio_buffer.speech_started":
                pass  # ユーザーの割り込み: 再生を止めて conn.conversation.item.truncate(...) で切り詰め
            elif event.type == "response.done":
                print("\n[ターン完了]", event.response.usage)
                break
            elif event.type == "error":
                print("\n[エラー]", event.to_dict())
                break

asyncio.run(main())

import asyncio
import base64
import json
import websockets

API_KEY = "sk-***"  # AiHubMix の API キーに置き換えてください
URL = "wss://aihubmix.com/v1/realtime?model=gpt-realtime-2.1"

async def main():
    # websockets >= 13 は additional_headers、古いバージョンは extra_headers
    async with websockets.connect(
        URL, additional_headers={"Authorization": f"Bearer {API_KEY}"}
    ) as ws:
        # 1) セッションを構成(VAD を無効化し、返答のタイミングを手動制御)
        await ws.send(json.dumps({
            "type": "session.update",
            "session": {
                "type": "realtime",
                "instructions": "You are a helpful voice assistant.",
                "audio": {
                    "input": {
                        "format": {"type": "audio/pcm", "rate": 24000},
                        "turn_detection": None,
                    },
                    "output": {
                        "format": {"type": "audio/pcm", "rate": 24000},
                        "voice": "alloy",
                    },
                },
            },
        }))

        # 2) ローカルの PCM16 / 24kHz / モノラルの生音声を読み込み、チャンク送信して commit + 返答要求
        async def send_audio():
            with open("audio_pcm16_24k.raw", "rb") as f:
                pcm = f.read()
            chunk = 24000 * 2 // 10  # 100ms = サンプルレート x 2バイト / 10
            for i in range(0, len(pcm), chunk):
                await ws.send(json.dumps({
                    "type": "input_audio_buffer.append",
                    "audio": base64.b64encode(pcm[i:i + chunk]).decode(),
                }))
                await asyncio.sleep(0.1)  # リアルタイムのペースを模擬
            # VAD 無効時は手動でコミットして返答を要求
            await ws.send(json.dumps({"type": "input_audio_buffer.commit"}))
            await ws.send(json.dumps({"type": "response.create"}))

        asyncio.create_task(send_audio())

        # 3) 返答を受信
        async for msg in ws:
            evt = json.loads(msg)
            etype = evt.get("type", "")
            if etype == "response.output_audio_transcript.delta":
                print(evt.get("delta", ""), end="", flush=True)  # 返答テキスト(出力に音声を含む場合)
            elif etype == "response.output_audio_transcript.done":
                print()  # このターンの文字起こし終了
            elif etype == "response.output_text.delta":
                print(evt.get("delta", ""), end="", flush=True)  # テキストのみの出力の場合
            elif etype == "input_audio_buffer.speech_started":
                pass  # ユーザーの割り込み: 再生を止めて conversation.item.truncate で切り詰め
            elif etype == "response.output_audio.delta":
                pass  # base64 PCM16 音声チャンク、デコードして再生可能
            elif etype == "response.done":
                print("\n[ターン完了]", evt.get("response", {}).get("usage"))
                break
            elif etype == "error":
                print("\n[エラー]", evt.get("error"))
                break

asyncio.run(main())

# 依存関係: pip install openai-agents
import asyncio
from agents.realtime import (
    OpenAIRealtimeWebSocketModel,
    RealtimeAgent,
    RealtimeSession,
)

agent = RealtimeAgent(
    name="Assistant",
    instructions="You are a helpful voice assistant. Keep answers concise.",
)

async def main():
    session = RealtimeSession(
        OpenAIRealtimeWebSocketModel(),
        agent,
        None,
        model_config={
            "api_key": "sk-***",  # AiHubMix の API キーに置き換えてください
            "url": "wss://aihubmix.com/v1/realtime?model=gpt-realtime-2.1",
        },
        run_config={
            "model_settings": {
                "modalities": ["audio"],
                "output_audio_format": "pcm16",
                # 必ず無効化: 既定で有効な入力音声転写は本APIが未対応で、無効化しないとセッションが 1008 で閉じられます
                "input_audio_transcription": None,
            },
        },
    )
    async with session:
        await session.send_message("What is the capital of France?")
        async for event in session:
            if getattr(event, "type", "") == "raw_model_event":
                data = getattr(event, "data", None)
                if getattr(data, "type", "") == "transcript_delta":
                    print(getattr(data, "delta", ""), end="", flush=True)
                elif getattr(data, "type", "") == "turn_ended":
                    print("\n[ターン完了]")
                    return

asyncio.run(main())

# wscat で接続性と認証をすばやく検証(先に npm i -g wscat が必要)
wscat -c "wss://aihubmix.com/v1/realtime?model=gpt-realtime-2.1" \
  -H "Authorization: Bearer $AIHUBMIX_API_KEY"

# 接続後、session.update を1フレーム貼り付け、テキストメッセージ + response.create を送れば開始できます