Skip to main content
Broadcast는 AIHubMix API 요청의 Trace를 설정된 외부 관측성 플랫폼으로 자동 전송합니다. 애플리케이션 코드에 별도의 계측을 추가하지 않고도 LangWatch에서 LLM 사용량을 모니터링하고 디버깅하며 분석할 수 있습니다. AIHubMix는 현재 LangWatch를 Broadcast 목적지로 지원합니다. 설정 후 LangWatch에서 모델, token 사용량, 실제 청구 비용, 지연 시간, 세션 및 Trace 정보를 확인할 수 있습니다.

사전 준비

  • 사용 가능한 AIHubMix API Key
  • LangWatch 계정과 대상 Project
  • AIHubMix 콘솔 접근 권한
이 연동에는 대상 Project의 기존 Project API Key가 필요합니다. 형식은 sk-lw-*입니다. 조직 또는 팀 범위 키와 Personal OTLP Endpoint의 pkey_*는 이 설정에서 사용할 수 없습니다. AIHubMix는 현재 LangWatch 공식 클라우드 엔드포인트를 사용하며 자체 호스팅 인스턴스는 지원하지 않습니다.

  1. LangWatch Project API Key 가져오기

  1. LangWatch에 로그인하고 AIHubMix Trace를 받을 Project를 선택합니다.
  2. Settings → API Keys를 엽니다.
  3. Project API Key를 찾고 Scope가 대상 Project인지 확인한 다음 복사 버튼을 선택합니다.
새 Secret Key를 만들 필요가 없습니다. AIHubMix는 Project에 기본 제공되는 Project API Key를 사용합니다.
LangWatch Settings의 Project API Key

  1. LangWatch 목적지 추가

  1. AIHubMix Observability를 엽니다.
  2. Add destination에서 LangWatch를 선택합니다.
AIHubMix Observability의 LangWatch 목적지
  1. 설정을 입력합니다.
x-session-id 요청 헤더와 user 필드도 함께 전달되며, LangWatch에서 세션이나 사용자를 연결하는 데 사용할 수 있습니다.
AIHubMix의 LangWatch 목적지 설정

테스트 및 저장

  1. Test를 선택합니다. 연결에 성공하면 Connected가 표시됩니다.
  2. Add destination을 선택해 새 목적지를 저장합니다.
  3. 목적지가 활성화되어 있고 상태가 OK인지 확인합니다.
이후 변경 사항은 Save changes로 저장합니다.
AIHubMix에서 상태가 OK인 LangWatch 목적지

  1. 확인 요청 보내기

현재 셸에 AIHUBMIX_API_KEY가 설정되어 있는지 확인한 다음 일반 모델 요청을 보냅니다.
cURL
기록은 비동기 전달됩니다. 요청 완료 후 Trace가 LangWatch에 나타나기까지 몇 초가 걸릴 수 있습니다.

  1. LangWatch에서 확인

  1. 대상 Project의 Traces를 엽니다.
  2. 요청에 사용한 모델, x-session-id 또는 user 값으로 기록을 찾습니다.
  3. 지연 시간, 비용, token 및 모델 정보가 포함되어 있는지 확인합니다.
LangWatch Traces의 AIHubMix API 호출
Privacy가 활성화되면 Prompt 같은 본문 열은 비어 있고 지연 시간, 비용, token 및 모델 정보는 유지됩니다.
Privacy 활성화 후 LangWatch의 비어 있는 본문 열

문제 해결

Test가 401을 반환함

대상 Project의 Project API Key를 사용했는지 확인합니다. Personal OTLP Endpoint의 pkey_*나 조직 또는 팀 범위 키는 사용하지 않습니다.

저장했지만 Trace가 표시되지 않음

목적지가 활성화되고 상태가 OK인지, Sampling rate가 0%보다 큰지, API Key 필터에 요청에 사용한 Key가 포함되는지 확인합니다. 몇 초 기다린 뒤 Traces를 새로 고칩니다.

Privacy가 메트릭에 영향을 주는지

Privacy는 prompt와 completion 본문 전송만 중지합니다. token 사용량, 실제 청구 비용, 지연 시간 및 모델 정보는 계속 전송됩니다.
최종 업데이트: 2026-08-25