사용자가 API와 상호 작용할 수 있도록 지원
os.getenv("AIHUBMIX_API_KEY")를 사용합니다.역할과 내용을 포함한 대화 메시지입니다.
샘플링 온도(0-2). 값이 높을수록 더 무작위성이 커집니다.
생성할 최대 토큰 수(모델에 따라 다름).
다양성을 제어하는 Top-p 누클리어스 샘플링 파라미터입니다.
반복을 줄이기 위한 빈도 패널티입니다.
새로운 주제를 유도하기 위한 프레즌스 패널티입니다.
실시간 출력을 위한 스트리밍 응답을 활성화합니다.
웹 검색 옵션(특정 검색 모델에서만 지원).