본문으로 건너뛰기
alpharouter

개발 문서

Chat Completions

가장 널리 쓰이는 경로입니다. OpenAI Chat Completions와 요청·응답 형식이 같아 기존 코드를 그대로 씁니다.

요청 본문

model과 messages만 필수입니다. model에 라우팅 경로를 넣으면 요청마다 후보를 다시 고릅니다.

FieldTypeRequiredNote
modelstringYesModel ID or route path
messagesarrayYessystem, user, assistant, tool
streambooleanNoSSE deltas, default false
toolsarrayNoTool-capable models only
max_tokensintegerNoCapped by model limit
temperaturenumberNo0–2

스트리밍

stream을 true로 두면 SSE로 델타를 흘려보냅니다. 스트리밍이 시작된 뒤에는 폴백하지 않고 그대로 실패시킵니다.

도구 호출

tools 배열을 넘기면 도구를 지원하는 모델만 후보에 남습니다. 지원 모델이 없으면 400으로 끊습니다.

이미지 입력

content에 image_url 파트를 섞으면 비전 가능 모델로 후보가 좁혀집니다.

스트림 취소와 청구

스트리밍 도중 연결을 끊어도 업스트림 생성은 계속될 수 있습니다. 게이트웨이는 정해진 시간·출력 한도 안에서 응답을 끝까지 읽고, 업스트림이 보고한 최종 사용량으로 청구합니다. 한도에 걸리면 그때까지 생성된 분량을 추정해 청구합니다.

service_tier

service_tier 파라미터는 받지만 무시합니다. 모든 요청은 표준 티어로 처리되고 표준 단가로 청구됩니다.