개발 문서
FAQ
도입 검토와 연동에서 자주 나오는 질문입니다.
- 라우팅을 쓰면 어떤 모델이 호출될지 예측할 수 없나요?
- 결정 로그에 후보와 점수, 제외 사유가 남습니다. 예측이 꼭 필요한 경로는 모델을 고정하고, 나머지만 라우팅에 맡기는 방식을 권합니다.
- 기존 프롬프트를 다시 손봐야 하나요?
- 대부분 그대로 씁니다. 다만 모델마다 지시 준수 성향이 달라 품질 편차가 크면 평가 기능으로 후보를 좁히는 편이 낫습니다.
- 데이터가 해외로 나가나요?
- 국내 추론 리전을 선택한 모델은 국내를 벗어나지 않습니다. 조직 정책에서 국외 전송을 막으면 해당 모델만 후보에 오릅니다.
- 요청·응답 전문을 저장하나요?
- 조직이 감사 로그 저장을 켠 경우에만 보관합니다. 기본값은 저장하지 않음이고, 전문 열람 권한은 따로 나눕니다.
- 크레딧이 소진되면 어떻게 되나요?
- 402로 끊습니다. 저잔액 임계값을 넘으면 미리 메일로 알리니 자동 충전 대신 알림을 쓰는 조직이 많습니다.