4개의 GIF로 보는 LLM API 호출

이 튜토리얼은 API 키와 system prompt부터 messages 배열까지, LLM API 요청과 응답의 기본 구조를 설명한다.

챗 API는 상태를 저장하지 않기 때문에, 대화를 이어가려면 매 요청마다 필요한 문맥을 함께 보내야 한다.

토크나이저, 입력/출력 토큰, 그리고 서로 다른 과금 방식까지 풀어내며 비용 예측과 관리 방법을 보여준다.

실서비스에서는 stop_reason과 usage 같은 필드를 기록해야 응답 잘림과 예상치 못한 비용 증가를 잡아낼 수 있다.

Node.js 에이전트와 tool schema 예시는 개발자가 더 안정적인 LLM 앱을 만드는 데 필요한 실전 감각을 제공한다.