이미 AI 게이트웨이를 운영 중인 팀을 위해

게이트웨이는 AI 트래픽을 계량합니다. Gesta는 에이전트 행동을 관측합니다.

당신의 게이트웨이는 한 가지 질문에는 잘 답합니다: 누가 언제 어떤 모델을 호출했는가. 예산, 감사, 사고 회고를 결정짓는 질문들 — 에이전트가 무엇을 했는지, 무엇을 만들어냈는지, 실제로 얼마가 들었는지 — 은 오직 엔드포인트, 즉 에이전트가 실행되는 곳에만 존재합니다.

01 · 청구서

두 개의 항목으로는 에이전트의 가격을 매길 수 없습니다.

게이트웨이의 비용 리포트는 두 숫자를 곱합니다: 입력 토큰과 출력 토큰. 그런데 에이전트 세션은 매 턴마다 같은 컨텍스트를 재생합니다 — 그래서 청구서를 실제로 좌우하는 것은 게이트웨이의 계산식이 결코 보지 못하는 캐시 계층들입니다.

당신의 게이트웨이가 보는 것프록시 로그
POST /v1/messages 200
model           frontier-large
input_tokens    1,842
output_tokens   697
— — — — — — — — — — — — — —
cost = in × rate + out × rate
     = $0.016
두 계층만 가격이 매겨졌습니다. 나머지는 전부 보이지 않습니다.
실제로 일어난 일같은 요청
input1,8421%
output6971%
cache write28,41019%
cache read118,20679%
네 계층 모두 정가로 계산하면: $0.158 — 게이트웨이의 숫자는 10× 차이가 났습니다.

에이전트의 부하는 캐시가 좌우합니다. 입력과 출력만 가격을 매기면 청구서는 첫 자릿수부터 틀립니다. Gesta는 모든 토큰 계층에 가격을 매깁니다.

화면의 데이터는 예시용입니다

02 · 산출물

지출은 산출물이 아닙니다.

프록시가 보는 것은 트래픽입니다 — 요청, 바이트, 지연 시간. 그리고 모델의 출력 토큰도 산출물이 아닙니다: 세션의 대부분은 에이전트가 생각하고, 읽고, 재시도하는 과정입니다. 요청 로그의 그 무엇도 지출된 1달러와 실제로 만들어진 작업을 연결해 주지 않습니다.

당신의 게이트웨이가 보는 것프록시 로그
14:02:11  POST /v1/messages  200  2.1 MB  1,204 ms
14:02:19  POST /v1/messages  200  3.4 MB    980 ms
14:02:31  POST /v1/messages  200  1.7 MB    644 ms
14:02:48  POST /v1/messages  200  2.9 MB  1,411 ms
— — — — — — — — — — — — — —
requests 2,417 · bytes out 1.9 GB
트래픽은 계량됐습니다. 결과는 알 수 없습니다.
Gesta가 보는 것같은 세션
  • 작성된 코드412 라인
  • 작성된 테스트96 라인
  • 작성된 문서1,024 단어
  • 외부 도구17회 MCP 호출
  • 세션 비용$12.40
모든 세션이 가격이 매겨지고 계량됩니다 — 사후가 아니라, 작성되는 바로 그 순간에.

프록시는 당신이 얼마를 썼는지는 압니다. 무엇을 얻었는지는 알 수 없습니다. Gesta는 에이전트가 실제로 작성한 것을 측정합니다 — 그리고 로컬에서 파일을 쓰는 에이전트는 애초에 프록시를 거치지도 않습니다.

화면의 데이터는 예시용입니다

03 · 감사

요청 로그는 감사 추적이 아닙니다.

감사가 닥쳤을 때 “누군가 09:41에 모델을 호출했다”는 답이 되지 못합니다. 그리고 로컬 도구와 대화하거나 API를 직접 호출하는 에이전트는 애초에 당신의 프록시를 거치지 않습니다 — 게이트웨이 로그에는 보여줄 행 자체가 없습니다.

당신의 게이트웨이가 보는 것프록시 로그
09:41:07  key prod-07  POST /v1/messages  200

증명하는 것: 이 키를 가진 누군가가,
        09:41에 모델을 호출했다.

답하지 못하는 것:
  • 이 코드 줄은 AI가 작성했는가?
  • prompt 본문에 무엇이 담겨 나갔는가?
  • 게이트웨이를 거치지 않은 호출은
    어떻게 되는가?
존재는 증명됐습니다. 내용과 출처는 알 수 없습니다.
Gesta가 보는 것엔드포인트에서
이 코드 줄은 AI가 작성했는가?
src/auth/token.ts:41–58 → AI 작성 · 세션 7f3c · prompt #12 · 커밋 4f9c2e1
고객 데이터가 네트워크 밖으로 나갔는가?
prompt #31에 customers_q2.csv가 첨부됨 → 직접 API 호출, 게이트웨이를 거치지 않음 · 엔드포인트에서 플래그됨
세션 기록에서 답합니다 — 트래픽으로부터 추론하지 않습니다.

요청 로그는 누군가 모델을 호출했다는 사실을 증명합니다. 어떤 코드 줄이 AI가 쓴 것인지, 게이트웨이를 한 번도 거치지 않은 prompt 안에서 고객 데이터가 빠져나갔는지는 말해주지 못합니다. 그 답은 오직 에이전트가 실행되는 곳에만 존재합니다. 그곳이 바로 Gesta가 있는 곳입니다.

화면의 데이터는 예시용입니다

이 두 가지 질문을 당신의 게이트웨이에 물어보세요.

그다음 저희에게 물어보세요.

둘 다 함께 쓰세요: 게이트웨이는 트래픽을 라우팅하고, Gesta는 행동을 기록합니다.