OpenRouter logo

모델 고르기 귀찮으면 OpenRouter가 대신 고릅니다, 기준은 사용자들의 지출 점유율

작성자:

OpenRouter logo | 사진설명: “키 하나로 여러 모델에 연결되는 OpenRouter”

OpenAI SDK를 쓰던 코드라면 baseURL 한 줄만 openrouter.ai로 바꾸면 됩니다. API 키 하나, 엔드포인트 하나로 OpenAI·구글·엔비디아·미스트랄 계열 모델을 같은 코드에서 갈아끼울 수 있어요. 모델을 바꾸는 일이 문자열 하나 고치는 일이 됩니다.

무료 모델도 있습니다. 모델 ID가 :free로 끝나는 것들인데, 크레딧 잔액 0에 신용카드 등록 없이 씁니다. 다만 조건이 있어요. 누적 결제 $10 미만 계정은 하루 50회까지입니다(2026년 8월 기준, OpenRouter 공식 Rate Limits 문서).

목차

결론부터 세 줄

  • OpenRouter는 여러 회사의 LLM을 하나의 API 키와 엔드포인트로 중계하는 게이트웨이 서비스이고, OpenAI SDK의 baseURL만 교체하면 기존 코드를 그대로 쓸 수 있습니다.
  • 무료 모델(:free)은 신용카드 없이 쓸 수 있지만 하루 50회 제한이 실질 병목이고, 누적 $10을 결제하면 하루 1,000회로 20배 늘어납니다(분당 20회 한도는 결제해도 그대로).
  • OpenRouter는 추론 단가에 마크업을 붙이지 않는 대신 크레딧 충전 시 5.5%(최소 $0.80)의 결제 수수료를 받습니다. 소액으로 잘게 충전할수록 실효 수수료율이 올라갑니다.

API 키 하나로 여러 모델이 붙는다는 게 무슨 뜻이냐면요

채팅 요청을 받는 주소는 https://openrouter.ai/api/v1/chat/completions 하나입니다. OpenAI SDK를 쓰고 있었다면 baseURL만 이 주소로 바꾸고 키를 교체하면 끝이에요. 필수 헤더는 Authorization: Bearer <KEY> 하나뿐이고, HTTP-Referer나 X-OpenRouter-Title은 앱 귀속용 선택 헤더입니다. 공식 문서가 이걸 드롭인 교체(drop-in replacement, 기존 코드를 거의 안 고치고 갈아끼우는 방식)라고 부릅니다.

OpenRouter API baseURL code | 사진설명: “baseURL 한 줄만 바꾸는 드롭인 교체 장면”

모델을 바꾸는 건 model 값에 들어가는 문자열을 바꾸는 일입니다. nvidia/nemotron-3.5-lightning처럼 공급사 이름이 앞에 붙는 형태예요. 여기에 latest 별칭도 있습니다. ~openai/gpt-latest 같은 표기는 항상 해당 사의 최신 플래그십 모델로 해석되니, 새 모델이 나올 때마다 코드에서 ID를 갈아끼우는 수고가 줄어듭니다.

규모는 이렇습니다. 2026년 5월 TechCrunch 보도 시점에 모델 400개 이상·이용자 800만 명, 처리량은 월 100조 토큰이었어요. 그 6개월 전이 주 5조 토큰이었으니 주 25조로 다섯 배가 된 셈입니다. 2026년 8월 투자사 Menlo Ventures 발표 기준으로는 모델 500개 이상·이용자 1,000만 명입니다. 다만 두 출처 모두 ‘이용자’가 가입자 기준인지 활성 사용자 기준인지는 밝히지 않았습니다.

무료 모델, 카드 없이 어디까지 써볼 수 있나요

무료 모델은 모델 ID 끝에 :free가 붙습니다. 크레딧 잔액이 0이어도, 카드를 등록하지 않아도 호출됩니다. 확인 시점(2026-08-21)에 공식 모델 API 응답에 실제로 잡힌 ID로는 nvidia/nemotron-3.5-lightning:free, liquid/lfm-2.5-2.6b:free, poolside/laguna-s-2.1:free, dots-studio/dots-3-note-preview:free 같은 것들이 있었어요.

OpenRouter free models list | 사진설명: “카드 없이 쓰는 :free 모델 목록 화면”

한도는 이렇게 나뉩니다.

구분 누적 결제 $10 미만 누적 결제 $10 이상
분당 요청 20회 20회 (결제해도 안 오름)
하루 요청 50회 1,000회
카드 등록 불필요 —

여기서 나오는 계산 하나. 하루 50회는 분당 20회 한도로 쭉 던지면 2분 30초면 다 씁니다. 그러니까 무료 계정의 진짜 병목은 분당이 아니라 하루 50회예요. 대화 몇십 번 해보며 모델 성향을 비교하기엔 충분하지만, 스크립트로 자동화를 돌리기엔 부족한 양입니다.

rate limit counter dashboard | 사진설명: “2분 30초면 소진되는 하루 50회 한도”

계정이나 API 키를 여러 개 만들어서 우회하는 방법은 막혀 있습니다. 한도는 전역으로 관리된다고 공식 문서에 명시돼 있어요. 크레딧 잔액이 궁금하면 GET /api/v1/key의 limit_remaining 값을 보면 됩니다.

어떤 모델을 쓸지 알아서 정해주기도 해요

모델 이름 자리에 openrouter/auto를 넣으면 OpenRouter가 대신 고릅니다. 방식은 이렇습니다. 들어온 작업을 약 30개 범주로 분류한 뒤, 최근 7일 실제 지출 점유율을 기준으로 모델 순위를 매겨 선택해요. 좋아요 수나 다운로드가 아니라 돈이 실제로 흘러간 곳이 기준이라, 마케팅 지표보다는 실사용 리더보드에 가깝습니다. 대화가 이어질 때는 이전 턴에 쓰던 모델을 우선하도록 세션 연속성도 챙기고, 랭킹 조회에 실패하면 기본 모델셋으로 조용히 내려앉게(graceful degrade) 설계돼 있습니다. cost_tier·allowed_models·excluded_models로 범위를 좁힐 수도 있고요.

공급자 라우팅 기본값은 가격 역제곱 가중 로드밸런싱입니다. 공식 문서 예시가 명쾌해요. $1/M 토큰 공급자와 $3/M 토큰 공급자가 있으면 트래픽이 9 대 1로 갈립니다(1/1² 대 1/3²). 공급자가 단가를 3배 올리면 트래픽은 9분의 1이 되는 구조예요. 가격 인하 압력이 협상 테이블이 아니라 라우팅 알고리즘으로 상시 작동하는 셈입니다.

load balancing routing diagram | 사진설명: “가격 역제곱 가중으로 9대 1로 갈리는 트래픽”

세밀하게 제어하고 싶다면 이런 것들을 씁니다.

  • order — 시도할 공급자 순서를 직접 지정
  • sort — price·throughput·latency 중 무엇을 우선할지
  • allow_fallbacks — 기본값 true. 끄면 지정한 공급자만 씁니다
  • data_collection: "deny" — 학습용 데이터를 저장하는 공급자를 아예 제외
  • 모델 접미사 :nitro(최고 처리량)·:floor(최저가 우선)

기본 라우팅은 최근 30초 내 장애가 없었던 공급자를 우선합니다. Andrej Karpathy가 OpenRouter를 “AI의 전환 스위치(the transfer switch of AI)”라고 표현한 게 이 지점이라고 봐요. 전환 스위치는 주 전원이 끊기면 발전기 계통으로 자동 절체하는 장치죠. 게이트웨이의 1차 가치는 선택지가 많다는 것보다, 한 공급사가 죽어도 서비스가 안 죽는다는 쪽에 있습니다.

누가 만들었길래 스트라이프가 인수한다는 얘기가 나오나요

OpenRouter는 2023년 설립됐고, 공동창업자 겸 CEO는 OpenSea 공동창업자·전 CTO였던 Alex Atallah입니다. 2025년 6월 시리즈 A로 4,000만 달러(포스트머니 약 5억 4,700만 달러)를 받았고, a16z와 Menlo Ventures가 주도하고 Sequoia가 참여했어요. 2026년 5월 시리즈 B는 1억 1,300만 달러, 기업가치 13억 달러입니다. 알파벳의 성장투자펀드 CapitalG가 주도했습니다. 누적 조달액은 1억 5,000만 달러 이상이고요.

그리고 2026년 8월 16일, Bloomberg를 시작으로 Stripe가 OpenRouter를 70억 달러 이상에 인수하기로 합의했다는 보도가 나왔습니다. 다만 Stripe 대변인은 “루머나 추측에는 논평하지 않는다”는 입장이고, 인수가도 매체별로 갈립니다. 다수 매체가 일치하는 70억 달러 이상까지만 사실로 두는 게 맞고, 최종 확정가는 아직 공식 확인되지 않았습니다.

결제 회사가 추론 중계를 사는 그림이 어색해 보이지만, 수익 구조를 보면 자연스럽습니다. OpenRouter는 추론 단가에 마크업을 안 붙여요. 매출이 나오는 곳은 거래액 위에 얹힌 수수료율입니다. Atallah 본인이 자사를 “AI 판 Stripe”라고 표현했고요.

붙여보면 편한 점

Alex Atallah OpenRouter

사진 출처: i.ytimg.com | 사진설명: “OpenRouter 공동창업자 겸 CEO Alex Atallah”

가장 큰 건 모델 비교 비용이 거의 0에 가까워진다는 점이에요. 모델 하나 테스트하려고 그 회사 계정 만들고, 결제 등록하고, SDK 설치하고, 응답 포맷 맞추는 일을 반복하지 않아도 됩니다. 문자열 하나 바꾸고 다시 돌리면 끝나요.

로깅 정책도 기본값이 무로깅(zero logging)입니다. 프롬프트와 응답을 저장하지 않는 게 기본이고, 로깅에 동의하면 1% 할인을 줘요. 데이터 제공의 대가가 약관 문구가 아니라 1%라는 숫자로 표시돼 있는 셈입니다. 기업이라면 data_collection: "deny"로 학습 데이터를 저장하는 공급자를 코드 레벨에서 배제할 수 있다는 점이 더 실무적일 거예요.

대신 이런 건 감안하고 쓰는 게 좋아요

게이트웨이는 의존성이 하나 늘어나는 일이기도 합니다. 공급사 한 곳이 죽는 건 폴백으로 흡수되지만, 게이트웨이 자체가 멈추면 붙여둔 모든 모델이 동시에 멈춰요. 이 위험에 대한 공식 SLA(가용성 보장 수치)는 확인하지 못했으니, 중요한 서비스라면 우회 경로를 하나 준비해 두는 편이 마음 편합니다.

무료 모델은 상시 라인업이 아니라 교체됩니다. 확인 시점(2026-08-21)에 Dots3-Note Preview (free)는 모델 페이지에 2026년 9월 30일 은퇴 예정으로 표기돼 있었어요. 무료 모델에 프로덕션을 얹으면 어느 날 조용히 끊깁니다. 실험·프로토타입까지가 적정선이라고 봐요.

무료 모델이 지금 몇 개인지는 딱 잘라 말하기 어렵습니다. 제3자 집계 사이트들이 18개, 25개 이상, 28개 이상으로 제각각이고 공식 모델 페이지는 전수 확인이 어려웠어요. 그때그때 바뀐다고 보는 편이 정확합니다.

분당 20회 한도는 결제해도 오르지 않는다는 점도 기억해 둘 만합니다. 하루 총량만 20배가 되는 거라, 짧은 시간에 많이 던져야 하는 배치 작업에는 여전히 제약이 남아요.

돈은 정확히 어디서 나가나요

추론 단가는 원 공급사 가격 그대로 통과됩니다. 마크업이 없어요. 대신 크레딧을 충전할 때 Stripe 결제 기준 5.5%(최소 $0.80), 코인베이스 암호화폐 결제는 5%의 수수료가 붙습니다.

Stripe office sign

사진 출처: www.shutterstock.com | 사진설명: “크레딧 충전 결제를 맡는 Stripe 사옥”

여기서 소액 충전의 함정이 생깁니다. 최소 수수료 $0.80이 5.5%를 넘어서는 분기점은 $0.80 ÷ 0.055 = 약 $14.55예요.

충전액 수수료 실효 수수료율
$5 $0.80 (최소값) 16%
$10 $0.80 (최소값) 8%
$14.55 약 $0.80 5.5% (분기점)
$50 $2.75 5.5%

무료 한도를 올리려고 딱 $10만 충전하면 실효 수수료가 8%가 됩니다. 잘게 나눠 여러 번 충전할수록 손해예요. 이 표는 공식 문서의 수수료 규칙에서 산술로 도출한 값이고, OpenRouter가 이렇게 안내한다는 뜻은 아닙니다.

기업이라면 BYOK(Bring Your Own Key, 자기 키 사용) 쪽이 현실적인 경로입니다. 기존 계약을 유지한 채 게이트웨이만 얹는 방식이에요. 수수료는 해당 모델 OpenRouter 정가의 5%이고, 무료 허용치는 pay-as-you-go 월 $25,000, Enterprise 월 $200,000입니다. 문서에 설정 방법이 정리된 공급사는 OpenAI, Azure(AI Foundry·Azure OpenAI), Amazon Bedrock, Google Vertex AI, Mistral AI입니다. Azure나 Bedrock에 커밋된 크레딧이 남아 있다면 그걸 버리지 않고 라우팅·폴백만 취할 수 있어요.

이런 분이라면 열어봐도 좋아요

  • 어떤 모델을 쓸지 아직 고르는 중인 개인 — 카드 없이 :free로 여러 회사 모델을 한 자리에서 비교
  • 공급사 장애를 흡수할 폴백이 필요한 소규모 서비스 — allow_fallbacks 기본값만으로도 절체
  • Azure·Bedrock 크레딧이 남은 팀 — BYOK로 계약 유지하며 라우팅만 추가
  • 반대로, 짧은 시간에 대량 호출이 필요한 배치 작업 — 분당 20회 한도 때문에 잘 안 맞음

쓸지 말지 제 생각은요

무료 모델은 실험용으로 두고, 실제 서비스는 유료 모델에 라우팅 제어를 붙이는 구성이 무난해 보입니다. 하루 50회와 9월 은퇴 예정 표기를 같이 놓고 보면, 무료 라인업은 처음부터 맛보기 자리로 설계됐다는 게 분명하니까요.

전망을 한 줄 덧붙이자면, 관심사가 옮겨가고 있다고 느낍니다. 2023~2024년엔 ‘어떤 모델이 제일 똑똑한가’였다면, 500개 넘는 모델이 공존하는 지금은 ‘이 요청에 어떤 모델을 붙일 것인가’가 문제가 됐어요. Menlo Ventures가 인수 분석 글 제목에 ‘왜 모두가 모델 라우팅에 집착하는가’를 넣은 것도 같은 맥락일 겁니다. Stripe 인수가 마무리되면 요금이나 정책이 어떻게 바뀔지는 아직 어떤 출처에도 나오지 않았으니, 지금은 지켜볼 일입니다.

가격·한도 정보는 2026년 8월 기준이고, 이 서비스는 정책이 자주 바뀌는 편이라 붙이기 전에 공식 문서를 한 번 확인해 보면 좋아요.

참고 출처

댓글 남기기