LLM 비용2 AI 서비스 LLM 비용, 잘 쓰는 고객일수록 적자가 되는 이유 호출 한 번에 7원.이게 비싸 보이시나요? 저는 안 비싸 보였습니다. 커피 한 잔이 5천 원인데 7원이면 그냥 없는 돈이잖아요. LLM 비용 얘기가 나올 때마다 "나중에 규모 커지면 그때 보자"고 미뤄뒀던 이유도 그거였고요.근데요. 이번에 해외 개발자 한 분이 자기 서비스의 일주일치 추론 트래픽을 전부 계측해서 숫자를 공개했는데, 이게 좀 무섭습니다.제일 열심히 쓰는 고객이, 제일 큰 적자였습니다.뷔페집 사장님이 단골을 무서워하는 순간월 3만 원짜리 무한리필 고깃집을 상상해볼게요.한 달에 두 번 오는 손님. 남는 장사죠. 일주일에 한 번 오는 손님. 아직 괜찮아요. 근데 거의 매일 오는 손님이 생겼습니다. 이 사람은 우리 가게를 제일 사랑하는 사람이에요. 리뷰도 써주고 친구도 데려오고요.그런데 이 손님이.. 2026. 8. 27. AI API 가격이 무너지고 있다는데, 우리 회사 LLM 비용은 얼마일까? Opus급 성능에 가격은 15~20%? GLM 5.2가 촉발한 AI API 가격 경쟁, 그리고 정작 아무도 모르는 "우리 회사 LLM 비용" 추적법까지 정리했습니다.혹시 이번 달 AI API 청구서 보고 흠칫한 적 있으신가요?저는 있습니다. Claude Code를 서버에 올려놓고 신나게 쓰다가, API 키로 연결하면 구독이 아니라 종량제로 과금된다는 걸 뒤늦게 알았거든요. 청구 내역 보는 순간 등에서 식은땀이 났어요.근데요, 요즘 이 AI 비용 판이 통째로 흔들리고 있습니다. 오늘은 그 얘기를 해보려고요.Opus급 성능인데 가격은 15~20%?최근 해외 개발자 커뮤니티에서 화제가 된 글이 하나 있어요. 인프라 비용 분석으로 유명한 엔지니어 Martin Alderson이 쓴 글인데, 요지가 이렇습니다.중국.. 2026. 7. 7. 이전 1 다음
