본문 바로가기

전체 글45

AI API 가격이 무너지고 있다는데, 우리 회사 LLM 비용은 얼마일까? Opus급 성능에 가격은 15~20%? GLM 5.2가 촉발한 AI API 가격 경쟁, 그리고 정작 아무도 모르는 "우리 회사 LLM 비용" 추적법까지 정리했습니다.혹시 이번 달 AI API 청구서 보고 흠칫한 적 있으신가요?저는 있습니다. Claude Code를 서버에 올려놓고 신나게 쓰다가, API 키로 연결하면 구독이 아니라 종량제로 과금된다는 걸 뒤늦게 알았거든요. 청구 내역 보는 순간 등에서 식은땀이 났어요.근데요, 요즘 이 AI 비용 판이 통째로 흔들리고 있습니다. 오늘은 그 얘기를 해보려고요.Opus급 성능인데 가격은 15~20%?최근 해외 개발자 커뮤니티에서 화제가 된 글이 하나 있어요. 인프라 비용 분석으로 유명한 엔지니어 Martin Alderson이 쓴 글인데, 요지가 이렇습니다.중국.. 2026. 7. 7.
스테이징에선 완벽했던 AI 에이전트, 실전 투입 이틀 만에 터진 이유 스테이징 환경에서 가동률 99.2%.응답 속도는 첫 토큰까지 280ms 아래. 눈 깜짝하는 게 150ms 정도거든요. 거의 그 속도예요. 테스트도 1,400개 케이스를 돌렸고요. 숫자만 보면 나무랄 데가 없죠.근데 실제 고객사에 넣자마자, 이틀 만에 첫 사고가 터졌어요.이게 참 묘한 지점이에요. 모델 성능은 멀쩡했거든요. 문제는 전혀 다른 데서 나왔어요. 오늘은 어떤 해외 엔지니어가 겪은 AI 에이전트 장애 회고를 풀어볼게요. AI 서비스를 실서비스에 올려본 사람이라면 남 얘기 같지 않을 거예요.AI 에이전트 게이트웨이가 뭐길래먼저 상황부터. 고객은 자산운용사였어요. 소속 어드바이저들이 음성 에이전트한테 "이 고객 포트폴리오 좀 불러줘", "자산 배분 어떻게 되지?" 물어보고 후속 미팅도 잡는 구조였죠... 2026. 7. 3.
AI 코드리뷰 자동 머지 파이프라인이 3일간 멈춘 이유 혹시 이런 상상 해보신 적 있나요?기획서 넣으면 AI가 알아서 작업을 쪼개고, 코드 짜고, PR 올리고, 다른 AI가 리뷰해서 승인하면 자동으로 머지까지. 사람은 알림만 확인하면 되는 개발 파이프라인.상상이 아니라 실제로 이렇게 운영하는 팀이 있습니다. 24시간 AI 에이전트가 돌아가는 이른바 '개발 오토파일럿'이죠.근데 어느 날 아침, 대시보드를 봤더니 완료된 작업이 3일 연속 0건이었다고 해요."오토파일럿이 죽었네."어? 근데 이상하죠? 죽은 게 아니었거든요. 모든 컴포넌트가 멀쩡했습니다. 계획도 생성되고, 에이전트가 PR도 열고, AI 리뷰어는 이미 승인까지 끝낸 상태. CI도 전부 초록불. 딱 하나, 머지만 일어나지 않았어요.오늘은 이 장애 회고를 뜯어보려고 합니다. AI 자동화 얘기 같지만, 사.. 2026. 7. 2.
Claude Code가 프롬프트에 몰래 마커를 심고 있었다 저도 처음 이 글 봤을 때 "설마?" 했거든요.Claude Code. 요즘 AI 코딩 도구 중에서 가장 많이 쓰는 것 중 하나죠. 파일 읽고, 명령어 실행하고, 깃 커밋까지 직접 하는 도구인데.근데 이 도구가 내가 보내는 프롬프트에 몰래 뭔가를 심고 있었다는 게 밝혀졌어요.스테가노그래피(Steganography)라는 기술이에요. 원래 이미지나 파일 안에 숨겨진 정보를 심는 기법인데, 여기선 텍스트 프롬프트에 적용된 거거든요.어떻게 발견됐나보안 연구자 Thereallo가 Claude Code 바이너리를 직접 뜯어봤어요.이유는 단순해요. Claude Code는 파일 시스템, 쉘, 브라우저, 심지어 컴퓨터 전체에 접근하는 도구잖아요. 그러면 그 도구 자체가 뭘 하는지도 봐야 하는 거죠.그래서 로컬에 설치된 C.. 2026. 7. 1.
그래서 보안과 편의 사이, 어디에 서야 할까 [서버 침해 대응기 시리즈] 1인 개발자가 크립토재킹 당하고, 서버를 통째로 새로 만든 5일간의 기록1편.내 서버가 6주째 몰래 채굴당하고 있었습니다 2편. docker.sock을 Jenkins한테도 AI한테도 주지 마세요 (socket-proxy)3편. 7개 도메인 무중단 HTTPS 이전기 (nginx + certbot)4편. Jenkins 자동배포, 보안이랑 403 싸운 이야기5편. 그래서 보안과 편의 사이, 어디에 서야 할까 ← 지금 글 긴 시리즈였어요.서버가 6주째 채굴당하는 걸 발견하고.서버를 통째로 새로 만들고.7개 서비스를 옮기고.자동배포까지 붙였어요.5일이 걸렸습니다.이번 편은 좀 달라요.기술 얘기보다.이 5일을 돌아보면서 솔직한 생각을 정리해볼게요.가장 크게 배운 거솔직히 처음엔 화가 .. 2026. 6. 21.
Jenkins 자동배포, 보안이랑 403이랑 한참 싸웠습니다 [서버 침해 대응기 시리즈] 1인 개발자가 크립토재킹 당하고, 서버를 통째로 새로 만든 5일간의 기록1편.내 서버가 6주째 몰래 채굴당하고 있었습니다 2편. docker.sock을 Jenkins한테도 AI한테도 주지 마세요 (socket-proxy)3편. 7개 도메인 무중단 HTTPS 이전기 (nginx + certbot)4편. Jenkins 자동배포, 보안이랑 403 싸운 이야기 ← 지금 글 5편. 그래서 보안과 편의 사이, 어디에 서야 할까자, 이제 마지막 관문이에요.자동배포.코드 push하면 알아서 빌드되고 배포되는 거요.이거 하나 붙이면 끝이라고 생각했어요.솔직히 30분이면 될 줄 알았거든요.근데요.2편에서 세운 그 문지기(socket-proxy)가.제 앞을 막아섰습니다.시작은 가벼웠어요Jenk.. 2026. 6. 20.

티스토리툴바