모델은 소모품이 되고 분산 오케스트레이션이 권력이 되는 시대

·
#AI 에이전트#분산 오케스트레이션#플랫폼 권력#워크플로 과금#감사 로그

에이전트 전쟁의 진짜 전선은 모델 랭킹이 아니라 조정권이다

대중은 여전히 모델 벤치마크 점수표를 보며 승자를 가른다. 그러나 현장에서 돈이 새는 곳은 점수표가 아니라 여러 에이전트가 동시에 움직일 때 생기는 충돌, 중복 실행, 권한 오남용, 실패 복구의 비용이다. 모델은 부품이고, 분산 오케스트레이션은 공장 전체의 배선도다.

단일 호출의 시대가 끝난 자리, 에이전트 플릿의 충돌 비용

한 개의 챗봇은 대화만 잘하면 된다. 하지만 영업, 구매, 정산, 재고, 고객응대 에이전트가 동시에 돌아가면 이야기는 달라진다. 같은 주문을 두 번 넣고, 같은 송장을 세 번 승인하고, 같은 고객에게 서로 다른 답을 보내는 순간 비용은 모델 토큰이 아니라 운영 사고로 폭발한다. 실제 기업은 이 충돌을 막기 위해 중앙 스케줄러, 락, 우선순위 큐, 롤백 규칙을 깔아야 한다. 모델이 아무리 똑똑해도 이 층위가 없으면 조직은 자동화가 아니라 혼선을 산다.

최근 HN에서 돌던 AI가 소프트웨어를 삼키고 업무 운영체제가 되는 순간류 논의가 놓치는 지점도 여기다. 소프트웨어를 먹는 주체가 모델인지, 아니면 모델들을 묶는 조정 계층인지가 갈린다. 엔터프라이즈는 이미 LLM API 가격보다 오케스트레이션 실패로 인한 인건비·지연비·감사비를 더 무서워한다. 2026년의 승자는 더 큰 모델이 아니라 더 적은 사고를 내는 조정자다.

그래서 이 시장의 첫 번째 프리미엄은 지능이 아니라 질서다. 에이전트가 10개에서 100개로 늘어날수록 단일 모델의 우위는 희석되고, 상태 관리와 충돌 해결을 쥔 플랫폼의 락인 효과가 커진다. 모델은 교체 가능하지만, 업무 맥락과 권한 규칙, 실패 로그를 쌓아 둔 오케스트레이터는 교체 비용이 급격히 치솟는다.

합의 규칙과 권한 계층이 모델 파라미터보다 비싼 이유

에이전트 군집이 현실 자원을 만지는 순간, 가장 중요한 질문은 무엇을 할 수 있느냐가 아니라 누가 허락했느냐다. 결제, 발주, 데이터 삭제, 계약 체결 같은 동작은 모델의 문장 생성 능력보다 권한 체계와 승인 경로에 의해 제한된다. 여기서 비싼 자산은 파라미터가 아니라 정책 엔진, 역할 기반 접근통제(RBAC), 감사 추적, 예외 승인 워크플로다. 이 네 층이 제대로 엮이지 않으면 자율성은 곧 사고다.

기업이 이 구조에 돈을 내는 이유는 명확하다. 모델의 정확도 2% 향상보다, 잘못된 자동 발주 한 번을 막는 편이 훨씬 싸기 때문이다. 금융, 헬스케어, 물류처럼 규제가 강한 산업일수록 오케스트레이션 계층은 사실상 새로운 컴플라이언스 인프라가 된다. 이때 공급자는 모델 회사가 아니라 워크플로 플랫폼, 아이덴티티 관리 업체, 정책 오케스트레이션 업체가 된다. 추론을 길게 할수록 더 싸지는 시대, 소프트웨어 원가표가 무너진다에서 말한 계산식 붕괴는 여기서 한 단계 더 간다. 계산 비용이 내려가면, 남는 돈은 조정과 통제에 붙는다.

결국 권력은 파라미터 덩어리에 있지 않다. 누가 어떤 에이전트에게 어떤 행위를 언제 허락할지 정하는 규칙집에 있다. 이 규칙집을 가진 쪽이 고객 데이터를 끌어안고, 감사 로그를 쥐고, 사고 책임의 출구를 통제한다. 모델은 흥분을 팔지만, 권한 계층은 현금을 만든다.

분산 오케스트레이션의 병목은 계산이 아니라 현실 세계의 마찰이다

에이전트 AI는 클라우드 안에서만 춤추지 않는다. 전력, 재고, 배송, 인력 배치처럼 물리 세계의 제약과 맞부딪친다. 그래서 병목은 GPU 부족만이 아니다. 지연, 동기화 실패, 부분 성공, 외부 시스템의 응답 불일치가 진짜 비용을 만든다. Virtual Power Plant 시뮬레이션이 흥미로운 이유도 바로 이 마찰을 드러내기 때문이다.

Virtual Power Plant 시뮬레이션이 보여준 동기화 지옥

가상 발전소는 수십 개, 때로는 수백 개의 분산 자원을 하나의 제어면처럼 묶는다. 배터리, 태양광, 수요반응, 건물 부하가 각각 다른 시간축과 제약을 갖고 움직이니, 중앙에서 한 번에 명령을 내리는 방식은 금방 깨진다. 각 노드의 상태가 늦게 도착하고, 일부는 실패하고, 일부는 이미 다른 명령을 수행한 뒤다. 이때 필요한 것은 거대한 모델이 아니라 부분 실패를 전제로 한 분산 합의, 타임아웃, 재시도, 보상 트랜잭션이다.

이 문제는 전력망만의 이야기가 아니다. 물류 창고의 로봇, 콜센터의 상담 에이전트, SaaS 구독 갱신도 같은 구조를 가진다. 하나의 중앙 두뇌가 아니라 느슨하게 연결된 행위자 집합이 서로의 상태를 맞춰야 한다. 여기서 실패는 단순 버그가 아니라 금전 손실이다. 전력 시장에서는 몇 분의 지연이 정산 단가를 바꾸고, 물류에서는 몇 초의 오판이 SLA 위약금으로 이어진다. 오케스트레이션 계층이 강해질수록 이 지연을 줄이는 기술이 곧 수익률이 된다.

즉, 에이전트 AI의 본게임은 언어 이해가 아니라 상태 일관성이다. 모델이 똑똑해질수록 현장에서는 더 많은 외부 시스템과 더 자주 부딪힌다. 그 충돌을 흡수하는 분산 제어면을 누가 갖느냐가 다음 시장의 승패를 가른다.

지연 200밀리초와 실패 복구 3초가 돈이 되는 순간

실시간 오케스트레이션에서 200밀리초는 별것 아닌 숫자처럼 보인다. 그러나 결제 승인, 광고 입찰, 에너지 수요 반응, 재고 재배치에서는 이 숫자가 곧 수익률이다. 에이전트가 느리면 기회를 놓치고, 너무 빠르면 잘못된 결정을 되돌릴 시간이 없다. 그래서 고급 시스템은 속도 경쟁이 아니라 속도와 복구의 균형을 판다. 평균 응답 시간보다 중요한 것은 꼬였을 때 얼마나 빨리 원상복귀하느냐다.

이 지점에서 분산 오케스트레이션은 단순한 미들웨어가 아니라 보험 장치가 된다. 실패 복구가 3초면 사람이 개입할 수 있지만, 30초면 거래와 정산이 이미 어긋난다. 기업은 이 차이를 돈으로 계산한다. 장애 1건당 손실이 수만 달러에서 수백만 달러로 뛰는 업종일수록 오케스트레이터에 지불하는 돈이 늘어난다. 모델 API 비용이 내려가도, 회복성 높은 운영 계층의 구독료와 통합 비용은 오히려 오른다.

이런 구조는 결국 플랫폼의 가격 결정력을 키운다. 에이전트를 많이 붙일수록 중앙 제어, 관측, 알림, 롤백, 감사 기능이 필수로 따라붙는다. 그 순간 고객은 모델을 사는 게 아니라 운영 안정성을 산다. 모델이 싸질수록 오케스트레이션은 더 비싸진다. 구조가 그렇게 되어 있다.

돈은 모델 호출이 아니라 통제면의 구독료로 흐른다

투자자는 아직도 가장 큰 모델을 가진 회사를 찾지만, 재무제표는 다른 이야기를 한다. 진짜 반복매출은 모델 사용량보다 워크플로 장악에서 나온다. 한 번 조직의 업무 흐름에 들어간 오케스트레이터는 바꾸기 어렵고, 바꾸기 어려운 소프트웨어는 가격을 올린다. 이것이 플랫폼 경제의 오래된 법칙이다.

토큰 과금의 붕괴와 워크플로 과금의 부상

모델 호출당 과금은 이미 얇아지고 있다. 추론 최적화, 캐시, 경량 모델, 온디바이스 실행이 퍼지면서 단순 토큰 판매는 점점 commodity가 된다. 반면 워크플로 과금은 다르다. 승인 체인, 정책 집행, 로그 보관, 예외 처리, 인간 개입 호출까지 묶으면 고객은 단순 계산량이 아니라 업무 완결성을 산다. 이때 가격 기준은 토큰 수가 아니라 업무 단위다.

기업은 이 변화에 민감하다. 왜냐하면 업무 단위 과금은 예산 항목을 바꾸기 때문이다. IT 비용에서 끝나지 않고 운영비, 리스크 비용, 컴플라이언스 비용으로 번진다. 오케스트레이션 공급자는 이 경계를 넘나들며 더 큰 계약을 따낸다. 모델 제공자는 API 매출을 쌓지만, 오케스트레이터는 조직의 핵심 프로세스를 잠근다. 한쪽은 호출량이 줄면 바로 흔들리고, 다른 쪽은 업무가 계속되는 한 유지된다.

그래서 자본은 모델 회사보다 조정 계층에 더 긴 호흡을 건다. 모델은 세대교체가 빠르지만, 업무 흐름은 느리게 바뀐다. 느리게 바뀌는 곳이 돈이 오래 머무는 곳이다.

감사 로그와 책임 추적이 새로운 해자

에이전트가 실수했을 때 누가 무엇을 승인했고 어떤 데이터에 접근했는지 남겨 두는 일은 부차적 기능이 아니다. 그것이 곧 방어선이다. 규제 산업은 이미 이 로그를 요구하고, 대기업은 내부 통제를 위해 더 촘촘한 추적을 원한다. 감사 로그가 촘촘할수록 교체 비용은 올라가고, 공급자 락인은 깊어진다. 이 기록 시스템이 바로 오케스트레이터의 해자다.

여기서 비트코인은 가격표가 아니라 재무제표의 통화로 들어온다에서 보인 회계적 전환과 닮은 점이 있다. 숫자를 남기는 체계가 권력을 만든다. 에이전트 세계에서도 누가 어떤 결정을 왜 내렸는지 남기는 자가 시장의 신뢰를 독점한다. 모델은 말할 수 있지만, 로그는 증거가 된다. 증거를 가진 플랫폼은 분쟁 해결과 책임 귀속에서 우위를 점한다.

결국 감사 가능성은 기능이 아니라 가격 방어 수단이다. 고객이 규제기관과 법무팀 앞에서 설명할 수 있는 시스템만 장기 계약을 얻는다. 이 영역에서는 화려한 데모보다 추적 가능한 기록이 더 비싸다. 그리고 그 기록을 관리하는 계층이 바로 다음 시대의 고정 수익원이다.

승자는 더 똑똑한 모델이 아니라 더 넓은 조정 면을 가진다

다음 3–5년의 경쟁은 모델 성능의 미세한 차이로 갈리지 않는다. 누가 더 많은 에이전트를 안전하게 묶고, 더 많은 외부 시스템과 연결하며, 더 많은 실패를 흡수하느냐가 판을 가른다. 결국 시장은 모델 공급자보다 오케스트레이션 플랫폼, 클라우드 사업자, 업무 소프트웨어 사업자 쪽으로 더 두꺼운 마진을 남긴다.

클라우드와 업무 소프트웨어가 다시 중심으로 돌아오는 이유

에이전트 AI가 확산될수록 새로 뜨는 스타트업만 이득을 보는 그림은 아니다. 오히려 기존 클라우드와 업무 소프트웨어 사업자가 유리하다. 이유는 간단하다. 오케스트레이션은 API 몇 개로 끝나지 않고 인증, 권한, 데이터 레이크, 이벤트 버스, 모니터링, 정산까지 엮어야 하기 때문이다. 이미 이 배관을 가진 회사가 훨씬 빠르게 시장을 잠근다.

이 구조는 과거 SaaS의 승자독식과 비슷하지만 더 잔인하다. SaaS는 화면을 장악했지만, 에이전트 오케스트레이션은 행동을 장악한다. 행동을 장악하면 매출, 비용, 리스크가 한꺼번에 붙는다. 그래서 클라우드 사업자는 컴퓨트 판매를 넘어 정책 실행, 관측, 장기 상태 저장, 멀티에이전트 런타임을 묶어 팔 가능성이 크다. 업무 소프트웨어 사업자도 마찬가지다. 고객이 이미 쓰는 ERP, CRM, SCM 위에 에이전트 레이어를 얹는 순간 교체는 거의 불가능해진다.

이 방향은 플랫폼의 재중앙화를 뜻한다. 모델은 여러 곳에서 나오겠지만, 조정 면은 몇 개의 거대 사업자가 차지한다. 시장은 열린 모델 생태계처럼 보이지만, 실제 수익은 폐쇄된 운영 계층으로 모인다.

모델은 교체되고 오케스트레이터는 남는 3–5년의 결말

앞으로 몇 년 동안 모델은 더 자주 바뀐다. 더 싸고 더 빠르고 더 작은 모델이 계속 나온다. 그러나 기업이 한 번 구축한 분산 오케스트레이션은 쉽게 갈아끼우지 못한다. 이유는 기술 부채가 아니라 운영 부채 때문이다. 권한 정책, 감사 체계, 실패 대응, SLA, 내부 통제가 한 몸으로 엮여 있기 때문이다. 이 묶음을 바꾸는 순간 조직은 시스템 전체를 흔들어야 한다.

그래서 최종 승자는 모델 제조사가 아니라 운영 규칙의 소유자가 된다. 이들은 사용자 인터페이스보다 업무 흐름, 답변보다 승인, 생성보다 집행을 판다. 수익 구조도 선명하다. 모델은 마진 압박을 받지만, 오케스트레이션은 구독과 통합, 감사, 리스크 관리, 프리미엄 지원으로 ARPU를 끌어올린다. 시장이 성숙할수록 이 차이는 더 벌어진다.

냉혹한 결말은 분명하다. 에이전트 AI 시대의 돈은 지능의 소유권이 아니라 조정권의 소유권으로 쏠린다. 모델은 점점 더 흔해지고, 분산 오케스트레이션은 점점 더 희귀해진다. 희귀한 쪽이 가격을 정한다. 그게 다음 전장의 계산서다.