모바일 왕국을 꿈꾸며!!! mobizen@mobizen.pe.kr

Posted
Filed under AI 이야기
과학기술정보통신부는 2025년 8월 4일, ‘독자 AI 파운데이션 모델 프로젝트’의 최종 5개 컨소시엄을 발표했다. 이른바 ‘소버린 AI’ 프로젝트는 단순히 모델 하나를 잘 만드는 것을 넘어, 한국형 AI 주권을 확보하고, 데이터·인재·산업이 함께 성장하는 생태계를 조성하기 위한 대형 국가 전략이다.

선정된 팀은 다음과 같다.

사용자 삽입 이미지


이 팀들은 각자의 방향성과 기술 전략을 제시했지만, 전체적인 흐름은 결국 ‘대형 LLM 중심’의 경쟁 구도로 수렴되고 있다. 그렇다면 ‘소버린 AI’는 이렇게 파운데이션 모델 하나를 두고 벌이는 기술 경연장이 되어도 괜찮은 걸까?



기승전 Foundation Model… 그것이 전부인가?
소버린 AI에서 파운데이션 모델(FM)이 핵심이라는 점은 부정할 수 없다. 국가 AI 경쟁력을 확보하기 위해선 범용성과 확장성을 갖춘 대형 모델의 존재가 필요하고, 이를 개발할 수 있는 기술 역량을 확보하는 것이 사업의 중요한 축이라는 점에는 동의한다.

하지만 FM은 전체 그림의 일부일 뿐이다. FM 위에서 작동할 수 있는 산업 응용, 사용자 중심의 인터페이스, 인프라, 윤리·보안 체계, 오픈소스 생태계 구축 등 다양한 퍼즐 조각이 함께 구성되어야만 소버린 AI가 진짜로 작동한다.

사용자 삽입 이미지

이번 사업은 아쉽게도 그런 확장적 시야보다 FM 자체의 경쟁력에만 집중하는 구조를 택했다. 누가 더 크고 빠르고 정확한 모델을 만들 수 있는가를 겨루는 형식 속에서, 소버린 AI가 가져야 할 생태계적 관점은 다소 희미해진 느낌이다.



스타트업의 실력인가, 전략적 배분인가?
이번 선정 결과에서 가장 눈에 띄는 팀은 단연 업스테이지다. 유일한 스타트업 팀으로서 대기업 중심의 컨소시엄 사이에서 이름을 올렸다. ‘Solar WBL’이라는 자체 모델로 고효율 LLM의 가능성을 제시했고, OCR, 경량화 챗봇, 비즈니스 특화 API 등 실험도 이어가고 있다. 그간 보여준 제품화 속도와 응용력, 그리고 팀의 실행력은 분명 인상적이다.

하지만 이 지점에서 한 가지 도발적이지만 꼭 필요한 질문을 던지게 된다.
FM은 정말 기술력만으로 가능한가?
파운데이션 모델은 단순한 AI 알고리즘 기술이 아니다. 수백억 단어에 달하는 학습 데이터, 수천억 개의 파라미터를 처리할 인프라, 이를 운영하고 지속적으로 개선할 수 있는 조직과 자본, 그리고 이를 감당할 산업적 파트너십이 함께 작동해야 하는 복합 시스템이다. 그렇다면 이런 구조 속에서, 자연스럽게 질문이 이어진다.

  • 온디바이스 LLM을 구현해온 모티프테크놀로지스는 왜 선택되지 않았을까?
  • 글로벌 의료 AI 기업으로서 입증된 레퍼런스를 가진 루닛은 왜 최종에 오르지 못했을까?
이 질문들은 업스테이지의 기술력을 깎아내리기 위한 것이 아니다. 오히려 FM이라는 구조적 특성상, 누가 선정되었든 던져질 수밖에 없는 질문이며, 왜 소수의 기업에게 혜택이 집중되는 구조를 선택했냐는 사업을 향한 불만이다.

FM은 기술만이 아니라 시간과 사람, 자본과 네트워크의 총합으로 구축된다. 그렇기 때문에 어떤 기업이든 “이 모든 준비가 되어 있는가?”라는 질문은 당연히 따라올 수밖에 없다. 업스테이지의 선정이 의심스럽다는 것이 아니라, 그만큼 FM 프로젝트에 진입하기 위한 구조적 문턱이 높다는 사실을 강조하고 싶은 것이다.


다양성은 충분히 고려됐는가?
무엇보다 아쉬운 부분은 기술 전략의 다양성 부족이다. 최종 선발 팀들은 대부분 텍스트 기반 LLM을 중심에 두고 있다. 이미지 생성이나 영상 기반 멀티모달 모델, 온디바이스 환경을 고려한 경량화 전략 등은 상대적으로 주목받지 못했다.
  • 이것이 과연 소버린 AI의 취지와 맞는 접근일까?
  • 국가 주권이라는 이름 아래, 기술 전략마저 단일한 방향으로 수렴되는 것은 아닐까?
AI는 모든 산업에 걸쳐 확산되는 기술이다. 다양한 데이터 타입과 문제 상황, 응용 환경이 존재하는 만큼, 기술 전략 역시 다양성과 균형을 갖춰야 한다.



생태계는 경쟁만으로 자라지 않는다
이번 사업은 ‘선발 → 경쟁 → 탈락’이라는 단계별 서바이벌 구조를 택했다. GPU, 데이터, 정책적 지원이 집중되기에, 떨어진 팀은 사실상 생태계 밖으로 밀려난다. 스타트업은 본질적인 실험보다 과제 수주에 몰입하고, 중소기업은 기술 개발보다 컨소시엄 구성이 더 중요해지고, 대기업은 장기 기술 전략보다 ‘정부 호환성’을 먼저 고민하게 된다.

과연 이것이 ‘소버린’이라는 이름에 걸맞은 접근일까?

정부가 주도권을 가지고 핵심 인프라를 구축하는 방식은 필요하다. 하지만 그것이 생태계를 줄 세우는 방식이 되어선 곤란하다. 이번 사업은 ‘소버린 AI’를 실현하는 여러 방식 중 하나였어야 한다.

사용자 삽입 이미지



본질을 잊지 말자
이번 사업이 진행되는 것을 보며 개인적으로는 매우 미묘한 감정을 느끼고 있다. 그 동안 "한국형", "K-"에 대해 매우 부정적인 목소리를 내던 업계의 빅마우스들이, 대부분 이번 사업에 긍정적인 목소리 내지 방관을 하고 있다는 사실때문이다. 사업에 직간접적으로 연결되는 분들도 유난히 많았고... 그러한 이유때문에 이런 목소리를 내는 것 자체에 대한 우려도 스스로 있는 편이다.

그럼에도 불구하고, 소버린 AI는 단순한 국산화나 모델 만들기가 되어선 안된다. 정책적으로는 FM 자체뿐 아니라, 윤리, 책임, 응용 생태계에 대한 분과 논의가 병행되어야 하고, 산업계에서도 ‘우리 모델 vs 너희 모델’ 식의 성능 경쟁보다는 그 모델이 어디에 어떻게 쓰이고, 어떤 문제를 해결했는지가 중심이 되어야 한다.

지금 중요한 건 누가 만들었는가가 아니라, 어떻게 활용할 것인가다. 이 시점을 놓친다면, ‘AI 주권’이라는 말도 결국 한때의 마케팅 문구로 휘발될지 모른다. 소버린 AI를 위한 다양한 접근법 중 하나여야 한다. 향후 정부가 이어갈 후속 사업들에서는 모델 개발만이 아니라, 데이터 확보, 검증 인프라, 응용 서비스, 거버넌스와 같은 다양한 요소들이 함께 고려되길 바란다.

무엇보다 바람직한 방향은, 몇몇 사업자에 대한 집중 지원이 아닌, AI 산업 전체가 함께 성장할 수 있는 기반을 마련하는 것이다. 소버린 AI의 이름이 진정한 기술 주권으로 연결되기 위해선, 지금보다 더 넓고 유연한 생태계적 시선이 필요하다. 그런 사업이 이번과 별도로 추가되기를 기다리고 있겠다.
2025/07/31 15:31 2025/07/31 15:31
Posted
Filed under AI 이야기
“AI가 사람을 대체하는 것이 아니라, Agent가 역할을 나눠 맡으며 업무의 일부를 수행하는 시대가 왔다.”
지금 AI 기술의 최전선에 있는 개념은 단연 ‘AI Agent’다. 단순히 질문에 답변하는 수준의 챗봇을 넘어, 도구를 활용하고, 행동하고, 협업하며 목표를 수행하는 지능형 소프트웨어의 등장이 예고되고 있다. Agent는 더 이상 연구실 속 미래 기술이 아니다. 이미 다양한 산업에서 실제 PoC와 업무 자동화 프로젝트로 이어지고 있으며, 새로운 플랫폼 전쟁의 중심이 되고 있다.

하지만 이 기술은 정말 ‘ROI(투자 대비 효과)’가 나오는가? 가장 기초적인 질문에 대한 내용을 정리해보고자 한다.



1. 실전에서의 적용: 글로벌과 국내 사례
1.1. 글로벌
  • Klarna: 고객 상담 업무의 65% 이상을 AI Agent가 처리, 평균 응답시간 2.3초. 고객 만족도 향상과 비용 절감 효과 동시 달성.
  • Salesforce GPT: 세일즈 자동화 Agent로서 고객 행동 예측, 메일 작성, 추천 업무 수행. 내부 영업 생산성 약 30% 향상.
  • OpenDevin: 개발 보조 Agent로서, 버그 분석 → 수정 제안 → 문서 작성까지 수행. 엔지니어 시간 절감 효과 확인.
1.2. 국내
  • 엠로: 구매 Agent 도입으로 문서 생성 자동화, 발주관리 PoC 진행. 아직 확산보다는 테스트 단계.
  • 한국딥러닝: AI OCR 기반 문서처리 Agent로 9천 건 등기부등본 처리, 99.7% 시간 절감.
  • 올거나이즈 Alli: 노코드 Agent Builder를 통한 고객 지원/지식 검색 Agent 운영. 금융·제조권 중심 확산 중.
이처럼 일부 기업에서는 Agent 도입이 명확한 ROI를 만들어내고 있지만, 대다수는 여전히 검증 단계에 머무르고 있다.



2. Agent의 ROI를 계산해보면
2.1. 초기 구축
ScaleUpAlly에 따르면 고도화된 Agent는 $40,000~$150,000 이상(약 5천만~2억 원)  투자가 필요하다. 상세 내용을 구분해서 정리하자면 

  • 단순 Q&A Agent 수준: $10,000~$30,0000 (약 1,300만 원 ~ 약 4,000만 원)
  • CRM 연동·오케스트레이션 포함: $40,000~$70,000(약 5,300만 원 ~ 약 9,300만 원)
  • 고도화 Agent (검색/ML/워크플로우 포함): $150,000 (약 2억 원) 이상 가능

2.2. 월간 운영
Designveloper에 따르면 API 호출, 모니터링, 데이터 보정, 보안 등 포함 시 $3,000~$13,000(약 400만~1,800만 원) 수준이 월 비용으로 소요된다. 상세 내역을 구분하자면 아래와 같다.

  • LLM API 호출: $1,000 ~ $5,000 (약 130만 원 ~ 약 660만 원)
  • 검색 인프라 (벡터 DB 등): $500 ~ $2,500  (약 66만 원 ~ 약 330만 원)
  • 모니터링/로깅: $200 ~ $1,000(약 26만 원 ~ 약 130만 원)
  • 프롬프트 업데이트 (튜닝): $1,000 ~ $2,500 (약 66만 원 ~ 약 260만 원)
  • 보안 유지 비용: $500 ~ $2,000(약 400만 원 ~ 약 1,800만 원)

2.3. ROI
이를 단순 계산해보면, 초기 구축 비용이 최소 약 5천만 원, 월간 운영비가 400만 원이라고 가정할 때, 2년 기준 총비용은 약 2억 원에 달한다. 따라서 최소 연간 1억 원 이상의 비용 절감이나 추가 매출이 발생하지 않는다면 투자 대비 효과(ROI)를 입증하기 어렵다. 이는 AI Agent가 단순한 기술 도입이 아닌, 명확한 수치적 효과를 전제로 설계되어야 한다는 점을 보여준다.

TechMonitor, Capgemini, PagerDuty, BCG 등의 자료를 종합하면 기업들이 AI Agent에 기대하는 ROI는 평균 200%이다. 하지만, 실제 평균 ROI는 170% 수준으로 나타났다. 60% 이상의 기업이 기대치를 달성하지 못했거나 ROI 측정에 실패했으며 42%가 AI 프로젝트를 중단했다는 보고서도 있다.

사용자 삽입 이미지


3. 왜 많은 Agent가 ROI를 만들지 못하는가?
 
첫째는 현업과 동떨어진 구조를 시도하기 때문이다. Agent가 ROI를 창출하려면, 단지 기술적으로 작동하는 것을 넘어 실제 조직의 흐름 안에 들어가야 한다. 승인 체계, 데이터 흐름, 사용자 관성 등을 고려하지 않은 Agent는 초기 도입비만 남기고 활용되지 않는다. 하지만, 아직 문화적인 거부감이 커서 부가 서비스에 사용되는 경우가 많다.
 
둘째는 운영 전략이 부재하기 때문이다. ROI는 도입이 아니라 운영에서 나온다. Agent는 만들어지는 순간이 아니라 반복적으로 학습하고 개선되는 구조여야 한다. 이를 위한 운영 체계와 리소스를 확보하지 않으면, 도입 효과는 장기적으로 희석된다. 그런데, 구축 예산에 모든 것을 써버린 기업은 대부분 구축 이후에는 개선없이 방치하게 된다.

셋째, AI Agent를 단순히 비용 절감 도구로 오해하기 때문이다. 많은 기업들이 Agent를 단순히 사람을 줄이는 수단으로 접근한다. 하지만 실제 ROI는 인건비 감축보다는 생산성 증대, 오류 감소, 리드타임 단축 등 정량화된 효율성 개선에서 발생한다. 특히 국내는 Agent를 단순 인건비 절감 도구로 이해하는 경향이 강하다. 하지만 진짜 절감은 반복 운영 구조와 업무 최적화에서 나오는데, 애초부터 이러한 설계과 고려가 없다.
 
넷째, ROI 추적 시스템 부재이다. Agent의 성과를 수치로 추적할 수 없다면, 의사결정자의 신뢰를 얻을 수 없다. KPI, 비용 대비 성능, 반복 사용률 등 ROI를 측정할 수 있는 지표 체계를 사전에 설정해야만 한다.



4.  Agent의 미래 — SI에서 SaaS로?
 
지금까지의 논의를 종합해보면, AI Agent는 단순 기술 구현 단계를 지나 지속가능한 ROI를 낼 수 있는 구조적 진화가 필요하다. 특히 구축비와 운영비가 일정 수준 이상 고정되는 구조에서, 기업 입장에서는 다양한 도입과 운영 옵션을 고려하지 않을 수 없다.
 
하나의 흐름은 SaaS 기반 Agent 제품군의 확산이다. Microsoft 365 Copilot, Salesforce GPT와 같은 제품처럼, 특정 업무 목적에 맞춘 SaaS형 Agent는 초기 투자 없이 구독 형태로 시작할 수 있고, 운영/유지보수 부담도 낮다. 특정 도메인에서 ROI가 검증되면, 이 모델은 빠르게 확산될 수 있다.
 
또 다른 흐름은 Agent Builder 기반의 경량화된 커스터마이징 전략이다. LangChain, AutoGen, CrewAI 같은 프레임워크나 Google Vertex AI의 Builder 기능은 복잡한 개발 없이도 Agent를 빠르게 설계하고 테스트할 수 있게 해준다. 이는 ‘SaaS 수준까지 가지 않더라도’ 중소 규모 조직이 최소한의 비용으로 가능성을 탐색할 수 있는 경로다.
 
하지만 Builder만으로 운영비를 해결할 수 있는 것은 아니다. 대부분의 Builder는 여전히 기술자 중심의 툴이며, 프롬프트 조정, API 연결, 모니터링, 사용자 피드백 반영 등은 모두 비용과 리소스를 지속적으로 요구하는 운영 행위다. 결론적으로 AI Agent는 다음과 같이 양분될 가능성이 크다.

  • SaaS화 가능한 Agent : 반복성과 정형성이 높은 도메인 중심. 낮은 도입 비용, 빠른 확산, 낮은 운영 부담
  • SI 기반 + Builder 연계형 Agent: 특수 목적·복잡성 높은 워크플로우 중심. PoC-중심의 탐색 단계에서 유효
     
Agent는 단기 성과를 위한 트렌드가 아니라, 조직 구조와 업무 흐름에 맞춰 어떤 구조로 설계되고, 어떤 방식으로 운영되는가에 따라 생존 여부가 결정될 기술이다.

사용자 삽입 이미지




결론 — 지금 AI Agent를 도입해야 할까?
 
AI Agent는 기술이나 규제의 문제가 아니라, 결국 ROI의 문제다. 구축과 운영에 필요한 기본 비용은 조직의 규모와 무관하게 일정 수준 이상으로 고정된다. 그렇다면 Agent가 만들어내는 가치는 연간 최소 1억 원 이상이어야 ROI가 성립된다. 반대로 말하자면, 1억 원 이상의 가치를 만들어내는 업무에 적용되어야 한다.
 
그렇기 때문에 Agent는 반복적이고 구조화된 대형 트랜잭션을 가진 조직에게 적합하다. 그렇지 않다면, 지금은 SaaS나 Agent Builder가 충분히 고도화될 때까지 기다리는 것이 더 합리적인 전략일 수 있다. Agent는 트렌드가 아니다. ROI를 중심에 두지 않는 Agent 전략은 실패할 가능성이 높다.
2025/07/31 08:53 2025/07/31 08:53