Ollama가 880억 원 투자 유치: 오픈소스 로컬 AI가 폭발하는 이유

오픈소스 로컬 AI, 드디어 자본을 만나다

Ollama(올라마) 가 6,500만 달러(약 880억 원) 규모의 Series B 투자를 유치했습니다. Theory Ventures가 이번 라운드를 이끌었고, 누적 투자액은 8,800만 달러에 달합니다.

로컬에서 AI 모델을 구동하는 오픈소스 도구에 이런 규모의 자본이 몰린 건 꽤 이례적인 일입니다. 당분간 이 시장에 더 많은 관심이 쏠릴 것 같습니다.

올라마를 한마디로 설명하면, 내 노트북이나 데스크톱에서 오픈 웨이트 AI 모델을 간단하게 실행할 수 있게 만드는 오픈소스 AI 도구입니다.

터미널에 명령어 한 줄 입력하면 모델이 다운로드되고 바로 대화를 시작할 수 있죠. 복잡한 설정이나 클라우드 가입 과정이 필요 없습니다.

그런데 이런 도구가 왜 지금 갑자기 수백억 원의 투자를 받게 된 걸까요?

왜 로컬 AI가 지금 폭발하는가

가장 큰 이유는 비용입니다. ChatGPT나 Claude 같은 클라우드 기반 서비스를 API로 쓰다 보면, 요금이 생각보다 빠르게 쌓입니다.

특히 에이전트 작업처럼 모델이 장시간 여러 번 호출되는 경우 비용 부담이 큽니다. 기업 입장에서는 이 비용을 줄이는 게 “존속이 걸린 프로젝트”가 됩니다.

로컬 AI는 이 문제를 근본적으로 해결합니다. 내 하드웨어에서 모델이 구동되니까 호출 비용이 제로에 가깝습니다. 전기세 말고는 추가 비용이 없으니까요.

두 번째는 프라이버시입니다. 기업이나 기관에서 민감한 데이터를 다룰 때, 외부 서버로 데이터를 보내는 건 쉽지 않은 결정입니다.

로컬에서 실행하면 데이터가 내 컴퓨터를 떠나지 않습니다. 이게 로컬 LLM이 갖는 가장 강력한 장점 중 하나입니다.

세 번째는 오픈 웨이트 모델 자체의 발전입니다. 양자화 기술이 발전하면서 일반적인 노트북 RAM만으로도 꽤 쓸 만한 모델을 구동할 수 있게 되었습니다.

올라마가 특별한 이유: Docker 개발자가 만든 도구

올라마의 창업자 Jeff Morgan과 공동 창업자 Michael Chiang은 이전에 Docker Desktop을 만든 개발자들입니다. Docker가 클라우드 앱 배포를 혁신적으로 단순화했다면, 올라마는 AI 모델 실행에 같은 철학을 적용했습니다.

설치 과정을 보면 이해가 빠릅니다. 공식 홈페이지에서 다운로드하고, 터미널에 ollama run 명령어를 입력하면 끝입니다. 모델 다운로드부터 실행까지 전부 자동으로 처리됩니다.

GitHub에서 176,000개의 스타와 17,000개의 포크를 받았고, 매월 890만 명 이상의 개발자가 사용합니다.

포춘 500 기업의 85%가 올라마를 도입한 상태입니다. 이 모든 것을 단 14명의 직원이 달성했습니다.

여기에 REST API가 기본 제공됩니다. 로컬 모델을 백엔드로 삼아서 자체 앱이나 서비스를 바로 구축할 수 있죠.

Llama, Mistral, Qwen, Gemma 같은 주요 오픈 웨이트 모델이 출시되면 대개 올라마에서 가장 먼저 지원됩니다.

올라마는 클라우드 구독 사업도 운영합니다. 모델이 너무 커서 로컬에서 실행하기 어려운 경우, 자체 네오클라우드에서 GPU 시간 기반으로 과금합니다.

오픈소스 AI 생태계의 다음 단계

880억 원의 투자가 단순히 한 회사의 성과로 끝나지 않을 거란 점이 중요합니다. 이건 전체 오픈소스 AI 생태계가 상업적으로 검증받았다는 신호입니다.

투자자들은 로컬 AI 시장이 충분히 크고, 앞으로 더 커질 것이라고 판단했습니다. 클라우드 AI와 로컬 AI가 공존하면서 각자의 역할을 나눠 갖는 시대가 빠르게 오고 있습니다.

올라마 이전 라운드를 이끈 Benchmark의 Peter Fenton은 “오픈 모델과 클로즈드 모델 중 하나만 살아남는 게 아니다”라고 말합니다.

비용이 중요한 일상 작업은 오픈 웨이트 모델로, 정확도가 최우선인 작업은 클로즈드 모델로 나눠 쓰는 하이브리드 방식이 표준이 되고 있다는 분석입니다.

개발자든 연구자든 호기심 많은 일반 사용자든, 로컬에서 AI 모델을 돌려보고 싶다면 지금이 가장 좋은 시점입니다. 올라마 한 번 설치해 보시길 권합니다.

Ollama가 880억 원을 유치한 건, 오픈소스 로컬 AI가 트렌드가 아니라 표준이 되어가고 있다는 분명한 신호다.

———

참고 출처
– TechCrunch 원문에서 확인하기
– Google News RSS에서 확인하기