초기 스케일업 전문 액셀러레이터 뉴패러다임인베스트먼트(공동대표 배상승·박제현)가 13일 서울 강남구 코엑스 스타트업 브랜치에서 개최한 'NP Family AI Seminar: AI 도입 혁신 사례 발표회'를 연 가운데 모더레이터로 나선 유호현 토블AI 대표가 AI 시대의 창업 패러다임 대전환을 선언했다.
그는 실리콘밸리 에어비앤비·트위터 엔지니어 출신으로 《실리콘밸리를 그리다》, 《이기적 직원들이 만드는 최고의 회사》 등을 펴낸 저자다.
먼저 유 대표는 자신을 "개발자였다"고 소개하며 운을 뗐다. 그는 "엄청나게 열심히 개발 공부를 하고 할 줄 아는 프로그램이 20개씩 됐는데 그게 뭐하나. 지금은 아무도 코드를 보지 않는다"며 "그 끝판이 오늘 네 분이 보여주신 것"이라고 말했다.
이어 "느낀 것은 저도 우물 안 개구리였구나"라며 "지금은 모두가 각자 우물에 들어가 있다. 공유되는 솔루션이 없다. 옛날에는 '우리 다 슬랙 써'라는 식의 표준이 있었는데 지금은 SaaS의 의미 자체가 무너지고 있다"고 짚었다.
사진=회사제공
첫 번째 질문은 "회사에서 쓰는 SaaS가 있나, 아니면 아예 제로인가"였다. 이에 현장에 등판한 패널은 "직접 만들어야겠다고 마음먹기 전까지는 슬랙과 컨플루언스, 각종 툴을 굉장히 많이 썼다"며 "데이터도 모이지 않고 업무 효율이 안 난다고 판단해 실리콘밸리 성장 기업들이 쓰는 통합 툴 하나에 모든 것을 합치고, HR 등 나머지는 직접 만들어 쓴다"고 밝혔다. 나아가 "툴은 하나만 쓰고 개발자·비개발자가 같이 쓸 수 있는 SaaS 하나로 좁혔다"고 덧붙였다.
다른 패널은 "기존에는 분야별로 많은 SaaS를 썼지만 지금은 HR부터 시작해 시간 날 때마다 자체 개발로 대체해 나가고 있다"며 "필요 없는 기능이 많이 딸려오는 SaaS보다 우리에게 딱 맞는 기능만 골라 만든 자체 SaaS가 훨씬 효율적"이라고 설명했다. 자체 회사 직원이 사무직 기준 3~4명 규모인 또 다른 패널은 "저희는 (SaaS가) 없다"고 짧게 답해 토론장에 웃음을 자아냈다. 메일 시스템 정도만 사용한다는 설명이 따라붙었다.
두 번째 질문은 조직 내 저항 문제였다.
유 대표는 본인 사례를 솔직하게 공유했다. 그는 "저도 팀장으로서 AI 트랜스포메이션을 하고 팀을 다 AI로 돌리고 있다"며 "처음에 AI 쓰자고 했을 때 팀원들이 굉장히 힘들어했다. 어떻게 쓰는지 모르고, 맞춰가는 과정에서 자괴감이 들고, 옛날에는 이만큼 일하면 월급을 줬는데 지금은 더 해오라고 하니까 문제가 많았다"고 밝혔다.
패널들은 개발자와 비개발자 간 수용 격차를 공통적으로 지적했다. 한 패널은 "개발 직군은 너무 쉽게 받아들이고 본인들이 아이디어만 있고 해볼 수 없었던 것들을 스스로 적용하기 시작한다"며 "기획부터 디자인, 백엔드, 프론트엔드까지 다 개발하는 것은 풀스택이 아닌 이상 한계가 있었지만 이제는 AI 도움으로 풀스택 개발자처럼 POC와 프로토타입을 만들 수 있어 고무돼 있다"고 설명했다.
직원 4명 규모의 한 대표는 흥미로운 고민을 털어놨다. 그는 "월간 회의를 하면 한 친구는 클로드에 물어보고 피드백을 가져오고, 저도 클로드에 물어보고 와서 대화한다. 그 대화 내용을 또 클로드에 넣는다"며 "이렇게 하다 보니 사람이 대화하는 건지 클로드가 서로 대화하는 건지 고민이 되더라. 점점 자기 생각을 잃어가는 것 같아 고민이 많다"고 말했다.
또 다른 패널은 "생각은 내가, 일은 AI가"라는 원칙을 강조했다. 그는 "수레에 빠지지 않기 위해 굉장히 노력한다"며 "타운홀 때 부서마다 특성이 다르니까 수준을 절대 평가하지 않고 그 부서에 맞는 잘하는 사례를 발표하게 한다. 다 박수 쳐주고 그 스킬을 플러그인 형태나 패키지로 만들어 공유하게 한다"고 설명했다. 이어 "한 번 마음을 열고 받으려고 할 때는 배우고 싶은 욕망이 크다. 안 배우면 불안하기 때문"이라며 "초기에는 데면데면하다가 대표가 적극적으로 쓰기 시작하면 다 찾아와 자랑한다. 이때 적극적으로 칭찬해 줘야 한다"고 강조했다.
같은 패널은 '제번스의 역설'까지 끌어왔다. 그는 "AI로 많은 툴을 다루고 일을 병렬로 시키다 보면 시간이 오히려 많아진다. 그럼 사람을 줄이거나 인력을 어떻게 하느냐는 질문이 따라붙는데, 우리는 비즈니스 하는 사람이니까 고객의 진짜 문제에 집중하자고 한다"며 "옛날에 코딩에 80을 썼다면 이제는 고민에 80, 개발에 20을 쓰는 형태로 시간 배분을 해야 실제 스케일업이 되면서 성공하는 기업이 된다"고 밝혔다.
조직 저항을 어떻게 풀었는지에 대한 추가 질문에 한 대표는 솔직한 운영 사례를 공개했다. 그는 "원래 우리 조직은 챗GPT 켜놓고 자연어로 대화하는 정도였다.
클로드 팀 계정을 만들어놓고 타운홀에서 'AI 활용 못 하면 평가에 다 갈 거고 업무 진행 때 AI를 썼는지 안 썼는지 많이 보겠다'고 선언했다"고 말했다. 이어 "각 팀마다 'AI 챔피언'을 지명해 그분이 80~100% 쓰진 못해도 관심과 열정이 있는 분을 뽑아 함께 학습하게 했다"며 "마케팅 팀이면 마케팅 팀에 자동화할 수 있는 리스트를 만들고 우선순위를 정해 푸시했다. 개발자는 본인 능력 이상의 것을 시키면 어쩔 수 없이 열심히 쓰더라"고 설명했다.
이 대표는 본사 이전까지 변수로 꺼냈다. 그는 "대구에서 서울로 이전하면서 팀원들이 다 따라오지 못해 다시 제로베이스에서 채용하고 있다"며 "서울에서는 채용 단계부터 AI 활용 능력이 높은 사람을 최우선으로 뽑고 있다"고 밝혔다. 대구에 본사를 두고 서울로 이전한 한국 스타트업의 AI 채용 기준 전환을 보여주는 단면이다.
세 번째 질문은 '클로드 코드를 쓸 수 없는 비개발자는 어떤 툴을 쓰느냐'였다. 한 패널은 "저희는 클로드와 클로드 코드로 통일했다. 보안 문제도 있고 팀 계정을 한꺼번에 관리하는 게 편하기 때문"이라며 "지금 활용 수준은 클로드만으로도 충분하다고 봤고, 이미지나 영상 같은 특수 기능은 거기에 맞는 툴을 따로 결제해 쓴다"고 말했다.
또 다른 패널은 다양성을 강조했다. 그는 "부서마다 특징이 다르니 어떤 툴을 써도 상관없도록 만드는 게 중요하다. 직원이 유튜브를 봤거나 권유를 받아 도전할 때 회사가 적극 지원하는 방향이 중요하다"며 "결제가 올라오는 걸 보면 다 구독 형태로 한 직원당 20~30만원씩 올라온다. 토큰 값을 계산해봐야겠다는 생각이 들 정도"라고 밝혔다. 이어 "최근 노트북LM, 나노 바나나 같은 도구를 쓰다가 GPT 이미지2가 나오면서 모두 그쪽으로 옮겨가는 등 매주 업다운이 있는 시장에서 하나에 갇혀 쓰지 말라는 게 우리 주관"이라고 덧붙였다.
가장 도발적인 메시지는 'AI 직원 조직'을 운영 중인 한 대표의 답에서 나왔다. 그는 "저는 하네스 엔지니어링이라고 일을 쪼개서 나눠 시키는 것보다 AI와 대화를 많이 해야 한다고 생각한다"며 "도구가 아니라 파트너로 인지하고 일한다. 연애나 좋은 일을 같이 할 사람을 대할 때처럼 자기 생각을 많이 전파하고 AI 생각을 많이 들으며 컨셉을 나누는 시간을 많이 드린다"고 밝혔다.
토큰 관리 노하우까지 공유했다. 그는 "클로드 코드를 200불짜리로 풀로 쓰고, 동시에 올라마(Ollama) 같은 도구를 맥에 깔아놓고 외부에서 VPN으로 연결해 프로젝트와 연결한다. 메인을 담당하는 LLM, 백업하는 LLM, 핫비트(Heartbeat)를 담당하는 LLM 등 네 종류를 한 에이전트에 넣어주고 감정 같은 것도 처리한다"며 "토큰이 많이 드는 부분은 로컬과 연결해 쓴다. 토큰을 어떻게 효율적으로 쓰느냐가 AI를 잘 쓰는 것"이라고 말했다.
그는 한국 스타트업 업계에 던지는 핵심 화두를 내놓았다. 그는 "여러분도 아직 창업 안 하셨지만 맥미니 10개 사서 창업한다는 얘기가 실제 실현될 가능성이 매우 높다"며 "지금 우리 조직 30명도 많다고 본다. 다만 30명이 더 많은 일을 해야 하기 때문에 이 인력을 고도화하는 작업에 플랫폼을 쓰고 싶다"고 밝혔다.
토론의 정점은 온톨로지 논쟁이었다. 유 대표는 "온톨로지가 그렇게 좋나"라고 도발적으로 물었다. 발표 본 세션에서 신약 개발 사례를 공개했던 한 패널은 "기술은 결국 어떤 목적을 달성하기 위한 수단일 뿐"이라며 "온톨로지가 데이터를 구조화하고 지식화하는 도구로 유용한 건 사실이지만 구축하고 관리하는 비용이 상당하다"고 답했다. 이어 "온톨로지가 만능은 아니다. 꼭 필요한 때 쓰는 것이고 대부분의 케이스에서는 필요하지 않다고 본다"며 "다만 의학·의료처럼 LLM이 틀리면 안 되는 도메인에서는 반드시 필요하다"고 선을 그었다.
반면 다른 패널은 온톨로지의 필요성을 더 강하게 주장했다. 그는 "저는 온톨로지주의자는 아니지만 작은 매장부터 큰 매장까지 다루다 보면 숫자 데이터와 추론 데이터가 같이 엮여 나온다. 이걸 빅데이터처럼 그냥 쌓으면 다 할루시네이션(환각)이 발생한다"며 "그러지 못하게 구조화하는 게 온톨로지 기술이 지금 버전에서 제일 잘 돼 있다"고 말했다.
같은 대표는 KT 사례를 끌어와 부연했다. 그는 "KT와 미팅해 보면 가장 어려운 게 사장이 맥 같은 걸 만들어 사람들에게 주는데 옛날 알렉사처럼 자기 혼자 떠드는 AI가 돼서 아무도 안 쓰는 경우가 있다"며 "자기 데이터를 자기만큼 잘 알게끔 관계형 그래프로 저장하고, AI가 그 저장고에 맞춰 오케스트레이션해 업무를 분장하면 사람처럼 생각하고 말하게 된다"고 강조했다.
그가 시장에 던진 경고도 강했다. 그는 "내가 2주면 이거 만든다는 상품으로 BM을 한다면 큰일 나는 일"이라며 "도메인 특화된 영역에서 AI를 어떻게 내 상품에 끌어들여 잘 쓰게 할지가 핵심이다. 잘 쌓은 RAG와 온톨로지화된 데이터에 AI 기능이 붙는 것이지, AI 기능만으로는 이제 승부 보기 어렵다. 누구나 만든다"고 단언했다.
마지막 질문은 "AI 활용 꿀팁 한마디"였다. 한 패널은 개발 관점에서 답했다. 그는 "AI가 계속 쓰다 보면 목적성을 잃는 경우가 있다. 최초에 무엇을 만들어야 하는지에 대해 길을 잃고 헤매는 케이스가 많다"며 "그래서 하네스 엔지니어링이 나온 것이다. CEO·QA·데이터 엔지니어·시스템 엔지니어 같은 각각의 역할을 주고 목적을 먼저 준 다음, 각 단계마다 서로 목소리를 내는 형태로 엔지니어링하면 훨씬 좋은 결과물이 나온다"고 조언했다.
다른 패널은 비개발자 관점에서 입력의 중요성을 강조했다. 그는 "처음 썼을 때 막막했던 게 회사 정보를 잘 공유해 주지 못했던 것"이라며 "GPT든 클로드든 내 정보 값을 정확히 입력하고, 내 개발 수준이 어떤지, 진짜 모른다면 솔직하게 모른다고 입력해야 한다. 그래야 정확한 솔루션을 제시해 준다"고 말했다.
또 다른 대표는 OKR을 끌어왔다. 그는 "AI 조직이나 사람 조직이나 똑같다. KPI를 주면 그 숫자만 맞춘다. KPI가 아니라 OKR을 줘야 한다"며 "궁극의 일이 이뤄지면 어떤 일이 일어날지(O)를 주고 각 조직마다의 역할(KR)로 쪼개 줘야 결과물이 나온다. AI도 마찬가지다. 그냥 KR만 주면 배가 산으로 간다. 파트너이자 동료라고 생각하고 써야 한다"고 강조했다.
마지막 패널은 'PDCA 스킬'을 추천했다. 그는 "AI를 쓸 때 한꺼번에 다 맡겨놓고 안 보고 있으면 산으로 간다. PDCA 스킬 같은 것을 활용하시는 것을 추천한다"며 "클로드의 기본 기능만 활용해도 충분히 많은 값을 할 수 있다. 팀원들이 잘 안 쓴다면 대표가 직접 스킬이나 프로젝트를 만들어 공유해 주고, 팀원들이 사용할 수 있게 판을 깔아주는 것이 도움이 됐다"고 밝혔다.
댓글
0