사내 AI 랩은 왜 3~4년 안에 사라질까?

모델이 바뀌는 속도가 조직 설계의 문제가 됐습니다

조시 우드워드는 구글에서 16년째 일하며 구글 랩스와 Gemini 앱, AI Studio를 이끌고 있습니다. Lenny's Podcast 진행자 레니 라치츠키는 이번 대담을 가설 하나로 열었습니다. 모델이 바뀌는 속도가 워낙 빨라서 이제 모든 회사가 연구소처럼 실험을 많이 돌려야 한다는 가설입니다. 우드워드는 동의하면서도 스타트업은 원래 랩이니, 진짜 질문은 그 방식을 큰 조직으로 어떻게 옮기느냐라고 받았습니다.04:01

AX(AI 전환) 전담 조직이나 TF를 이미 꾸린 기업이라면 지금 들어 볼 만한 대담입니다. 조직은 생겼는데 무엇으로 평가할지, 1년 뒤 무엇이 남을지 아직 정하지 못했다면 더 그렇습니다. 우드워드의 답도 아이디어를 찾는 요령보다 그런 조직을 살려 두는 구조에 무게를 둡니다. 이 글은 대담에서 논지 셋만 골라 짧게 정리하고, 한국 조직에 옮길 때 걸리는 지점은 노바폴드의 해석으로 따로 적었습니다.

아이디어를 고르고, 접고, 넘겨주는 기준

첫째 논지는 아이디어가 나오는 곳입니다. 우드워드는 좋은 아이디어가 디자인 스프린트처럼 일정을 비워 둔 시간에서는 드물게 나왔다고 말합니다. 대신 랩 팀은 「거의 가능한 것(almost possible)」 목록을 둡니다. 모델의 지연 시간이나 지원 언어 수가 어느 선을 넘으면 어떤 경험이 열리는지 적어 두었다가, 선을 넘는 순간 팀을 모으는 방식입니다.08:18

둘째 논지는 신호를 읽는 법입니다. 초기 시제품을 보여 줄 때 그는 일간 사용자 수나 7일 리텐션보다 상대의 눈이 반짝이는지를 본다고 했습니다.15:47 접을 때도 같은 감각을 씁니다. 열기가 식고 해 볼 것을 다 해 봤는데 되지 않는 순간을 리더보다 팀이 먼저 느낀다는 이야기입니다.

셋째 논지는 구조입니다. 대기업이 연 랩은 대개 비효율적으로 굴러가다 3~4년 안에 닫히거나, 오래 남더라도 거기서 나온 것을 회사가 사업으로 잇지 못한다고 그는 짚었습니다.45:10 최전선에서 실험하는 사람, 그들이 만들 수 있는 환경, 만든 것을 회사가 넘겨받는 길이 모두 있어야 한다는 것입니다. 사내 랩을 열려는 리더에게는 기존 사업부 밑에 두지 말 것, 어떤 게임을 하는지 정할 것, 제품뿐 아니라 일하는 방식도 시험할 것을 권했습니다.48:15

구글의 답을 그대로 옮기기 어려운 이유

세 논지는 구글 랩스라는 특수한 환경 위에 서 있습니다. 대담에서 따로 말하지 않은 전제가 셋 보입니다. 이 전제가 빠진 조직에서는 같은 처방이 다르게 작동합니다. 그래서 구글의 방식을 그대로 들여오기보다, 우리 조직에 어떤 전제가 비어 있는지부터 확인하는 쪽이 빠릅니다.

첫 번째 전제는 최신 모델에 가장 먼저 닿는 위치입니다. 「거의 가능한 것」 목록은 새 모델을 매일 써 보는 팀이라서 유지됩니다. 사내에서 쓸 수 있는 모델이 보안 심사를 거쳐 몇 달 늦게 들어오는 조직이라면, 선을 넘는 순간을 남보다 먼저 볼 수 없습니다. 이런 조직이라면 목록에 「세상에서 무엇이 가능해졌나」보다 「우리 데이터와 사내 규정 안에서 무엇을 쓸 수 있게 됐나」를 적는 편이 현실적이라고 노바폴드는 봅니다.

목록에 오르는 항목의 모양도 달라집니다. 상담 녹취가 쌓인 금융사를 가상으로 떠올려 보면 「사내망에서 돌릴 수 있는 모델이 한국어 상담 녹취를 쓸 만한 수준으로 요약하는가」, 「결재 문서 양식을 바꾸지 않고 그대로 읽어 내는가」 같은 항목이 오를 것입니다. 항목마다 지금 어디까지 왔는지, 누가 확인하는지를 함께 적어 두면 목록은 아이디어 메모가 아니라 투자 시점을 정하는 도구가 됩니다.

최전선 팀을 둔다는 말에는 비용과 규정의 문제도 숨어 있습니다. 우드워드가 예로 든 사람들은 월 200달러짜리 구독을 여덟 개쯤 쓰는 이들입니다.44:36 외부 AI 서비스 하나를 쓰는 데 보안 검토와 구매 절차가 몇 주씩 걸리는 조직이라면, 사람을 모아도 손에 쥘 도구가 없습니다. 최전선 팀의 예산에는 인건비만큼 시험용 도구와 계정 비용을 잡고, 그 승인을 빠르게 처리할 예외 절차도 함께 정해야 합니다.

두 번째 전제는 접어도 괜찮은 평가 체계입니다. 팀이 먼저 「이건 안 됩니다」라고 말하려면 과제를 접었다는 보고가 실패로 남지 않아야 합니다. 연초에 과제를 걸고 연말에 달성률로 평가하는 구조라면, 팀은 식어 가는 과제도 연말까지 끌고 갑니다.

박자도 다릅니다. 우드워드는 Gemini 팀의 로드맵을 6개월 단위로 굴린다고 했는데42:13, 1년 단위로 예산을 받는 조직은 그 사이에 열린 기회를 다음 해 계획에야 담을 수 있습니다.

접은 과제를 기록하는 방식부터 바꿀 수 있습니다. 접은 이유와 다시 열 조건을 한 장으로 남겨 두면 그 과제는 실패 기록으로 끝나지 않고 「거의 가능한 것」 목록의 새 항목으로 넘어갑니다. 모델이 바뀌어 조건이 채워지면 처음으로 돌아갈 필요 없이 그 장에서 다시 시작하면 됩니다.

눈빛으로 신호를 읽는 방법에도 보완이 필요합니다. 사내 시연은 대개 상사와 동료가 함께 앉은 회의실에서 열리고, 그런 분위기에서 나온 반응은 예의로 포장되기 쉽습니다. 고개를 끄덕이는 것만으로는 실제로 쓸지 알 수 없습니다.

노바폴드는 시연 당일의 표정보다 일주일 뒤의 행동을 보라고 권합니다. 누가 시키지 않았는데 다시 열어 본 사람이 있는지, 자기 업무 자료를 넣어 본 사람이 있는지가 한국 조직에서는 더 정직한 신호입니다.

세 번째 전제는 넘겨받을 조직입니다. 구글에는 랩에서 나온 제품을 키울 제품 조직과 사용자 기반이 이미 있습니다. 국내 AX 조직이 같은 조건을 갖췄는지는 따로 따져 봐야 하고, 노바폴드는 이 세 번째 조건에서 가장 자주 막힐 것으로 봅니다.

가상의 예를 하나 들겠습니다. 한 제조사 AX TF가 영업팀의 견적 작성을 돕는 시제품을 석 달 만에 만들었고, 시연에서 영업 담당자들의 반응도 좋았다고 해 봅시다. 그런데 이 도구를 운영할 예산과 담당자를 누가 맡을지 정해 두지 않았다면 시제품은 TF 안에 남고, 연말 보고서에는 「PoC(개념 검증) 1건 완료」 한 줄만 적힙니다.

넘겨받는 길을 설계하려면 우드워드가 권한 나머지 두 가지를 한국 조직의 말로 다시 읽어야 합니다. 먼저 독립성입니다. AX 조직이 IT 부서 아래에 놓이면 과제는 쉽게 시스템 구축 사업의 모양을 띱니다. 요구사항을 받고, 일정을 맞추고, 납품하는 방식입니다.

그렇다고 CEO 직속이 답이라는 뜻은 아닙니다. 직속이 되면 경영진의 관심사가 곧 과제 목록이 되어 이번에는 반대쪽에서 자유를 잃습니다. 노바폴드는 위치보다 「이 팀이 무엇을 납품하지 않아도 되는가」를 문서로 정해 두는 일이 독립성의 실체라고 봅니다.

다음은 어떤 게임을 하는지입니다. 현업 업무에 AI를 붙이는 일과 새 사업을 찾는 일은 성공의 기준이 다릅니다. 앞의 일은 실제로 쓰는 사람 수와 줄어든 작업 시간으로 재고, 뒤의 일은 시험한 가설의 수와 제때 접은 과제의 수로 재야 합니다. 한 조직에 두 일을 함께 맡기고 한 가지 잣대로 평가하면, 어느 쪽에서도 이겼다고 말하기 어려워집니다.

랩의 속도를 정하는 것은 평가와 예산입니다

우드워드의 대담은 실험 조직을 다루지만, 끝까지 들으면 결국 회사 전체의 이야기입니다. 아이디어를 찾는 감각은 사람에게서 나오고, 그 감각을 지켜 주는 장치는 평가와 예산과 조직도에 있습니다. 랩이 아무리 빨라도 그 장치들이 1년 단위로 움직이면 속도는 랩 안에서만 머뭅니다.

최전선 팀을 꾸리는 일 자체는 어렵지 않습니다. 관심 있는 사람을 모으고 이름을 붙이면 됩니다. 어려운 일은 그 팀이 만든 것을 받아 줄 부서와 접은 것을 기록해 줄 제도를 함께 만드는 것이고, 여기부터는 AX 조직 혼자 할 수 없습니다.

평가와 예산의 박자를 바꾸는 결정은 경영진의 몫입니다. 모델은 반년마다 바뀌는데 조직의 계획 주기가 1년에 묶여 있다면, 그 차이를 메우는 비용은 고스란히 최전선 팀이 떠안게 됩니다.

AX 조직을 꾸린 지 1년이 됐다면, 그 조직이 만든 것 가운데 지금 현업에서 돌고 있는 것이 몇 개인지 세어 보시길 권합니다. 숫자가 작다면 원인은 아이디어가 아니라 넘겨받는 길에 있을 가능성이 큽니다. 랩은 미래를 먼저 보는 곳이지만, 그 미래가 회사의 것이 되는지는 랩 밖에서 정해집니다.