AI 조직 설계 노트 · 2026.07

같은 전기,
다른 공장

전기화 100년의 교훈으로 읽는, AI 시대의 일하는 방식과 조직 설계. 『제2의 기계 시대』 · 『기술의 충격』을 겹쳐 읽다.

“진짜 기회는 최고의 모델을 고르는 데 있지 않다. 모델 위에 인적 자본과 토큰 자본이 복리로 쌓이는 학습 루프를 만드는 데 있다.”

사티아 나델라, 마이크로소프트 CEO
1부 전기가 가르쳐준 것

동력을 바꾼 게 아니라, 공장을 다시 지은 쪽이 이겼다

증기기관 시대의 공장은 동력원이 딱 하나였다. 그 힘을 수십 대의 기계에 나눠 보내려고, 천장에 긴 쇠막대(라인샤프트)를 깔아 하루 종일 돌리고, 거기서 가죽 벨트를 내려 각 기계를 돌렸다.

그래서 기계는 일하는 순서가 아니라 동력을 받을 수 있는 자리에 끌려다녔다. 한 대만 돌리려 해도 축 전체를 돌려야 했고, 자재는 공장을 이리저리 헤맸다. 전기가 처음 들어왔을 때조차, 많은 공장이 증기기관 자리에 전기모터를 갖다 놓기만 했다. 축과 벨트는 그대로. 이것이 그룹 드라이브다. 생산성은 거의 오르지 않았다. 모터만 바꿨지, 공장은 그대로였으니까.

폭발은 기계마다 개별 모터를 달고 나서 왔다. 축과 벨트를 걷어내자 기계를 일하는 순서대로 다시 놓을 수 있었고, 그렇게 조립 라인이 태어났다. 이것이 유닛 드라이브다.

Group Drive

모터만 바꾼 공장

하나의 축이 전부를 끌고 간다. 한 대를 세우려면 전체를 세워야 한다.

Unit Drive

공장을 다시 그린 쪽

기계마다 자기 모터. 일하는 순서대로 자유롭게 놓는다. 이것이 조립 라인이다.

같은 전기, 다른 공장. 차이는 배치를 다시 그렸느냐에서 났다.

40

전기가 처음 들어온 1890년대부터 생산성이 실제로 반등한 1920년대까지, 전체 지체 기간.

30

경제학자 시버슨의 관찰. “기존 관리자들이 은퇴하고 새 세대가 그 자리를 물려받을 만큼 긴” 시간이 흐른 뒤에야 공장 배치가 바뀌었다.

상상력이 부족해서가 아니었다. 그 관리자들이 물러날 때까지 공장이 안 바뀐 것이다. “구설비”는 은유가 아니라 역사적 사실이었다.

연결 100년 전 공장 = 지금 우리 조직

여러분 회사가 지금 하는 게, 그룹 드라이브다

먼저 라인샤프트는 사일로 조직이다. 전문성이 비싸고 희소하니 한곳에 모은다. 기획팀, 디자인팀, 개발팀. 정보와 결재를 중앙에 모아 정해진 순서로 배분한다. 그런데 요즘 스타트업들은 이미 사일로로 일하지 않는다. 크로스펑셔널 팀으로 일한다. 그러니 “사일로 깨라”는 말은 이미 낡았다. 진짜 질문은 그다음이다.

기획자에게 LLM 하나, 디자이너에게 LLM 하나, 개발자에게 LLM 하나. 각자 자리에서 빨라졌다. 그런데 일하는 순서, 서로 넘기는 방식은 그대로다. 크로스펑셔널로 자리를 옮겨 앉아도 마찬가지다. 이게 그룹 드라이브다. 모터만 바꿔 끼운 것이다.

그럼 조직의 유닛 드라이브는 무엇일까. 각자가 LLM 하나가 아니라 에이전트 군단을 데리고, 자기 워크플로우를 새로 짜서 루프를 돌리고, 필요하면 옆 사람의 에이전트까지 불러다 쓴다. 사람이 사람에게 넘기는 게 아니라, 에이전트와 에이전트가 흐름을 타는 구조. 솔직히 아직 이상향이다. 하지만 방향은 분명하다.

오늘 제목의 그 ‘망한 회사’는, 유닛 드라이브에 못 간 회사가 아니다. 그룹 드라이브에서 멈춰 서서 “우리 AI 도입 다 했다”고 만족한 회사다.

현장 개인은 오르는데 조직은 안 오른다

제일 잘 쓴다는 사람도, 아직 그룹 드라이브에 있다

개인 레벨에서는 생산성이 확 오른다. 그런데 조직 레벨로 가면 잘 안 오른다. 그 격차가 사실 오늘 이야기의 핵심이다.

지금 제일 잘 쓰는 쪽

자기 사업 하는 40대, 일 잘하는 매니저. 그런데 이들조차 대개 기존 운영 업무를 효율화하고 자동화하는 관점이다. 모터를 잘 갈아끼우는, 그룹 드라이브다.

뜻밖에 끝을 더듬는 쪽

IT특성화고를 나온 20대 초반. 오히려 이 기술의 가능성을 가장 잘 더듬는다. 걷어낼 옛날 공장 자체가 없으니까. 새로 지은 공장이 유닛 드라이브를 먼저 채택했듯이.

새 시대의 워크플로우를 다시 짜서 가치를 만드는 것, 그 유닛 드라이브는 아직 멀다. 발제자 본인을 포함해서.

2부 두 책이 각각 답하는 질문

무엇이 바뀌는가, 그리고 어느 방향으로

『제2의 기계 시대』: 무엇이 바뀌는가

브린욜프슨은 전기화 연구를 경영학으로 가져온 장본인이다(“생산성 J커브”: 조직을 재설계하기 전엔 IT를 사도 생산성이 안 오른다). 디지털 재화는 한계비용이 0이라 승자가 시장을 먹고, 격차는 벌어진다. 가장 날카로운 지점은 “평균의 종말”이다. 평균적 능력의 평균적 조합은 가치가 0으로 수렴하고, 기계가 못 하는 것과 기계를 잘 부리는 것의 조합만 남는다.

『기술의 충격』: 어느 방향으로 바뀌는가

기술 전체가 생물 진화처럼 자체 방향을 가진다(더 다양하게, 더 특화되게, 더 편재하게, 더 자율적으로). 실천적 함의는 하나. 기술의 결을 거슬러 베팅하지 말고, 결이 가는 길목에 먼저 가 있어라.

방향은 정해져 있고(켈리), 이득은 재설계한 자에게만 간다(브린욜프슨).

3부 그래서 우리는 어떻게 일해야 하는가

유닛 드라이브로 가는 다섯 원칙

  1. 실행에서 기준 정의로 1인 빌더의 핵심 기술은 코드를 짜는 게 아니라, “이 작업이 끝났는지 기계 스스로 판정할 성공 기준”을 쓰는 능력이다. 위임 가능 여부는 AI 성능이 아니라 기준의 명확성이 결정한다.
  2. 하루를 루프 설계 시간과 판단 시간으로 아침에 성공 기준을 가진 루프 서너 개를 띄우고, 낮에는 기계가 못 하는 일(고객 통화, 제휴, 가격 결정)과 루프 결과의 승인·반려에 쓴다. 감독하는 루프의 개수가 곧 생산능력이다.
  3. AI를 꽂지 말고, 결과에서 역산해 프로세스를 다시 그린다 순서가 있다. 재설계 → DT(검증 자동화) → AX. 재설계와 DT만 해도 10 중 8을 먹고 들어간다. 이걸 건너뛰고 AI부터 꽂으면 잘해야 2다. “AI를 하지 마라”가 아니라 “효과를 내려면 순서가 있다”.
  4. 루프가 돌수록 쌓이는 자산을 각자 답할 수 있어야 한다 단, 아무 루프나 쌓이는 게 아니다. 피드백 기준이 모델의 의견이 아니라 현실(확정된 상태·실행 결과·성과·사람의 판단)에 정박해야 학습이다. 자기 말에 정박하면 그건 학습이 아니라 자기참조 순환이다.
  5. 단, 재설계는 고객이 당기는 곳부터 재설계가 그 자체로 목표가 되면 또 하나의 도구 수집일 뿐이다. 우선순위는 매출·고객과 가장 가까운 루프부터.
심화 ① 루프에도 종류가 있다

루프는 온도가 다르다: 사람이 손을 떼는 순서

원칙 2에서 “아침에 루프 서너 개를 띄운다”고 했다. 그런데 루프가 다 같은 게 아니다. 앤스로픽은 사람의 개입이 줄어드는 순서로 네 단계를 정리한다. 아래로 내려갈수록 위임의 폭이 넓어진다.

1 · 턴 기반

프롬프트 → 실행 → 확인 → 다음 프롬프트. 짧고 일회성인 작업. 검증 기준이 구체적일수록 효과가 커진다. 사람 개입 최다.

2 · 목표 기반

완료 조건만 준다(“점수 90 이상, 5회 시도 후 정지”). 조건이 충족될 때까지 스스로 반복한다. 딱 떨어지는 기준일수록 잘 맞는다.

3 · 시간 기반

주기로 트리거된다(크론). 로컬로 돌리면 PC를 끄면 멈추고, 상시로 돌리려면 클라우드에 올린다.

4 · 사전 예방적

이벤트·스케줄이 알아서 발동하고, 사람이 실시간으로 붙지 않는다. 정형화된 반복 작업을 통째로 위임한다. 사람 개입 최소.

아래로 내려갈수록 한 사람이 감독하는 생산량은 커진다. 하지만 공짜가 아니다. 위임을 한 칸 올릴 때마다, 그만큼 판정(eval)이 받쳐줘야 한다. eval 없이 자율성만 올리면 불량품을 대량으로 찍어낸다. 게다가 모든 일에 맨 아래 칸이 필요한 것도 아니다. 잘못 걸면 토큰만 태운다. 큰 실행일수록 작은 조각으로 먼저 돌려본다.

심화 ② 그 루프를 굴리는 사람의 자리

새 조직도는 직함이 아니라, 제품이 흐르는 단계다

유닛 드라이브에서 사람의 자리는 기획팀·디자인팀·개발팀(전문성)으로 나뉘지 않는다. 제품이 흐르는 단계로 나뉜다. 클로드 코드를 만든 보리스 체르니가 정리한 다섯 자리가 그 지도다.

프로토타이퍼
만든다
빌더
만든다
스위퍼
치운다
그로워
키운다
메인테이너
치운다

왼쪽에서 오른쪽으로, 아이디어가 제품으로 흐른다.

프로토타이퍼

아이디어를 하루 만에 실데이터 프로토타입으로 세운다. 원래 배포 직전에나 하던 “최악의 데이터 검증”을 1일차로 당긴다. 가장 비싼 재작업(늦게 발견된 치명 결함)을 앞으로 끌어와 없앤다.

빌더

검증된 프로토타입을 진짜 제품으로 짓는다.

스위퍼치우는 자리

빨라진 생산이 남긴 부채(중복·미검증·정리 안 된 것)를 걷어낸다.

그로워

굴러가기 시작한 제품을 키운다.

메인테이너치우는 자리

고친 문제가 되돌아오지 않게 지키고 유지한다.

다섯 자리 중 둘이 “치우는” 자리다. 실행이 싸질수록, 검증하고 정리하는 일이 별도의 자리로 커진다. 병목이 실행에서 검증·판단으로 옮겨간 증거다.

오독 주의

이걸 “직군 다섯 개를 새로 뽑자”로 읽으면, 애써 걷어낸 라인샤프트를 다시 까는 것이다(재사일로화). 올바른 독해는 한 사람이 갈아 쓰는 다섯 개의 모자다. 작은 팀은 한 사람이 다섯 모자를 전부 쓰고, 큰 조직은 채용 단위가 아니라 단계 게이트(각 단계의 완료 기준)로 관리한다.

심화 ③ 무엇이 쌓이는가

모델은 빌리고, 기억은 소유한다

여기까지는 전부 “어떻게 더 빨리 도느냐”였다. 그런데 빨리 도는 것 자체는 누구의 해자도 아니다. 같은 AI를 경쟁자도 하루면 산다. 유닛 드라이브가 남기는 진짜 자산은 속도가 아니라, 루프가 돌 때마다 쌓이고 남이 복제하지 못하는 것이다. 100년 전에 이미 이름이 있었다. 조직자본.

전기 시대의 조직자본은 공장 배치와 조립 라인이었다. 컴퓨터 시대에는 ERP와 프로세스 재설계였다. AI 시대의 조직자본은 기억층이다. 일하는 방식을 코드로 굳힌 것 전부다. SSOT와 표준 절차, 결정 문서, 검증된 사실의 상태 파일, 평가 루프가 다듬어온 프롬프트, 쌓인 실패 기록, 그리고 감사 로그. AI의 구조적 약점(제 상자 밖의 맥락을 매번 처음부터 다시 배운다는 것)을 메우는 층이라서, 바로 그래서 해자가 된다. 모델은 임차하고, 기억층은 소유한다. 모델은 새것이 나오면 갈아 끼우면 되지만, 기억층은 오직 시간으로만 만들어진다.

판별 게이트

단, 쌓는다고 다 자산이 되는 건 아니다. 질문은 하나다. 쌓인 맥락을 다시 소비하는 루프가 있는가. 소비하는 루프 없이 쌓기만 한 것은 조직자본이 아니라 창고 임대료다. (원칙 4의 “현실에 정박한 루프”와 같은 잣대다.)

여기서 뜻밖의 반전이 나온다. 조직자본 투자는 장부에 ‘자산’이 아니라 ‘비용’으로 찍힌다. 그래서 분기 실적을 관리해야 하는 큰 회사일수록 이 투자를 못 한다. 반대로 봐야 할 장부도, 설득할 CFO도 없는 작은 팀은 마음껏 시간을 부어 넣을 수 있다.

돈은 그들이 많지만, 전환 속도는 우리가 빠르다. 조직자본 투자에서 작은 팀이 큰 회사보다 유리한, 아마 유일한 시대다.

이것이 “평균의 종말”과 승자독식 경고에 맞설 유일한 방어다. 그리고 곧이어 던질 질문, “모델을 바꿔도 남는 것은 무엇인가”의 답이기도 하다.

질문 결국 남는 질문

재설계를 막는 관성은, 시스템이 아니라 우리 자신 아닐까

전기화의 30년 지체는 설비의 문제가 아니라 사람의 문제였다. 관리자가 자기 관성을 스스로 못 고쳐, 그가 물러날 때까지 공장이 안 바뀌었다. 역사는 세대교체를 기다려야 했다. 질문은 이것이다. 우리는 스스로 그 교체를 할 수 있는가.

질문을 한 번 더 벼리면 이렇게 된다. 우리의 20년 경험은 자산인가, 아니면 감가상각이 끝나지 않은 구설비인가. 유닛 드라이브를 먼저 채택한 쪽은 늘 기존 공장을 개조한 이들이 아니라, 버릴 게 없어 새로 지은 쪽이었다.

다만 과감함만으로는 안 된다. 위임의 폭은 추적의 깊이에 비례해서만 넓어진다. AI로 옮기면 이렇다.

성과 = 위임의 폭 × eval의 깊이

둘 중 하나가 0이면 결과도 0이다. eval 없이 위임만 넓히면 불량품을 대량으로 찍어낼 뿐. eval이 곧 AI 시대의 차단기다. 전기도 차단기와 안전 인증이 생기고 나서야 대규모로 퍼졌다.

루프와 판단, 그 eval이 제대로 서고 나면 그때 생산성이 폭증한다. 전기가 30년 뒤에 그랬던 것처럼.

닫으며

지금 우리도 100년 전과 똑같은 갈림길에 서 있다. 직원마다 LLM 하나씩 쥐여주고 “다 했다”고 할 것인가, 아니면 공장을 다시 그릴 것인가.

솔직히 우리 대부분은 아직 그룹 드라이브에 있다. 다만 그게 종착지가 아니라는 것만은 분명하다. 모터를 고르는 게 아니라, 공장을 다시 짓는 것. 이 정리가, 내가 그 갈림길에서 어느 쪽으로 걸음을 뗄지 스스로 정하는 지도가 되기를.