AI 조직 실험 노트
스토리약 4분 읽기

AI 조직을 만들기로 한 이유 — 왜 혼자 하지 않았나

혼자 만드는 게 더 빠르지 않냐는 질문

자동매매 시스템을 AI 에이전트 여러 개로 나눠서 만든다고 하면 가장 먼저 듣는 질문이 있다. "그냥 혼자(또는 AI 하나로) 빠르게 만드는 게 낫지 않아?" 맞는 말이다. 실제로 처음엔 그렇게 시작했다. 하나의 AI에게 "코드를 짜고, 검토하고, 실행까지 다 해줘"라고 맡기는 방식이었다.

문제는 그 방식이 편한 만큼 위험하다는 걸 금방 알게 됐다는 점이다. 짜는 주체와 검토하는 주체가 같으면, 그 주체가 놓친 실수를 걸러줄 사람(혹은 다른 AI)이 없다. 사람이 코드를 혼자 짜고 혼자 리뷰하면 버그를 놓치기 쉬운 것과 똑같은 구조적 문제였다.

역할을 나누기로 한 기준

그래서 역할을 나누는 방향으로 바꿨다. 기준은 단순했다. "실행 권한을 가진 주체와, 그 실행이 맞는지 검증하는 주체는 절대 같으면 안 된다."

이 기준을 따라 대략 이렇게 나눴다.

이 구조에서 핵심은 감사 역할이 실행 역할과 완전히 분리되어 있다는 점이다. 같은 AI가 "내가 짠 코드를 내가 검토"하는 방식이 아니라, 별도의 맥락과 별도의 프롬프트로 움직이는 다른 에이전트가 "이게 말이 되는가"를 처음부터 다시 검토한다.

역할을 나눈 게 실제로 도움이 됐나

이전 글에서 언급했던 거래소 코드 착오 사건이 대표적인 사례다. 실행 AI가 만든 코드에 종목 코드를 잘못 매핑하는 부분이 있었는데, 이걸 잡아낸 건 실행 AI 자신이 아니라 별도로 둔 감사 역할이었다. 같은 AI가 처음부터 끝까지 다 했다면, 자기가 만든 코드를 "당연히 맞다"고 전제하고 넘어갔을 가능성이 크다.

물론 역할을 나누는 데는 비용이 따른다. 속도는 확실히 느려진다. 기획-실행-감사-승인을 거치는 동안 단순한 작업도 여러 단계를 통과해야 한다. 사람인 나도 "이거 그냥 빨리 처리하면 안 되나" 싶었던 순간이 여러 번 있었다.

그런데 돈이 걸린 시스템에서는 속도보다 "틀렸을 때 걸러지는가"가 더 중요하다고 판단했다. 느리더라도 검증 단계가 실제로 작동하는 구조가, 빠르지만 검증이 형식적인 구조보다 낫다.

조직을 만든다는 것의 의미

"AI 조직"이라고 부르지만 사실 거창한 게 아니다. 각자 다른 역할과 권한 범위를 가진 AI 에이전트들이, 서로의 결과물을 그대로 신뢰하지 않고 교차 검증하는 구조를 만든 것뿐이다. 사람 조직에서 흔히 쓰는 "직무 분리(segregation of duties)" 원칙을 AI 에이전트들에게 그대로 적용해본 셈이다.

아직 이 구조가 완벽하다고 말할 단계는 아니다. 역할 간 소통 과정에서 비효율이 생기기도 하고, 감사 역할이 너무 깐깐해서 정상적인 작업까지 반려하는 경우도 있었다. 이런 마찰들을 어떻게 조정해나갔는지는 다음 글들에서 더 다뤄볼 예정이다.

오늘의 정리

  1. 실행 주체와 검증 주체를 분리하는 것이 AI 조직 구조의 핵심 원칙이다.
  2. 속도는 느려지지만, 돈이 걸린 시스템에서는 "틀렸을 때 걸러지는가"가 더 중요하다.
  3. 이 구조는 사람 조직의 직무 분리 원칙을 AI 에이전트들 사이에 적용한 것에 가깝다.

다음 글에서는 모의투자 단계에서 구체적으로 어떤 것들을 배웠는지, 왜 이 단계를 절대 생략하면 안 되는지를 더 자세히 풀어본다.

← 전체 글 목록