AI 에이전트가 혼자 결정 내리기 전에, 누가 막을 수 있을까?

cordum — 자율 AI 에이전트를 위한 오픈소스 통제 플레인, 다음 달 주목할 레포

지난달, 한 스타트업 개발자가 LangChain(AI 작업을 연결해 자동화하는 프레임워크)으로 만든 에이전트가 승인도 없이 프로덕션 데이터베이스에 쿼리를 날렸다는 이야기를 들었다. 실수가 아니라, 에이전트가 '알아서 최적 경로를 찾은' 결과였다.

Setting

AI 에이전트 열풍은 2025년부터 본격화됐다. LangChain, CrewAI, MCP(Model Context Protocol, AI가 외부 도구를 쓸 수 있게 연결하는 규격) 같은 프레임워크들이 쏟아지면서 '자율 에이전트'를 프로덕션에 붙이는 팀이 급격히 늘었다. 문제는 에이전트가 '무엇을 할 수 있는지'는 발전했지만, '무엇을 해선 안 되는지'를 통제하는 도구는 거의 없다는 점이다. cordum-io/cordum은 바로 그 공백을 겨냥해 만들어진 오픈소스 프로젝트다. Go 언어로 작성됐고, 스스로를 '오픈 에이전트 컨트롤 플레인(open agent control plane)'이라 부른다. 에이전트가 어떤 행동을 실행하기 전에 정책을 검사하고, 필요하면 사람의 승인을 받고, 모든 과정을 감사 로그(audit trail, 누가 언제 무엇을 했는지 기록)로 남긴다.

The Story

실제 시나리오를 하나 상상해보자. 고객 지원 자동화를 위해 CrewAI 에이전트를 운영 중인 팀이 있다. 에이전트가 환불 요청을 처리하다가 '5만 원 이상 환불은 자동 승인' 같은 정책 없이 마음대로 결정을 내릴 수 있는 상황이다. cordum을 붙이면, 에이전트가 특정 액션(환불 API 호출)을 실행하기 직전에 사전 정의된 정책을 확인한다. 금액이 임계값을 넘으면 자동으로 '승인 게이트(approval gate)'가 열려 담당자에게 알림이 간다. 담당자가 승인하면 그때 실행된다. 이 모든 흐름은 감사 로그에 타임스탬프와 함께 남는다. LangChain이든 CrewAI든 MCP든 프레임워크를 바꿀 필요 없이, cordum이 중간에서 통제층 역할을 한다. 현재 스타 466개로 아직 대형 레포는 아니지만, AI 거버넌스(AI 시스템을 안전하게 관리하는 체계)라는 키워드가 기업 도입 단계에서 급격히 중요해지는 타이밍과 맞물려 있다. GitHub 토픽에 ai-safety, ai-governance, audit-trail이 함께 달려 있는 레포는 아직 많지 않다.

The Insight

에이전트 '만드는' 도구는 넘치지만, 에이전트 '통제하는' 도구는 이제 막 시장이 열리고 있다 — cordum은 그 첫 번째 오픈소스 시도 중 하나다.

솔직히 말하면, 이 레포가 언제 뜰지 정확히 맞출 자신은 없다. 하지만 기업들이 AI 에이전트를 실제 업무에 붙이기 시작하는 순간, '통제 레이어'에 대한 수요는 급격히 올라올 것이고, 그 때 cordum은 이미 준비돼 있을 가능성이 높다. 다음 달 워치리스트에 올려두기 딱 좋은 레포다. AI 에이전트 트렌드를 계속 따라가고 싶다면 teum.io/stories에서 이어서 확인할 수 있다.

에이전트 '만드는' 도구는 넘치지만, 에이전트 '통제하는' 도구는 이제 막 시장이 열리고 있다.