시장 성장 속도가 규제 일정을 앞질렀다
2026년 10월, 인공지능(AI) 산업의 논점은 더 빠른 모델을 누가 내놓느냐에서 벗어나 기계가 실제 업무를 어디까지 실행하게 둘 것이냐로 이동했다. 브루킹스 연구소(Brookings Institution)가 2026년 10월 12일 공개한 AI 에이전트 거버넌스 보고서는 AI 에이전트의 성능과 시장 확대 속도가 기존 규제 설계보다 빠르다는 점을 실증적으로 드러냈다.
이는 기술 윤리 논쟁에 그치지 않는다. 기업의 제품 전략, 보험과 감사 시장, 소프트웨어 투자 기준을 동시에 흔드는 산업 변수다. 핵심은 간명하다.
AI 에이전트는 답변을 생성하는 도구가 아니라 업무를 수행하는 시스템으로 변했다. 브루킹스 보고서에 따르면 2025년 AI 에이전트의 컴퓨터 작업 정확도는 12%에서 66.3%로 뛰었고, 인간 평균 정확도와의 격차는 6점에 그쳤다.
66.3%라는 수치는 아직 완전한 대체를 뜻하지 않지만, 기업 현장에서는 이미 비용 절감과 운영 위험을 함께 계산해야 하는 수준에 이르렀다는 의미를 갖는다. 남은 오류 비율은 단순한 기술적 미완성이 아니라 계약 분쟁과 보안 사고로 이어질 수 있는 운영 리스크다.
프리시던스 리서치(Precedence Research)가 제시한 시장 전망은 더 공격적이다. 브루킹스 보고서가 인용한 전망에 따르면 AI 에이전트 시장은 2025년 80억 달러에서 2034년 1,990억 달러로 커질 것으로 예측됐다. 9년 사이 24배 이상 확대되는 경로다.
본지 분석으로는 이 수치가 말하는 변화의 본질은 단순한 소프트웨어 매출 증가가 아니라, 업무 자동화 예산이 고객관계관리(CRM), 전사적자원관리(ERP), 보안 운영, 개발 도구 전반으로 재배치되는 과정이다. 기존 인공지능(AI) 거버넌스(governance)는 대체로 모델이 어떤 답을 냈는지 살피는 방식에 머물렀다.
광고
하지만 AI 에이전트는 이메일을 보내고, 코드를 고치고, 예약을 변경하고, 기업 내부 시스템에 접근하는 구조로 설계될 수 있다. 브루킹스 보고서는 이 전환을 '정적 모델 감독에서 역동적 시스템 거버넌스로의 이행'으로 규정했다. 이때 기업이 마주하는 질문은 모델의 표현 오류보다 시스템 행위의 승인 경로와 기록 보존이다.
누가 권한을 줬고, 어떤 조건에서 실행했으며, 실패했을 때 어떤 부서가 손실을 부담하는지가 사업 리스크의 중심으로 올라온다. 유럽연합(EU) 인공지능법(AI Act)은 위험도에 따라 AI 시스템을 나누고 고위험 영역에 의무를 부과하는 규제 틀을 만들었다.
그러나 브루킹스 보고서는 이 법이 에이전트형 AI 시스템이 폭발적으로 커지기 전에 협상됐다는 점을 명시적으로 지적했다. 법의 전제는 인간의 의사결정을 보조하는 AI에 가깝다.
독립적으로 판단하고 실행하는 시스템이 늘어날수록 규제 문구와 실제 제품 구조 사이의 틈은 넓어진다.
기업 전략은 모델 성능에서 책임 체계로 이동한다
일정도 기업 전략에 직접 영향을 준다. 디지털 옴니버스(Digital Omnibus) 법안은 고위험 AI 시스템에 대한 의무 적용 시점을 독립형 시스템은 2027년 12월, 규제 제품에 내장된 AI는 2028년 8월로 미뤘다. 이는 기업에 시간을 벌어주는 조치처럼 보일 수 있다.
그러나 투자자 관점에서는 반대로 해석할 여지가 크다. 제품 출시 후 몇 년이 지나 규제 의무가 본격화하면, 기록 관리와 책임 추적 기능을 뒤늦게 붙인 기업이 더 큰 전환 비용을 떠안는다. 초기 설계 단계에서 감사 기능을 내장한 기업과 그렇지 않은 기업의 격차는 규제 시행 시점에 한꺼번에 드러날 가능성이 높다.
본지 분석으로는 AI 에이전트 경쟁의 다음 축은 모델 크기보다 운영 통제 능력이다. 기업 고객은 앞으로 성능 지표만으로 구매를 결정하기 어렵다.
광고
에이전트가 어느 데이터에 접근했는지, 어떤 명령을 실행했는지, 인간 관리자가 언제 개입했는지 확인할 수 있어야 한다. 감사 로그, 권한 분리, 실행 전 승인, 사후 복구 절차를 제품 안에 넣지 못한 공급사는 대기업과 공공 부문 영업에서 구조적으로 불리한 위치에 놓인다. 이 변화는 한국 정보기술(IT) 기업에도 곧장 연결된다.
국내 소프트웨어 기업과 클라우드 사업자는 AI 에이전트를 고객 상담, 사내 문서 처리, 개발 보조, 보안 관제에 붙이는 전략을 검토할 수밖에 없다. 문제는 성능 경쟁만 따라가면 규제와 계약 책임을 뒤에서 맞게 된다는 점이다. 해외 시장을 노리는 기업이라면 유럽연합(EU) 규제 일정, 국제표준화기구(ISO)와 국제전기기술위원회(IEC)의 AI 관리 시스템 표준인 ISO/IEC 42001, 싱가포르의 에이전트 AI 거버넌스 프레임워크를 제품 설계 단계에서 함께 반영해야 한다.
반론도 있다. 규제가 빨라지면 신생 기업의 실험이 위축되고, 대형 플랫폼만 준법 비용을 감당해 시장을 장악할 수 있다는 주장이다. 이 우려는 근거가 없지 않다.
다만 AI 에이전트의 경우 문제는 출시 속도보다 실행 권한의 깊이에 있다. 사람의 결정을 돕는 챗봇과 달리 계정 접근, 결제 요청, 코드 변경 같은 행위를 수행하는 시스템은 작은 오류도 고객 손실과 보안 사고로 이어진다.
따라서 최소한의 추적 가능성과 인간 감독 장치는 성장의 걸림돌이 아니라, 기업 고객이 구매 결정을 내리기 위한 전제 조건에 가깝다.
투자 판단의 새 기준은 통제 가능성이다
산업 생태계 측면에서도 재편의 폭은 상당하다. 법률 자문, 보안 감사, 클라우드 관제, 모델 평가, 사이버보험 시장이 AI 에이전트 확산과 함께 구조적으로 바뀔 수 있다. 지금까지 생성형 AI 도입 컨설팅이 업무 적용 사례를 찾는 데 집중했다면, 다음 단계의 수요는 에이전트가 실행한 행위를 증명하고 책임을 배분하는 장치로 이동한다.
광고
이는 대형 플랫폼 기업에는 통합 거버넌스 제품을 팔 기회가 되고, 전문 보안 기업에는 에이전트 행위 모니터링이라는 새 시장을 여는 계기가 된다. 투자자에게도 기준 변화가 필요하다. 2025년 80억 달러에서 2034년 1,990억 달러로 커지는 시장 전망은 매력적인 숫자지만, 모든 AI 에이전트 기업이 같은 가치를 인정받지는 못한다.
본지 분석으로는 장기적으로 높은 평가를 받을 기업은 작업 성공률을 끌어올리는 회사만이 아니라, 실패했을 때 원인과 책임을 설명할 수 있는 회사를 포함한다. 정확도 66.3%가 인간 평균에 가까워졌다는 사실은 시장 개화를 뜻하지만, 남은 오류 비율이 곧 운영 리스크라는 사실도 동시에 보여준다. 브루킹스 보고서가 제기한 문제의식은 규제가 기술을 따라가지 못한다는 익숙한 문장으로 축소하기 어렵다.
진짜 변화는 기업의 경쟁 조건이 바뀐다는 데 있다. AI 에이전트 시대의 우위는 더 많은 일을 자동화하는 데서 끝나지 않는다.
어떤 일을 자동화하지 않을지, 어떤 순간 사람에게 되돌릴지, 어떤 기록을 남길지 정교하게 설계한 기업이 시장의 신뢰를 가져간다. 한국 기업도 이제 기능 시연보다 책임 구조를 먼저 설명할 수 있어야 한다. 다음 투자와 구매 판단의 질문은 성능이 충분한가가 아니라, 이 시스템이 실행한 행위를 기업이 감당할 수 있는가에 맞춰질 것이다.
※ 이 기사는 브루킹스 연구소(Brookings Institution)의 2026년 10월 12일자 AI 에이전트 거버넌스 보고서를 참조하여 작성했다.
FAQ
Q. AI 에이전트와 일반 생성형 AI 서비스의 차이는 무엇인가?
A. 일반 생성형 인공지능(AI) 서비스는 주로 사용자의 질문에 답하거나 문서, 이미지, 코드 같은 결과물을 만든다. AI 에이전트(AI agent)는 여기서 한 걸음 더 나아가 목표를 받은 뒤 여러 단계를 계획하고 외부 시스템에서 실제 작업을 실행한다. 이 차이 때문에 기업은 출력 품질만 볼 수 없고 권한 관리, 실행 기록, 승인 절차를 함께 따져야 한다. 브루킹스 연구소 보고서는 이 전환을 '모델이 무엇을 말했는가'에서 '시스템이 무엇을 했는가'로의 거버넌스 이행으로 규정했다. 공식 규제 체계가 완전히 정리되기 전이라도 내부 통제 기준을 먼저 세운 기업이 도입 리스크를 줄일 가능성이 크다.
Q. 한국 기업은 지금 어떤 준비를 해야 하나?
A. 한국 기업은 AI 에이전트를 도입하기 전에 업무별 실행 권한을 나누고, 사람이 반드시 승인해야 하는 구간을 정해야 한다. 고객 정보, 결제, 코드 배포, 보안 설정처럼 손실이 큰 영역은 초기부터 감사 로그와 복구 절차를 붙이는 편이 안전하다. 유럽연합(EU) 인공지능법(AI Act)의 의무 적용 일정이 독립형 시스템 기준 2027년 12월, 내장형 AI 기준 2028년 8월로 나뉘어 있다는 점도 해외 사업 전략에 반영해야 한다. 단기 성능 검증과 별개로 ISO/IEC 42001 같은 관리 체계 검토가 조달과 투자 심사에서 더 큰 비중을 차지할 전망이다.
Q. 투자자는 AI 에이전트 기업을 평가할 때 무엇을 봐야 하나?
A. 시장 성장률만 보고 접근하면 위험을 놓칠 수 있다. 브루킹스 보고서가 인용한 전망처럼 AI 에이전트 시장은 2025년 80억 달러에서 2034년 1,990억 달러로 커질 것으로 예측됐지만, 규제 대응 능력은 기업별로 크게 갈린다. 투자자는 정확도와 고객 수 외에 실행 권한 통제, 감사 가능성, 보안 사고 대응 절차를 확인해야 한다. 장기적으로는 성능과 책임 구조를 함께 제품화한 기업이 대형 고객 계약에서 유리한 위치를 차지할 가능성이 크다.
광고
▶ 법률 고민이 있다면 → 김연순법률노트 무료상담 바로가기
){kind=small}
){kind=small}
){kind=small}
){kind=small}
