AI에 대한 기업의 자신감이 6개월 만에 40%에서 23%로 하락한 이유

AI에 대한 기업의 자신감이 오히려 낮아지고 있습니다. JumpCloud가 미국과 영국의 IT 리더 800명을 대상으로 진행한 조사에 따르면, AI 배포 성숙도를 높게 평가한 조직의 비율은 6개월 전 40%에서 현재 23%로 감소했습니다.

겉으로 보면 AI에 대한 신뢰가 떨어지고 있는 것처럼 보입니다. 하지만 조사 결과를 자세히 살펴보면 의미가 조금 다릅니다. AI 도입을 실제 운영 환경으로 확대하고 있는 조직일수록 자신들의 AI 성숙도를 더 낮게 평가하고 있기 때문입니다.

파일럿 환경에서는 쉽게 보이지 않았던 문제가 실제 운영 단계에서 드러나기 시작한 것입니다. AI 에이전트가 실제 시스템에 접근하고 업무를 수행하면서 기업은 AI의 기능뿐 아니라 에이전트의 접근권한, ID 관리, 책임성, 거버넌스까지 함께 관리해야 한다는 사실을 마주하고 있습니다.

이번 조사에서 나타난 변화는 AI 도입이 후퇴하고 있다는 의미가 아닙니다. 오히려 AI를 실제 업무에 적용하면서 기업이 AI 운영에 필요한 조건을 보다 현실적으로 파악하기 시작했다는 데 의미가 있습니다.

반응형

AI에 대한 자신감은 낮아졌지만 도입 확대 계획은 여전히 높다

AI 성숙도에 대한 자신감은 6개월 만에 40%에서 23%로 떨어졌습니다.

하지만 같은 조사에서 향후 6~24개월 동안 IT 운영에서 AI 활용을 확대할 계획이라고 답한 조직은 84%에 달했습니다.

두 수치만 놓고 보면 다소 모순적으로 보입니다. AI에 대한 자신감은 낮아졌는데 AI 활용은 오히려 확대하려는 조직이 많기 때문입니다.

자료에서는 이를 AI에 대한 신뢰 하락이 아니라 실제 운영을 경험하면서 AI 도입에 필요한 조건을 보다 정확하게 인식하게 된 결과로 해석합니다.

AI를 도입하지 않았거나 제한적인 파일럿만 진행할 때는 AI 운영의 복잡성을 모두 확인하기 어렵습니다. 반면 실제 업무 환경에서 AI 에이전트를 운영하면 상황이 달라집니다.

AI 에이전트가 실제 시스템에 접근하고, 업무에 영향을 주는 의사결정을 내리고, 사람의 직접적인 개입 없이 지속적으로 작동할 수 있기 때문입니다.

결국 기업이 AI를 더 많이 사용할수록 단순히 AI를 배포하는 것만으로는 충분하지 않다는 사실이 명확해지고 있습니다.

AI 파일럿과 실제 운영 사이에는 큰 차이가 있다

AI 파일럿은 일반적으로 제한된 환경에서 특정 작업을 수행하도록 AI 에이전트를 구성하는 방식입니다.

통제된 환경에서는 AI가 정해진 작업을 정상적으로 수행하는지만 확인하면 됩니다. 하지만 AI가 실제 운영 환경에 들어가면 관리해야 할 대상이 크게 늘어납니다.

실제 운영 환경의 AI 에이전트는 다음과 같은 상황에 놓일 수 있습니다.

• 실제 시스템에 접근
• 실제 업무 흐름에 영향을 주는 작업 수행
• 지속적인 업무 수행
• 사람의 직접적인 개입 없이 의사결정 수행
• 다양한 시스템 및 리소스에 대한 접근

따라서 파일럿 단계에서 AI 에이전트를 실행하기 위해 구축한 환경만으로는 실제 운영에 필요한 거버넌스를 충분히 확보하기 어렵습니다.

기업은 AI 에이전트가 운영되기 시작하는 순간 새로운 질문을 마주하게 됩니다.

현재 환경에서 실행되고 있는 모든 AI 에이전트를 확인할 수 있을까요?

각 AI 에이전트가 어떤 시스템과 데이터에 접근할 수 있는지 알고 있을까요?

AI 에이전트가 예상하지 못한 행동을 했다면 이를 얼마나 빠르게 파악할 수 있을까요?

자료에서는 실제 운영에 들어간 조직들이 바로 이러한 문제를 경험하면서 자신들의 AI 성숙도에 대한 평가를 조정하고 있다고 설명합니다.

즉, 문제는 AI를 배포하는 데 있지 않습니다. AI를 실제 환경에서 지속적으로 관리할 수 있는 기반을 갖추는 것이 더 어려운 과제가 되고 있습니다.

AI 도입 속도보다 중요한 것은 거버넌스다

자료에서 지적하는 핵심 문제는 AI 배포 속도와 이를 관리하기 위한 통제 체계 사이의 격차입니다.

AI 활용은 빠르게 확대되고 있지만, 그에 맞춰 거버넌스 체계가 함께 구축되지 못하고 있다는 것입니다.

이러한 격차가 커질수록 AI 에이전트에 대한 가시성과 통제력이 떨어질 수 있습니다.

자료에서는 AI 거버넌스 격차를 줄이고 있는 조직에서 몇 가지 공통적인 특징을 확인했다고 설명합니다.

첫 번째는 IT 환경을 통합하는 것입니다.

새로운 문제가 발생할 때마다 각각의 도구를 추가하면 관리해야 할 플랫폼도 함께 증가합니다. 플랫폼이 많아질수록 AI 에이전트의 ID, 접근권한, 책임성을 관리해야 하는 영역 역시 늘어납니다.

두 번째는 AI 에이전트를 단순한 백그라운드 프로세스가 아니라 관리해야 할 ID로 바라보는 것입니다.

AI 에이전트가 실제 시스템에 접근하고 업무를 수행한다면, 누가 해당 에이전트를 관리하는지, 어떤 권한을 가지고 있는지, 어떤 목적으로 운영되는지를 파악할 수 있어야 한다는 관점입니다.

세 번째는 AI가 얼마나 많이 배포됐는지만 확인하는 것이 아니라 실제 결과를 측정하는 것입니다.

AI 에이전트의 숫자를 늘리는 것과 AI가 조직에 실질적인 결과를 만들어내는 것은 같은 의미가 아니기 때문입니다.

AI 시대의 새로운 과제, 비인간 ID 관리

이번 조사에서 특히 주목할 부분은 비인간 ID(Non-human Identity) 거버넌스입니다.

자료에 따르면 비인간 ID 거버넌스는 조사된 AI 보안 관행 가운데 가장 낮은 수준으로 도입된 항목으로, 이를 적용하고 있는 조직은 21%에 그쳤습니다.

반면 83%의 조직에서는 비인간 ID가 인간 사용자보다 많은 것으로 조사됐습니다.

여기서 비인간 ID는 사람처럼 직접 업무를 수행하는 사용자가 아니라 시스템과 서비스, AI 에이전트와 같은 비인간 주체가 시스템에 접근하기 위해 사용하는 ID를 의미합니다.

문제는 이러한 ID가 인간 직원에게 적용되는 것과 같은 수준의 관리 체계를 갖추지 못한 경우가 많다는 점입니다.

예를 들어 인간 직원에게는 일반적으로 다음과 같은 관리 체계가 존재합니다.

• 누가 사용하는지 확인할 수 있는 기록
• 책임을 지는 담당자
• 접근 가능한 범위
• 업무 목적
• 더 이상 필요하지 않을 때 권한을 종료하는 절차

하지만 자료에서는 많은 비인간 ID가 이러한 관리 구조 없이 존재한다고 설명합니다.

명확한 소유자가 없고, 접근 범위가 정의되지 않으며, 목적이 끝난 이후에도 종료되지 않는 ID가 계속 시스템에 남을 수 있다는 것입니다.

‘Zombie Agents’가 AI 시대의 새로운 위험이 되는 이유

JumpCloud는 이러한 문제를 ‘Zombie Agents’라는 개념으로 설명합니다.

Zombie Agents는 더 이상 명확한 목적이나 관리 주체가 없는 상태에서도 계속 실행되며 시스템에 접근하는 AI 에이전트를 의미합니다.

이 문제는 단순히 사용하지 않는 계정이 남아 있다는 수준에서 끝나지 않습니다.

AI 에이전트가 실제 시스템에 접근할 수 있고 지속적으로 업무를 수행한다면, 해당 에이전트가 어떤 권한을 가지고 있는지, 누가 관리하는지, 언제 더 이상 필요하지 않게 됐는지를 파악할 수 있어야 합니다.

특히 자료에서는 AI 에이전트가 인간보다 빠른 속도로 작동하고 여러 부서에서 사용될 수 있다는 점에서 이 문제를 AI 시대의 서비스 계정 문제로 설명합니다.

결국 핵심은 AI 에이전트의 자율성이 높아질수록 그에 맞는 책임 체계도 함께 만들어야 한다는 것입니다.

사람이 업무를 수행할 때는 누가 어떤 행동을 했는지 확인할 수 있는 책임 구조가 존재합니다.

하지만 AI 에이전트가 자율적으로 작업을 수행한다면 이러한 책임 구조가 자동으로 만들어지는 것은 아닙니다.

따라서 AI 에이전트가 어떤 권한으로 어떤 행동을 수행할 수 있는지, 그리고 문제가 발생했을 때 이를 추적하고 관리할 수 있는 체계를 의도적으로 구축해야 합니다.

AI의 핵심 문제는 기능보다 책임성이 되고 있다

이번 조사에서 나타난 중요한 관점은 기업 AI의 가장 어려운 문제가 반드시 AI의 기능이나 성능에 있는 것은 아니라는 점입니다.

실제 운영 환경에서는 책임성(Accountability)이 중요한 과제로 떠오르고 있습니다.

AI 에이전트가 실제 업무를 수행하면서 기업은 다음과 같은 문제를 관리해야 합니다.

AI 에이전트가 어디에 존재하는가?

어떤 시스템에 접근할 수 있는가?

어떤 권한을 가지고 있는가?

누가 해당 에이전트를 관리하는가?

AI 에이전트가 예상하지 못한 행동을 했을 때 얼마나 빨리 확인할 수 있는가?

더 이상 필요하지 않은 AI 에이전트는 어떻게 관리할 것인가?

이러한 질문에 답할 수 없다면 AI 에이전트를 확대하는 것 자체가 조직의 관리 부담으로 이어질 수 있습니다.

반대로 AI 에이전트를 인간 사용자나 디바이스와 마찬가지로 관리해야 하는 대상으로 바라보고, ID와 접근권한, 책임성을 함께 관리할 수 있다면 AI 확대를 위한 기반을 마련할 수 있습니다.

AI 성숙도가 높은 조직은 무엇이 다른가

자료에서는 AI 성숙도 모델에서 상위 수준에 있는 조직이 평균적인 조직보다 AI 에이전트 확대에 장애가 없다고 답할 가능성이 5배 높았다고 설명합니다.

이는 AI를 더 조심스럽게 사용하는 조직이 반드시 더 높은 성숙도를 가진다는 의미가 아닙니다.

오히려 자료가 보여주는 방향은 반대입니다.

AI를 적극적으로 확대하면서도 이를 뒷받침할 기반을 함께 구축한 조직이 AI 활용에 대해 더 높은 자신감을 갖는다는 것입니다.

이러한 조직은 AI 에이전트를 단순히 배포하는 데 그치지 않습니다.

AI 에이전트와 사람, 디바이스를 함께 고려하는 ID 인프라를 구축하고, 거버넌스가 적용되는 IT 환경을 통합하며, AI가 얼마나 배포됐는지가 아니라 실제로 어떤 결과를 만들어내고 있는지를 측정합니다.

결국 AI에 대한 자신감은 단순한 기대에서 만들어지는 것이 아니라 AI를 제대로 관리할 수 있다는 기반에서 만들어진다는 의미입니다.

AI 자신감 하락이 반드시 부정적인 신호는 아니다

AI 성숙도에 대한 자신감이 40%에서 23%로 떨어졌다는 수치만 보면 AI 시장이 후퇴하고 있다고 생각하기 쉽습니다.

하지만 이번 조사에서 중요한 것은 자신감이 낮아진 조직의 특성입니다.

AI 에이전트를 실제 운영 환경에서 활용하고 있는 조직일수록 자신들의 AI 성숙도를 다시 평가하고 있기 때문입니다.

파일럿 단계에서는 보이지 않았던 문제를 실제 운영을 통해 확인하고, 자신들이 구축한 환경에서 부족한 부분을 발견하고 있는 것입니다.

이러한 변화는 오히려 장기적인 AI 도입을 위해 필요한 과정으로 볼 수 있습니다.

처음부터 모든 것이 준비돼 있다고 생각하는 것보다 실제 운영 과정에서 부족한 부분을 인정하고 기준을 다시 세우는 것이 AI를 책임 있게 확대하기 위한 출발점이 될 수 있기 때문입니다.

기업의 AI 도입에서 중요한 것은 ‘얼마나 많이’가 아니다

이번 자료가 기업에 전달하는 핵심 메시지는 AI를 얼마나 많이 배포했는지가 AI 성숙도를 결정하는 전부가 아니라는 점입니다.

AI 에이전트를 실제 운영 환경에서 활용하려면 그에 맞는 관리 기반이 필요합니다.

특히 앞으로 AI 활용을 확대하려는 조직이라면 AI 에이전트의 ID와 접근권한, 관리 주체, 책임성, 거버넌스 등을 함께 고려해야 합니다.

자료에서는 향후 6~24개월 동안 AI를 IT 운영에 확대하려는 조직이 84%에 이른다고 설명합니다.

AI 활용 확대 자체는 계속될 가능성이 높지만, 실제 운영에서 중요한 것은 배포 숫자를 늘리는 것이 아니라 AI가 안정적으로 운영될 수 있는 기반을 갖추는 것입니다.

728x90

AI에 대한 기업의 자신감이 6개월 만에 40%에서 23%로 하락했습니다. 하지만 이를 단순한 AI 신뢰 하락으로 해석하기는 어렵습니다.

오히려 실제 운영 환경에 AI 에이전트를 투입한 기업들이 파일럿 단계에서는 발견하기 어려웠던 문제를 직접 경험하면서 AI 성숙도에 대한 기준을 높이고 있는 것으로 볼 수 있습니다.

특히 이번 자료에서 주목해야 할 부분은 AI 에이전트의 ID와 접근권한, 비인간 ID 거버넌스, 책임성입니다.

비인간 ID가 인간 사용자보다 많은 조직이 83%에 달하는 반면, 비인간 ID 거버넌스를 적용한 조직은 21%에 불과합니다. 이 격차는 AI 에이전트가 확대될수록 기업이 해결해야 할 중요한 관리 과제가 될 수 있습니다.

결국 AI 시대의 경쟁력은 AI를 얼마나 빠르게 도입하느냐만으로 결정되지 않습니다.

실제 운영 환경에서 AI 에이전트를 파악하고, 필요한 권한을 관리하고, 책임성을 확보하며, 목적이 끝난 에이전트를 적절하게 관리할 수 있는 기반이 함께 필요합니다.

이번 조사에서 나타난 자신감 하락은 AI 도입의 실패를 의미하기보다 기업들이 AI 운영의 현실을 보다 정확하게 이해하기 시작했다는 신호로 볼 수 있습니다.

AI를 제대로 활용하기 위해서는 AI에 대한 기대만 높이는 것이 아니라, AI를 책임 있게 운영할 수 있는 기준과 관리 체계를 함께 높이는 것이 중요합니다.

300x250