Insight - 데이터 고갈 이후의 AI: 추론 중심의 초지능 시대가 온다

세계적인 AI 전문가이자 오픈AI의 공동 창립자였던 일리야 수츠케버(SSI 창립자)가 인공지능(AI) 개발의 새로운 전환점을 예고했다. 지난 12월 13일 캐나다 밴쿠버에서 열린 '뉴립스(NeurIPS)' 컨퍼런스에서 그는 "우리가 아는 사전 훈련 시대는 끝났다"고 선언하며, AI의 미래가 추론 중심으로 이동할 것이라고 전망했다.

반응형

---

스케일링의 한계: 데이터 고갈

수츠케버 창립자는 기존 AI 모델의 발전을 이끌었던 스케일링 법칙이 끝나가고 있다고 설명했다. 이유는 간단하다: 데이터의 고갈. 그는 "컴퓨팅 파워는 계속해서 성장하고 있지만, 데이터는 그렇지 않다"며, "인터넷은 유일한 데이터 소스이고, 우리는 이미 최고 데이터를 모두 사용했다"고 강조했다. 많은 전문가들 역시 인터넷 기반 데이터가 앞으로 2년 내 학습에 활용될 만큼 충분하지 않을 것이라고 경고하고 있다.

그러나 수츠케버는 여기서 한 걸음 더 나아가, 현재 이용 가능한 고품질 데이터는 이미 바닥을 드러냈다고 단언했다. 즉, 데이터 부족 문제가 AI 발전의 가장 큰 제약 요인으로 떠오르고 있다는 것이다.

추론이 열어갈 새로운 AI 시대

수츠케버 창립자는 차세대 AI 개발이 이제 '추론'과 '에이전트' 중심으로 전환될 것이라고 주장했다. 특히, 추론 능력의 향상은 AI를 단순한 패턴 분석 도구에서 벗어나 인간과 비슷한 사고 과정을 갖춘 존재로 발전시킬 수 있다는 것이다.

그는 "AI가 에이전트와 추론 능력을 동시에 갖춘다면, 더 깊은 이해와 자의식(self-awareness)까지 가능할 것"이라며, 이는 인간이 예측할 수 없는 수준의 AI 발전을 의미한다고 강조했다. 예를 들어, 현재 AI는 주어진 데이터 안에서 패턴을 찾아내는 데 그치지만, 추론 중심의 AI는 복잡한 문제를 단계별로 해결하며 스스로 새로운 결론에 도달할 수 있다.

수츠케버는 이를 인간 최고 체스 선수와 AI 체스 엔진의 관계에 비유했다. "AI 체스 엔진이 왜 특정 수를 두는지 인간이 이해하기 어려운 것처럼, 추론 기반 AI는 인간이 도저히 예측할 수 없는 수준의 결정을 내릴 것"이라고 설명했다.

초지능과 안전성: 새로운 도전

이러한 발전은 기대와 동시에 우려를 낳고 있다. 수츠케버 창립자의 새로운 회사 SSI(Superintelligence Safety Initiative)는 이러한 우려를 해결하기 위해 '초지능 안전성(superintelligence safety)' 연구에 중점을 두고 있다. 그는 AI가 제한된 데이터로부터 혼란 없이 사물을 이해할 수 있는 방법을 개발하며, 이로 인해 데이터 부족 문제도 해결할 수 있다고 밝혔다.

또한 그는 AI 스케일링 법칙을 진화 생물학과 비교하며, AI의 발전 가능성을 강조했다. 대부분의 포유류는 신체와 두뇌 크기의 비례 관계를 따르지만, 인류의 조상은 이 법칙을 벗어나 두뇌 크기를 급격히 확장했다는 것이다. 이와 마찬가지로, AI도 기존 사전 훈련 방식을 넘어 새로운 확장 방식으로 급속히 발전할 수 있다고 주장했다.

"산꼭대기 너머의 새로운 패러다임"

수츠케버 창립자는 이미 지난 9월에도 로이터와의 인터뷰를 통해 기존 AI 스케일링의 한계를 언급하며, "기존 작업과는 다른 새로운 산을 발견했다"고 말했다. 그는 이 산꼭대기에 오르면 AI 개발의 패러다임이 바뀔 것이며, 우리가 알던 모든 것이 변할 것이라고 덧붙였다.

그는 오픈AI 재직 시절 '테스트-시간 계산(test-time computation)' 이론을 발전시키며, 오늘날의 LLM 기반 모델 개발에 크게 기여한 인물이다. 2015년 오픈AI 창립 멤버로 합류한 후 GPT 모델 개발을 주도하며 AI 발전의 핵심 역할을 해왔다. 지난 5월 오픈AI를 떠난 후 오랜만에 공식 석상에 모습을 드러낸 그의 강연은 큰 주목을 받았고, 수천 명의 청중이 몰렸다.

---

728x90

AI의 다음 장을 열 준비

데이터 고갈로 인해 기존 스케일링 법칙은 막을 내렸지만, 이는 오히려 새로운 AI 시대를 여는 계기가 될 것이다. 추론 중심의 접근법은 AI가 더욱 인간적인 사고와 문제 해결 능력을 갖추는 데 중요한 역할을 할 전망이다. 동시에 초지능 안전성 확보라는 도전 과제도 부상하고 있다.

일리야 수츠케버의 비전이 현실화된다면, 우리는 예상치 못한 방식으로 인간을 넘어서는 AI의 시대를 목격하게 될 것이다. 그리고 그 변화의 중심에는 "추론"이라는 새로운 패러다임이 자리잡고 있을 것이다.