AI의 다음 단계, 추론 시간 컴퓨팅과 월드 모델

차세대 AI의 핵심은 단순히 더 큰 모델을 학습시키는 데 있지 않다. 앞으로의 경쟁은 답변을 생성하기 전에 얼마나 오래, 어떤 방식으로 추론하고, 외부 세계를 얼마나 정확히 시뮬레이션할 수 있는가에 달려 있다. 이 흐름을 이해하려면 추론 시간 컴퓨팅, 월드 모델, 에이전트 실행 구조를 함께 살펴봐야 한다.

이 분야에서는 추론 시간 컴퓨팅을 inference-time compute, 추론에 특화된 모델을 reasoning model, 월드 모델을 world model, 에이전트 중심의 시스템을 agentic AI라고 부른다. OpenAI의 o1처럼 추론 모델로 소개된 사례, Google DeepMind의 Genie처럼 월드 모델 연구로 언급되는 사례, Meta의 V-JEPA처럼 영상과 환경의 변화를 예측하려는 연구는 이러한 흐름을 보여주는 대표적인 사례로 볼 수 있다.

거대 언어 모델의 한계는 지식보다 추론에 있다

현재의 대규모 언어 모델은 방대한 텍스트와 코드에서 패턴을 학습한다. 사용자의 질문에 대한 답변도 내부적으로는 다음 토큰이 등장할 확률을 계산하는 방식으로 생성된다.

이 구조는 문장 작성과 정보 요약에는 강하지만, 다음과 같은 작업에서는 취약점이 드러난다.

• 긴 계획을 여러 단계로 나누기
• 중간 계산 결과를 검증하기
• 실행 결과에 따라 전략을 수정하기
• 관찰하지 못한 상황을 가정하고 시뮬레이션하기
• 처음 세운 계획이 틀렸을 때 되돌아가기

문제는 모델이 항상 같은 방식으로 답한다는 데 있다. 어려운 문제와 쉬운 문제를 구분해 계산량을 다르게 배분하지 못하면, 단순한 질문에는 불필요하게 많은 자원을 사용하고 복잡한 문제에는 충분한 검증을 하지 못한다.

추론 시간 컴퓨팅이란 무엇인가

추론 시간 컴퓨팅, 즉 inference-time compute는 모델을 학습한 뒤 실제 답변을 생성하는 단계에서 추가 계산을 사용하는 접근이다. 기존 방식에서는 입력이 들어오면 곧바로 답변을 생성했다. 반면 추론 시간 컴퓨팅은 답변 전후에 여러 후보를 만들고, 비교하고, 검증하는 과정을 삽입한다.

이와 관련해 reasoning model 또는 추론 모델이라는 표현도 사용된다. 이는 단순히 다음 토큰을 빠르게 생성하는 모델보다 문제를 여러 단계로 나누고, 중간 결과를 검토하며, 복잡한 문제에 더 많은 계산을 배분하는 모델을 가리키는 말이다. OpenAI의 o1은 이러한 추론 모델 흐름을 보여주는 사례로 소개됐다.

대표적인 흐름은 다음과 같다.

1. 문제를 여러 하위 문제로 분해한다.
2. 각 하위 문제에 대한 해결 경로를 생성한다.
3. 서로 다른 경로의 결과를 비교한다.
4. 계산기, 코드 실행기, 검색 시스템 같은 도구로 검증한다.
5. 오류가 발견되면 이전 단계로 돌아가 다시 계산한다.
6. 최종 답변을 생성한다.

이 방식의 장점은 모델의 파라미터 수를 무작정 늘리지 않아도 복잡한 문제에 더 많은 연산을 집중할 수 있다는 점이다. 사람도 쉬운 질문에는 즉시 답하고, 법률 문서나 설계 문제처럼 위험도가 높은 작업에는 검토 시간을 더 쓴다. 추론 시간 컴퓨팅은 이 차이를 AI 시스템 안에 구현하려는 시도에 가깝다.

다만 계산량을 늘린다고 항상 정확도가 올라가는 것은 아니다. 모델이 잘못된 전제를 여러 번 반복하거나, 틀린 답변을 그럴듯하게 평가하면 더 긴 추론이 오히려 오류를 확대할 수 있다. 따라서 핵심은 단순한 연산량이 아니라 좋은 탐색과 신뢰할 수 있는 검증기다.

월드 모델은 언어 모델과 어떻게 다른가

언어 모델이 주로 텍스트와 코드의 규칙을 학습한다면, 월드 모델, 즉 world model은 어떤 환경이 어떻게 변화하는지를 예측하는 모델이다. 여기서 세계는 현실 공간일 수도 있고, 게임, 로봇 시뮬레이션, 소프트웨어 시스템처럼 제한된 환경일 수도 있다.

Google DeepMind의 Genie는 이미지나 영상과 같은 입력을 바탕으로 환경의 변화를 예측하고 상호작용 가능한 세계를 구성하려는 월드 모델 연구 사례로 언급된다. Meta의 V-JEPA 역시 영상 속 상황과 움직임을 직접 예측하는 방식으로 환경의 구조를 학습하려는 연구 흐름과 연결된다. 이러한 사례는 월드 모델이 단순히 지식을 저장하는 모델이 아니라, 행동 이후의 변화를 예측하는 모델이라는 점을 보여준다.

월드 모델은 다음과 같은 질문에 답하려 한다.

• 특정 행동을 하면 환경은 어떻게 변하는가?
• 현재 상태에서 가능한 다음 상태는 무엇인가?
• 관찰되지 않은 상태를 어떻게 추정할 수 있는가?
• 여러 행동 중 어떤 순서가 목표 달성에 유리한가?

예를 들어 로봇이 컵을 집으려면 단순히 “컵을 집어라”라는 명령을 이해하는 것만으로는 부족하다. 컵의 위치, 손의 접근 방향, 물체의 무게, 미끄러질 가능성, 충돌 여부를 예측해야 한다. 이때 월드 모델은 실제 행동을 하기 전에 가능한 결과를 내부적으로 시뮬레이션하는 역할을 맡을 수 있다.

에이전트 구조에서는 모델보다 루프가 중요하다

차세대 AI 에이전트는 하나의 모델이 모든 일을 처리하는 구조보다 여러 구성 요소가 반복적으로 상호작용하는 구조에 가까워질 가능성이 크다. 이런 시스템을 agentic AI 또는 에이전트형 AI라고 부르기도 한다.

이 구조에서 언어 모델은 지시를 해석하고 계획을 제안하는 역할을 한다. 실제 계산은 코드 실행기나 전문 도구가 담당할 수 있고, 외부 시스템의 상태는 관찰 모듈이 수집한다. 별도의 검증기는 계획이 목표를 충족하는지, 정책을 위반하지 않는지 확인한다.

Anthropic의 Claude처럼 대화형 모델을 외부 도구와 연결해 작업을 수행하려는 사례도 에이전트형 AI 논의와 함께 다뤄진다. 다만 실제 에이전트 시스템의 성능은 모델 이름이나 단일 기능보다 도구 호출, 상태 관리, 권한 제어, 실패 복구를 어떻게 결합하느냐에 더 크게 좌우된다.

중요한 점은 에이전트가 한 번의 출력으로 끝나지 않는다는 것이다. 행동과 관찰이 반복되는 폐쇄 루프가 필요하다. 이 루프가 안정적으로 작동하려면 다음 요소가 중요하다.

• 현재 상태를 정확히 표현하는 메모리
• 장기 계획과 단기 행동을 분리하는 계층 구조
• 실패를 감지하는 검증 모듈
• 위험한 행동을 제한하는 권한 관리
• 이전 행동을 취소하거나 복구하는 메커니즘

특히 실제 서비스에서는 모델의 지능보다 실패 복구 능력이 더 중요할 수 있다. 사용자의 파일을 삭제하거나 결제 시스템을 조작하는 에이전트는 한 번의 잘못된 판단만으로도 큰 피해를 만들 수 있기 때문이다.

학습 방식도 변화하고 있다

이러한 시스템을 만들기 위해서는 사전 학습만으로 부족하다. 사전 학습은 언어와 지식의 일반적 패턴을 익히는 데 효과적이지만, 특정 환경에서 어떤 행동이 성공적인지는 직접 학습해야 한다.

가능한 학습 방식은 여러 가지다.

시뮬레이션 기반 학습

현실에서 수많은 실패를 경험하게 하는 대신, 가상 환경에서 다양한 상황을 생성한다. 로봇 조작, 게임 플레이, 물류 최적화처럼 결과를 자동으로 평가할 수 있는 영역에서 특히 유용하다.

결과 기반 강화 학습

정답 문장 자체보다 최종 결과를 평가한다. 문제를 올바르게 풀었는지, 코드가 테스트를 통과했는지, 목표 상태에 도달했는지를 기준으로 모델을 업데이트한다.

모델 기반 계획

월드 모델이 예측한 미래 상태를 이용해 행동 순서를 고른다. 실제 행동 전에 여러 경로를 비교할 수 있다는 점에서, 시행착오 비용이 큰 환경에 적합하다.

그러나 이런 학습에는 보상 설계 문제가 따른다. 시스템이 실제 목표가 아니라 평가 지표만 편법으로 최적화할 수 있기 때문이다. 예를 들어 “작업 완료”를 빠르게 달성하는 데 집중하다가 안전 조건을 무시할 수 있다. 따라서 보상 함수 하나에 의존하기보다 규칙, 검증기, 권한 제한을 함께 설계해야 한다.

가장 어려운 문제는 장기 일관성이다

현재 AI 시스템은 짧은 작업에서는 높은 성능을 보일 수 있지만, 작업 시간이 길어질수록 오류가 누적된다. 한 단계의 작은 오판이 다음 단계의 입력이 되고, 여러 단계 뒤에는 처음 목표와 전혀 다른 결과를 만들 수 있다.

이를 해결하려면 단순한 대화 기록 이상의 메모리가 필요하다.

• 사실과 추론을 분리한 기억
• 언제 얻은 정보인지 표시하는 시간 정보
• 정보의 출처와 신뢰도
• 이미 실행한 행동의 기록
• 계획이 실패한 원인에 대한 기록

또한 모델이 자신의 불확실성을 표현할 수 있어야 한다. 확신이 낮은 상태에서 외부 시스템을 조작하는 것보다, 사람에게 승인을 요청하거나 추가 정보를 수집하는 편이 안전하다.

앞으로의 경쟁은 모델 단독 성능이 아니다

차세대 AI의 성능은 단일 모델의 벤치마크 점수만으로 설명하기 어렵다. 실제 시스템에서는 다음 요소가 함께 평가되어야 한다.

• 복잡한 목표를 끝까지 유지하는 능력
• 잘못된 계획을 감지하고 수정하는 능력
• 외부 도구를 정확히 사용하는 능력
• 계산 비용과 응답 시간을 조절하는 능력
• 실패했을 때 피해를 제한하는 능력
• 사용자가 결과를 검증할 수 있도록 근거를 남기는 능력

결국 다음 세대의 AI는 “더 많은 것을 아는 모델”에서 “상황을 이해하고, 미래를 예측하고, 행동 결과를 검증하는 시스템”으로 이동할 가능성이 높다. 그 중심에는 추론 시간 컴퓨팅이 계산 자원을 배분하고, 월드 모델이 환경 변화를 예측하며, 에이전트 루프가 계획과 행동을 연결하는 구조가 자리 잡게 된다.