월드모델 이야기를 할 때 대부분 같은 그림을 떠올린다. 로봇이 머릿속에서 다음 순간을 시뮬레이션하고, 비디오 모델이 다음 프레임을 그려내고, 자율주행차가 앞차의 움직임을 예측하는 그림. 나도 앞선 시리즈에서 그 이야기를 세 편에 걸쳐 썼다. 데이터로 동역학을 학습해서 다음 상태를 예측하는 계보, 흔히 학습형 또는 뉴럴 월드모델이라 부르는 쪽이다.
그런데 월드모델에는 계보가 하나 더 있다. 그리고 이쪽은 훨씬 오래됐고, 지금도 실패 비용이 큰 곳이라면 어디서든 돌아가고 있다. 제조의 디지털 트윈, 의료의 임상 경로, 규칙·정책 엔진, 커머스의 주문-결제-배송 상태 기계 같은 것들. 이 시스템들은 스스로를 월드모델이라 부른 적이 없다. 도메인 모델, 상태 전이 시스템, PDDL 명세 같은 이름으로 불려왔을 뿐이다.
조쉬(이주환)는 『AI 에이전트 실행 세계』에서 이 계보를 심볼릭 월드모델로 명시하고, 이 세계가 네 가지 축으로 표현된다고 정리한다.
- 무엇이 존재하는가 (엔티티·객체)
- 현재 상태는 어떠한가 (상태·속성)
- 어떤 변화가 허용되는가 (전이·행동)
- 무엇이 금지·제한되는가 (제약·정책)
이 네 축이 꽤 오래 머리에 남았다. 깔끔하기도 하지만, 뜯어볼수록 이게 단순히 네 개짜리 체크리스트가 아니라는 생각이 들어서다. 이 글은 그 네 축을 지식표현의 계보에 대고 읽어본 기록이다. 결론부터 말하면, 이 네 축은 성격이 다른 세 개의 층이고, 마지막 하나는 나머지와 아예 종류가 다르다.
1. 네 축은 한 줄로 늘어선 목록이 아니다
각 축을 형식론의 이름으로 바꿔 불러보면 계보가 드러난다.
네 축은 나란한 목록이 아니라 성격이 다른 세 층이 겹쳐 있는 구조다.
①과 ②는 온톨로지 문제다. “무엇이 존재하는가”는 사실 온톨로지라는 단어의 정의 그 자체다. 철학에서 존재론이 묻는 게 정확히 그것이고, 콰인이 “존재한다는 것은 속박변항의 값이 되는 것”이라고 정리한 것도 같은 질문이다. 전산 쪽으로 넘어오면 이건 개념과 분류 체계를 다루는 층(TBox)과 실제 개체와 그 사실을 다루는 층(ABox)으로 갈린다. 어떤 종류의 것들이 있는가, 그리고 지금 그중 무엇이 어떤 상태로 있는가.
③부터 온톨로지만으로는 부족해진다. 정적인 온톨로지는 “주문이라는 것이 있고 그것은 상태를 가진다”까지는 말해주지만 “결제 대기에서 배송 준비로 넘어갈 수 있다”는 말해주지 않는다. 변화를 다루려면 행동 형식론이 필요하다. 고전적으로는 상황 계산법이 있고, 실무에 가장 가까운 형태는 PDDL이다. PDDL에서 행동은 전제조건과 효과로 정의된다. 무엇이 참일 때 이 행동이 가능하고, 실행되면 무엇이 바뀌는가.
④는 앞의 셋과 종류가 다르다. 무결성 제약, 접근통제 정책, 그리고 논리학으로 올라가면 의무논리의 영역이다. 폰 브리크트가 1951년에 의무·허용·금지를 다루는 논리를 따로 세운 이래, 이건 “가능하다”를 다루는 논리와 별개로 발전해왔다.
여기가 이 글에서 하고 싶은 이야기의 출발점이다. ①~③은 무엇이 일어날 수 있는가를 묻고, ④는 무엇을 해도 되는가를 묻는다. 양상논리의 용어로는 앞의 셋이 알레틱 양상이고 마지막 하나가 데온틱 양상이다.
2. 관측으로는 건널 수 없는 선
이 구분이 왜 중요한가. 뉴럴 월드모델이 무엇을 배울 수 있고 무엇을 배울 수 없는지가 여기서 갈리기 때문이다.
사실에서 당위는 도출되지 않는다.
공이 떨어진다는 것, 잔고가 부족하면 결제가 실패한다는 것, 이 API가 대개 3초 안에 응답한다는 것. 전부 세계에 관한 사실이고, 충분한 관측이 있으면 학습할 수 있다. 뉴럴 월드모델이 잘하는 일이 정확히 이것이다.
그런데 이 거래를 승인해도 되는가, 이 고객정보를 조회해도 되는가, 이 환불을 사람 확인 없이 자동 처리해도 되는가. 이건 세계를 아무리 오래 관찰해도 나오지 않는다. 규범은 세계의 속성이 아니라 우리가 정한 것이기 때문이다. 관측 데이터에는 “사람들이 실제로 무엇을 했는가”가 담기지, “무엇을 했어야 했는가”는 담기지 않는다.
흄이 1739년에 지적한 그 간극이다. 사실 진술에서 당위 진술로 넘어가는 논증에는 반드시 어딘가 정당화되지 않은 도약이 끼어 있다는 것. 이 오래된 지적이 여기서 아주 실용적인 함의를 갖는다.
뉴럴 월드모델이 규범을 못 배우는 건 데이터가 모자라서가 아니다. 범주가 다른 문제라서다. 그래서 모델을 키우고 데이터를 늘려도 이 선은 넘어가지지 않는다. 스케일로 해결되는 종류의 문제가 애초에 아니다.
물론 반론이 가능하다. 규범도 결국 사람들의 행동에 드러나니 충분히 많은 사례를 보면 학습되지 않겠냐고. 실제로 어느 정도는 그렇다. 하지만 그건 규범을 배운 게 아니라 규범이 지켜진 흔적의 분포를 배운 것이다. 둘의 차이는 위반 사례 앞에서 드러난다. 데이터에 나타난 적 없는 새로운 위반이 들어왔을 때, 분포를 배운 모델은 그게 위반인지 그냥 드문 경우인지 구분하지 못한다. 규범은 빈도로 정의되지 않으니까.
금융이나 의료처럼 규제가 촘촘한 도메인에서 이 차이는 사고 한 번으로 나타난다. 지난번에 에이전트가 같은 정답을 냈지만 건드리면 안 되는 도구를 만진 사례를 이야기했는데, 결과만 보면 잡히지 않고 경로를 봐야 잡히는 게 정확히 이 종류다.
3. 명세하는 세계, 학습하는 세계
그래서 심볼릭 계보는 세계를 다루는 방식 자체가 다르다. 조쉬의 표현을 빌리면 세계를 “학습해서 맞히는 대상”이 아니라 “명세로 고정해 운영하는 대상”으로 본다. 무엇이 가능한지를 상상하기 전에 무엇이 허용되는지를 먼저 확정한다.
그 결과 시스템의 중심이 예측이 아니라 집행 쪽으로 옮겨간다. 상태는 자유 텍스트가 아니라 레코드로 남고, 변화는 서술이 아니라 전이 규칙으로 제한되고, 예외 상황은 확률이 아니라 정책으로 차단된다.
이커머스 주문 흐름을 떠올려보면 익숙할 것이다. 주문이라는 엔티티가 있고(①), 결제 대기·결제 완료·배송 중·배송 완료·취소라는 상태가 있고(②), 결제 완료에서 배송 중으로는 갈 수 있지만 배송 완료에서 결제 대기로는 돌아갈 수 없고(③), 배송이 시작된 주문은 사용자가 임의로 취소할 수 없다(④). 아무도 이걸 월드모델이라 부르지 않았지만 네 축이 전부 들어 있다.
이게 이론에만 있는 이야기가 아니라는 증거로 Palantir의 Ontology를 볼 만하다. 이들은 객체·속성·링크를 의미(semantic) 층, 액션과 동적 보안을 운동(kinetic) 층이라 부르며 전자를 조직의 명사, 후자를 동사로 설명한다. 액션은 그냥 함수가 아니라 “통제된(governed) 연산”으로 정의되는데, 여기서 전이와 제약이 한 덩어리로 묶인다. 네 축이 상용 제품 안에 그대로 구현돼 있는 형태다.
4. 그런데 심볼릭도 오래된 벽이 있다
그럼 전부 명세하면 되는가. 그러면 좋겠지만 이 계보는 수십 년 동안 세 개의 벽에 부딪혀왔고, 그 벽들은 지금도 그대로 있다.
프레임 문제. 매카시와 헤이스가 1969년에 제기한 문제다. 행동의 효과를 적는 건 그렇다 치는데, 변하지 않는 것을 어떻게 다 적을 것인가. 주문 상태를 바꿨을 때 고객의 주소는 그대로고, 다른 주문도 그대로고, 재고는… 잠깐, 재고는 바뀌던가? 세계가 조금만 커져도 “안 변하는 것” 목록이 폭발한다.
한정 문제. 전제조건을 다 열거할 수 없다는 문제다. 결제를 승인하려면 잔고가 있어야 하고, 카드가 유효해야 하고, 한도가 남아야 하고, 가맹점이 정상이어야 하고, 그리고… 이 목록은 끝나지 않는다. 실무에서 명세가 항상 어딘가 헐거운 이유다.
기호 접지 문제. 하나드가 1990년에 정리한 문제로, 기호가 도대체 현실의 무엇에 닿아 있느냐는 물음이다. 시스템 안에서 주문.상태 = 배송중이라는 기호가 실제 트럭에 실린 상자와 어떻게 연결되는가. 사람이 중간에서 계속 이어붙여주지 않으면 이 연결은 저절로 유지되지 않는다.
뉴럴 계보는 이 세 문제를 우회한다. 애초에 상태를 명시적으로 들고 있지 않으니 프레임 문제가 생기지 않고, 전제조건을 열거하지 않으니 한정 문제도 안 생기고, 픽셀이나 텍스트에서 바로 읽으니 접지도 자연스럽다. 대신 아무것도 보장하지 못한다. 우회한 게 아니라 그 자리를 비워둔 것에 가깝다.
5. 역할 분담이 임의로 정해진 게 아니다
여기까지 오면 뉴로심볼릭이라는 답이 왜 나왔는지가 자연스럽게 보인다. 두 계보의 강점과 약점이 서로 정확히 반대편에 있기 때문이다.
뉴럴은 접지를, 심볼릭은 집행을 맡는다.
뉴럴은 열린 세계를 읽는 데 강하다. 지저분하고 정형화되지 않은 현실을 받아서 기호로 옮기는 일, 명세에 없던 상황을 그럭저럭 해석해내는 일. 심볼릭이 한정 문제와 접지 문제에서 막히는 지점이 정확히 여기다.
심볼릭은 닫힌 세계를 보장하는 데 강하다. 허용된 전이만 통과시키고, 무엇이 왜 실행됐는지 감사할 수 있게 남기는 일. 뉴럴이 코너 케이스에서 흔들릴 때 필요한 게 정확히 이거다.
그래서 역할 분담이 이렇게 정리된다. 뉴럴이 접지를 맡고, 심볼릭이 집행을 맡는다. 가능성은 넓게 열어두되 실행은 좁고 안전하게 묶는 구조다. 최근 연구도 이 방향으로 가고 있는데, 예를 들어 DR. WELL은 여러 LLM 에이전트가 협업할 때 공유 심볼릭 월드모델에 계획을 근거시키는 분산 뉴로심볼릭 구조를 제안한다. 각 에이전트가 자유롭게 판단하되, 실제 상태는 공유 모델이 들고 있고 거기서 검증된 것만 실행된다.
6. 온톨로지는 왜 지금 돌아왔나
온톨로지라는 말은 한동안 조금 낡은 단어였다. 시맨틱 웹이 크게 실패한 기억 때문일 것이다. 웹 전체를 기계가 읽을 수 있게 명세하겠다는 기획이었는데, 열린 세계 전체를 명세한다는 게 애초에 불가능했다.
그런데 도메인 온톨로지는 죽지 않았다. 오히려 조용히 살아남은 곳들이 있는데, 공통점이 뚜렷하다. 경계가 좁고 실패 비용이 큰 영역들. 항공 스케줄링, 임상 경로, 접근통제, 결제 원장. 전부 세계가 작게 닫혀 있고 틀리면 크게 다치는 곳이다.
그리고 LLM 시대에 이게 다시 필요해진 이유가 있다고 생각한다. 그동안 우리가 만든 AI 기능들은 대부분 읽기였다. 요약하고, 분류하고, 답변을 생성하는 일. 읽기만 할 때는 온톨로지가 없어도 그럭저럭 굴러간다. 틀려도 사람이 걸러내면 되니까.
에이전트가 쓰기를 시작하면 이야기가 달라진다. 주문을 취소하고, 환불을 승인하고, 티켓을 닫고, 배포를 트리거한다. 이 순간부터 “무엇을 해도 되는가”에 답할 수 있는 무언가가 시스템 안에 반드시 있어야 한다. 그리고 그건 앞에서 본 이유로 모델이 학습으로 얻을 수 있는 종류가 아니다.
7. 개인적인 견해
나는 심볼릭 계보 쪽에 동의하는 편이다. 다만 취향의 문제가 아니라 위에서 정리한 이유 때문이다. 규범은 관측에 없고, 없는 걸 배우게 할 수는 없다. 그러니 어딘가에는 사람이 적어 넣은 명세가 있어야 한다.
이게 다소 김빠지는 결론처럼 들릴 수 있다. 결국 다 손으로 적어야 한다는 얘기 아니냐고. 그래서 명세 비용이 이 계보의 진짜 병목인데, 여기서 재미있는 역설이 하나 있다.
Text2World라는 벤치마크가 재는 게 정확히 “LLM이 자연어 설명으로부터 PDDL 명세를 얼마나 잘 생성하는가”다. 즉 LLM은 심볼릭 월드모델을 대체하러 온 게 아니라, 심볼릭 월드모델을 만드는 비용을 낮추는 쪽으로도 쓰일 수 있다는 것이다. 지금까지 온톨로지가 확산되지 못한 가장 큰 이유가 사람이 일일이 적어야 한다는 것이었는데, 그 부분을 모델이 초안 잡아주고 사람이 검수하는 구조라면 경제성이 달라진다.
그러면 그림이 이렇게 된다. 모델은 세계를 학습해서 규범을 대체하는 게 아니라, 사람이 규범을 적는 일을 돕는다. 그리고 적힌 규범이 다시 모델의 행동을 묶는다. 순환처럼 보이지만 각 단계에서 사람의 판단이 한 번씩 들어가는 구조라 무한 루프는 아니다.
마지막으로 하나 덧붙이면, 이 결론이 내가 다른 글들에서 반복해서 도달한 지점과 같다는 게 흥미롭다. 게임엔진이 진실을 지키고 월드모델이 사실감을 맡는 구조도, 결정론적 코드가 확률적 모델을 감싸는 하네스도, 모델 바깥에 안전망을 쌓는 이야기도 결국 같은 모양이다. 확률적으로 잘하는 부분과 결정론적으로 보장해야 하는 부분을 가르고, 그 경계를 어디에 그을지 정하는 일. 뉴로심볼릭은 그 구조에 이미 붙어 있던 이름 중 하나였던 셈이다.
함께 보면 좋은 글:
참고 자료
- 조쉬(이주환), 『AI 에이전트 실행 세계 ① 원리편』: 심볼릭 월드모델과 네 축 프레임워크
- Text2World: Benchmarking Large Language Models for Symbolic World Model Generation (Hu et al., 2025)
- DR. WELL: Dynamic Reasoning and Learning with Symbolic World Model for Embodied LLM-Based Multi-Agent Collaboration (Nourzad et al., 2025)
- The Ontology (Palantir Foundry Docs)
- J. McCarthy & P. Hayes, “Some Philosophical Problems from the Standpoint of Artificial Intelligence” (1969): 프레임 문제
- S. Harnad, “The Symbol Grounding Problem” (1990)
- G. H. von Wright, “Deontic Logic”, Mind (1951)
본 글은 2026년 8월 1일 기준으로 작성했다. 네 축 프레임워크는 조쉬(이주환)의 저서에서 제시된 것이며, 이를 형식론 계보와 연결해 읽은 부분과 그로부터 끌어낸 해석은 내 것이다.