article · 2026-06-11

피지컬 AI보다 뇌지컬 AI가 더 난해하다

로봇이 다이아몬드를 캐고 AI가 현실 같은 세계를 실시간으로 생성하는 시대. 그런데 물리 세계를 다루는 AI(피지컬)가 빠르게 오는 동안, 인간의 마음과 의미를 다루는 AI(뇌지컬)는 왜 더디고 더 난해한가. 여러 논문을 종합하면 그 순서는 우연이 아니라 구조다. 물리는 닫혀 있고, 마음은 열려 있다.

요약

직관과 정반대다. 우리는 몸을 쓰는 일이 가장 늦게 자동화될 거라 여겼는데, 정작 빠르게 오는 쪽은 물리 세계를 다루는 AI다. 로봇이 시뮬레이션 안에서 다이아몬드를 캐고(DreamerV3), AI가 현실 같은 세계를 실시간으로 생성한다(Genie 3). 반면 인간의 마음과 의미를 다루는 AI는 더디고, 더 난해하다.

여러 논문을 겹치면 이 순서가 우연이 아니라 구조임이 드러난다. 닫힘 ≠ 열림. 물리 세계는 불변성 덕분에 압축되고 학습되는 닫힌 집합이다. 인간의 의식과 사상은 세 가지 이유로 열린 집합이다. 모델링당한 표적이 그 모델링에 반응해 움직이고(재귀성), 어떤 방법으로도 못 넘는 예측 천장에 부딪히며(비정상성), 고정된 목적함수 바깥에서 새로움을 낳는다(open-endedness). 이 글은 피지컬 AI가 왜 빠른지, 뇌지컬 AI가 왜 난해한지, 그리고 가장 유망한 돌파 후보인 추상 reasoning조차 왜 이 선을 못 넘는지를 논문들로 잇는다.

1. 1부가 남긴 질문: 못 푸는 것인가, 영영 못 푸는 것인가

1부는 대체되는 작업(ⓐ)과 남는 작업(ⓑ)을 갈랐다. 자연스러운 반박이 따라온다. "ⓑ도 시간문제 아닌가. 데이터가 더 쌓이고 모델이 더 커지면 결국 넘어오지 않겠나."

이 반박이 맞다면 ⓑ는 일시적 지체일 뿐이고, 모든 지식노동은 결국 대체된다. 틀렸다면 ⓑ에는 데이터로 메울 수 없는 원리적 천장이 있다. 두 경우를 가르는 가장 좋은 실험 대상이 있다. 피지컬 AI와 뇌지컬 AI를 나란히 놓고 어느 쪽이 빠른지 보는 것이다. 둘 다 "세계를 모델링한다"는 같은 야심에서 출발했는데, 진도가 극적으로 다르다. 그 차이의 이름이 닫힘과 열림이다.

2. 피지컬 AI가 빠른 이유: 닫힌 집합

월드모델은 행동에 따라 세계의 다음 관측이 어떻게 변할지를 예측하는 구조다(Ha & Schmidhuber). 그 형식적 핵심은 물리적이지 않지만, 입증된 스케일 성공은 전부 물리 도메인에 몰려 있다. 하나의 고정된 하이퍼파라미터로 150개 넘는 과제를 풀고 마인크래프트에서 사람 시범 없이 다이아몬드를 캐낸 사례(DreamerV3), 실시간 720p로 수 분간 일관된 인터랙티브 세계를 생성한 사례(Genie 3)가 대표적이다.

왜 물리는 학습이 잘 되는가. 핵심은 불변성이다. 같은 조건이면 같은 결과가 나오고, 그 규칙은 어제도 내일도 같다. 물리법칙이 압축 가능하고 학습 가능한 데에는 형식적 근거가 있다는 논증도 있다(Lin, Tegmark & Rolnick). 규칙이 변하지 않으므로 유한한 관측에서 일반 법칙을 압축해낼 수 있다. 이것이 닫힌 집합의 정의다. 표적이 고정돼 있고, 규칙이 시간에 따라 바뀌지 않으며, 충분한 데이터가 일반화로 이어진다. 닫힌 것은 학습된다. 그래서 피지컬 AI는 빠르다.

3. 뇌지컬 AI가 난해한 이유: 열린 집합

인간의 의식과 사상은 정반대 성질을 가진다. 여러 논문이 세 갈래로 그 열림을 형식화한다.

재귀성. 인간을 예측하는 모델이 만들어지면, 인간은 그 예측에 반응해 행동을 바꾼다. 표적이 모델링당했다는 사실 자체에 적응하는 것이다. 물리법칙은 우리가 그것을 안다고 바뀌지 않지만, 인간의 행동은 예측당한다는 것을 아는 순간 움직인다. 표적이 움직이면 고정된 모델은 늘 한 발 늦는다.

환원 불가능한 비정상성. 어떤 현상은 방법을 아무리 정교하게 해도 넘지 못하는 예측 천장을 가진다. 데이터가 많아져도, 알고리즘이 좋아져도 그 위로는 못 올라간다. 규칙이 시간에 따라 바뀌기 때문이다. 어제 학습한 규칙이 오늘의 규칙이라는 보장이 없는 영역에서는, 과거의 압축이 미래의 예측을 보장하지 못한다.

open-endedness. 한 형식적 정의(Hughes 외, DeepMind)에 따르면 open-endedness는 관찰자의 현재 모델에 점점 새롭고 동시에 학습 가능한 산출을 끝없이 내는 성질이며, 구성상 어떤 고정 모델로도 포착되지 않는다. 인간은 미리 정해진 점수를 최대화하는 게 아니라, 무엇을 추구할지 자체를 새로 발명한다.

여기에 한 세기의 철학 전통이 겹친다. 자연은 바깥에서 설명하고(erklaren), 인간의 내면은 안에서 이해한다(verstehen)는 딜타이의 구분, 그리고 의미는 결코 종결되지 않고 늘 새로운 지평에서 다시 해석된다는 가다머의 지평융합("최종 지평은 없다"). 닫힘과 열림은 감성적 비유가 아니다. 압축 가능성과 예측 천장과 목적함수라는 형식을 가진 구별이다.

4. 추상 reasoning은 이 선을 넘는가

가장 강한 반론은 차세대 reasoning이다. 자연어 사슬추론(CoT)을 병목으로 보고, 연속 벡터나 개념 공간에서 사고하게 만들려는 흐름이 실재한다. 잠재 공간 추론(Coconut), 재귀적 깊이 추론(Huginn), 개념 수준 추상(Large Concept Models), 추론 시점에 연산을 더 쓰는 모델들(o1, o3, R1). 이것들이 뇌지컬의 자물쇠를 여는 열쇠일까.

답을 가르는 결정적 구분이 한 논문에서 나온다. 추상 reasoning이 도움이 될 때, 그 이득은 잠재 공간에서 디코딩한다는 사실에서 오지 않는다. 표현이 개념 수준으로 추상화될 때 온다. 입력을 표면 토큰 수준이 아니라 추상 개념 수준으로 표현하면, 그동안 학습이 안 되던 역방향 추론(Reversal Curse)이 별도 증강 없이 학습된다. 즉 "추상 reasoning이 돕는다"는 명제는 표현이 바뀔 때 참이지, 잠재 공간에서 디코딩한다는 것만으로는 참이 아니다. 추상 reasoning은 연산과 탐색의 메커니즘이지, 증거와 접지와 적응의 메커니즘이 아니다. 그래서 그것은 ⓐ를 더 세게 밀 뿐, ⓑ는 못 연다.

5. 성적표: 닫힌 문제는 밀고, 열린 문제는 무너진다

이 진단은 측정으로 확인된다. 추상 reasoning의 대표 모델이 한 추론 벤치마크(ARC-AGI-1)에서 87.5%를 기록했는데, 같은 계열의 다음 버전(ARC-AGI-2)에서는 약 4%로 무너졌다. 더 시사적인 것은 이것이 한 접근의 약점이 아니라는 점이다. 신경망 계열, 프로그램 합성 계열, 신경-기호 결합 계열이 전부 2배에서 3배로 함께 붕괴했다.

또 하나. 검증 가능한 수학 문제에서 강화학습으로 얻은 향상은 모호한 인간 과제로 거의 전이되지 않았다. 정답을 채점할 체커가 있는 닫힌 곳에서만 작동하고, 체커가 없는 열린 곳에서는 멈춘다. 닫힘/열림의 분할과 정확히 같은 자리다.

그래서 결론은 비대칭이다. 추상 reasoning은 검증 가능한 닫힌 문제(수학, 코드, 문서화된 규칙)에서 인간을 더 빠르게 밀어낸다. 그러나 채점할 정답이 없고 표적이 움직이며 규칙이 변하는 열린 문제에서는, 가장 유망한 돌파 후보조차 한 자릿수로 떨어진다. "근접과 추월"의 문을 여는 것은 reasoning의 형식이 아니라 표현과 적응과 접지인데, 그 문은 아직 안 열렸다.

6. 종합: 난해함에는 순서가 있다

논문들을 겹치면 하나의 순서가 드러난다. 피지컬 AI가 뇌지컬 AI보다 빠른 것은 엔지니어링 우연이 아니라 대상의 구조 때문이다. 물리는 불변성으로 닫혀 있어 압축되고, 마음은 재귀성과 비정상성과 새로움으로 열려 있어 압축되지 않는다. 그래서 대체의 순서도 정해진다. 물리적이고 규칙이 고정된 작업이 먼저 넘어가고, 표적이 내 예측에 반응하고 의미가 매번 새로 해석되는 작업이 가장 늦게, 혹은 영영 남는다.

이것이 1부의 ⓑ에 원리적 근거를 준다. ⓑ가 안 풀리는 것은 데이터가 부족해서가 아니라 대상이 열려 있어서다. 더 큰 모델을 기다리는 전략이 통하지 않는 자리가 여기다.

남는 질문이 또 있다. 열린 문제 중에서도 가장 날카로운 자리가 있다. 인간의 행동을 통계적으로 거의 완벽하게 예측해도, 그 인간을 이해한 것은 아닐 수 있다는 자리다. 3부에서 예측과 이해의 마지막 부등식으로 들어가고, 그래서 무엇을 해야 하는지로 마무리한다.

2부 한 줄. 피지컬 AI는 빠르고 뇌지컬 AI는 난해하다. 우연이 아니라 구조다. 물리는 불변성으로 압축되는 닫힌 집합이고, 마음은 재귀성·비정상성·새로움으로 열린 집합이다. 추상 reasoning은 닫힌 문제를 더 밀 뿐, 열린 문제 앞에서는 한 자릿수로 무너진다.

출처 (1차)

신뢰도(H/M)는 원 리서치 표기를 상속한다. 다수 arXiv가 HTTP 403으로 스니펫 기반이며, 특히 OSR openness 공식과 Lin-Tegmark 차수 주장 같은 formula-level 주장은 1차 PDF 재확인을 권한다.

피지컬 AI = 닫힌 집합 (물리는 학습 가능)

  • 월드모델 형식 정의 (행동-조건부 관측 예측): Ha & Schmidhuber 2018, arXiv:1803.10122 (H)
  • 입증된 스케일 성공은 전부 물리 도메인: DreamerV3 arXiv:2301.04104; Genie 3 (2025-08) (H)
  • 물리법칙의 압축 가능성: Lin, Tegmark & Rolnick 2017, arXiv:1608.08225; AI Feynman (Udrescu & Tegmark 2020) (H)
  • closed/open set의 ML 형식화: Open Set Recognition (Scheirer et al.), CWA/OWA, concept drift (openness 공식은 1차 PDF 재확인 권장)

뇌지컬 AI = 열린 집합 (재귀성·비정상성·open-endedness)

  • open-endedness 형식 정의 (고정 모델로 포착 불가): Hughes et al. (DeepMind) 2024, arXiv:2406.04268 (H)
  • Verstehen/Erklären: Dilthey (Geisteswissenschaften); Gadamer, Truth and Method (지평융합은 비종결, "최종 지평은 없다") (H)

추상 reasoning이 무엇을 여는가

성적표 (닫힌 문제는 밀고 열린 문제는 무너짐)

  • ARC-AGI-1 87.5%(o3) → ARC-AGI-2 ~4%, neural·program-synthesis·neuro-symbolic 전 계열 2~3배 붕괴: 2025, arXiv:2505.11831; ARC Prize o3 (H)
  • 검증 가능 수학 RL의 모호 과제 전이 실패: 2025, arXiv:2507.00432 (H)
  • 접지·암묵지는 substrate 문제 (reasoning 형식과 무관): Harnad 기호접지 문제 (H)

단서: ARC-AGI-2 붕괴와 전이 실패는 현 시점 스냅샷이며, 구조적 천장인지 미해결 연구 전선인지는 정해지지 않았다 (원 리서치 명시).