베이지안 뇌 — 지각은 추론이다

2026-05-15

뇌과학수학인지과학

Karl Friston의 자유에너지 원리와 예측 처리 이론. 뇌는 감각기관이 아니라 예측 기계다.

뇌는 무엇을 하는가

직관적으로 우리는 이렇게 생각한다: 눈이 빛을 받아들이고, 귀가 소리를 처리하고, 뇌가 그 정보를 통합해서 세계를 인식한다. 뇌는 일종의 입력-출력 기계다.

이 그림은 절반만 맞다.

현대 계산 신경과학의 주류 패러다임은 예측 처리(Predictive Processing)다. 핵심 명제:

뇌는 감각 입력을 수동적으로 받아들이는 것이 아니라, 세계에 대한 모델을 유지하고 끊임없이 예측을 생성한다. 감각 신호는 그 예측의 오류를 수정하는 데 쓰인다.

베이즈 추론의 기초

이를 수학적으로 표현하면 베이즈 정리가 중심에 온다.

$P(H \mid E) = \frac{P(E \mid H) \cdot P(H)}{P(E)}$

$P(H)$ : 사전 확률(prior) — 증거 없이 가설 $H$ 가 참일 확률. 뇌의 경우, 과거 경험으로 구축한 세계 모델.
$P(E \mid H)$ : 우도(likelihood) — 가설이 참일 때 이 증거가 나올 확률.
$P(H \mid E)$ : 사후 확률(posterior) — 증거를 본 후 가설이 참일 확률. 뇌가 업데이트된 지각.

지각(perception)은 곧 $H$ 에 대한 사후 분포를 계산하는 과정이다. 우리가 어둠 속 실루엣을 보고 “사람”이라고 판단할 때, 뇌는 사전 확률(“이 상황에서 사람이 있을 가능성”)과 감각 데이터(“이 형태의 우도”)를 결합한다.

Friston의 자유에너지 원리

Karl Friston은 이 아이디어를 자유에너지 원리(Free Energy Principle)로 형식화했다.

핵심 주장: 살아있는 시스템은 변분 자유에너지(variational free energy) $F$ 를 최소화한다.

$F = \underbrace{E_q[\log q(\phi) - \log p(\phi, o)]}_{\text{KL divergence term}}$

더 직관적으로:

$F = \underbrace{D_{KL}[q(\phi) \,\|\, p(\phi \mid o)]}_{\text{복잡성}} - \underbrace{\log p(o)}_{\text{정확성}}$

여기서: - $\phi$ : 세계의 숨겨진 원인(hidden causes) - $o$ : 관측된 감각 데이터 - $q(\phi)$ : 뇌의 세계 모델 (근사 사후 분포) - $p(\phi \mid o)$ : 실제 사후 분포 (직접 계산 불가)

자유에너지를 최소화하는 것은 두 가지를 동시에 한다:

지각(Perception): $q(\phi)$ 를 실제 $p(\phi \mid o)$ 에 가깝게 업데이트
행동(Action): 감각 데이터 $o$ 를 예측과 일치하도록 세계를 바꿈

행동이 예측 오류를 줄이는 방식이라는 점이 흥미롭다. 춥다고 느낄 때 옷을 입는 것은, 뇌가 “나는 따뜻할 것이다”라는 예측을 유지하기 위해 세계(자신의 몸 상태)를 예측에 맞추는 행위다.

착시는 버그가 아니다

예측 처리 이론의 가장 우아한 함의 중 하나: 착시(visual illusion)는 뇌의 결함이 아니라 정상 작동의 증거다.

뮐러-라이어 착시(Müller-Lyer illusion)에서 같은 길이의 선이 다르게 보이는 이유는, 뇌의 사전 확률 모델이 특정 맥락에서 “화살표가 이 방향이면 선이 이 방향에서 더 멀다”는 3D 공간 가정을 적용하기 때문이다. 이 가정은 자연 환경에서는 대체로 옳다. 인공적인 2D 그림에서만 틀린다.

뇌는 망막 데이터만으로는 세계를 복원할 수 없다. 동일한 망막 이미지는 무한히 많은 3D 세계와 대응된다(역 광학 문제, inverse optics problem). 사전 확률은 이 불확정성을 해소하는 제약이다.

Active Inference

Friston은 여기서 더 나아가 능동적 추론(Active Inference)을 제안한다.

행동과 지각이 동일한 자유에너지 최소화 원리로 통합된다. 운동 명령은 고유감각(proprioception)에 대한 예측이다. 팔을 들 때, 뇌는 “팔이 들려있을 것이다”라는 예측을 생성하고, 척수가 그 예측을 실현하도록 근육을 조절한다.

이 관점에서 보면 행동과 지각의 구분이 흐려진다. 둘 다 예측 오류를 최소화하는 방법이다 — 하나는 내부 모델을 업데이트함으로써, 다른 하나는 세계를 바꿈으로써.

남은 질문

예측 처리 이론은 수학적으로 우아하고 설명력이 높다. 그러나 아직 논쟁 중인 것들이 있다:

$\Phi$ 가 구체적으로 어떤 신경 메커니즘에 대응하는가?
자유에너지 최소화가 진짜로 신경 활동의 계산 원리인가, 아니면 사후적으로 끼워맞춘 수학적 기술인가?
감정(affect)과 욕구(desire)는 이 틀 안에서 어떻게 설명되는가?

뇌과학이 철학과 수학을 필요로 하는 지점이 바로 여기다.

참고: Karl Friston, “The free-energy principle: a unified brain theory?” (2010), Nature Reviews Neuroscience