뇌가 없는 시스템에게 “읽기”와 “쓰기”는 무엇을 의미할까? 연구자 디에고 살다냐 울로아(Diego Saldaña Ulloa)가 arXiv에 발표한 새로운 연구는 이 질문을 진지하게 다루며, 그 결과는 대규모 언어 모델이 인간의 마음과 비교했을 때 읽기와 쓰기를 처리하는 방식에 대해 진정으로 놀라운 사실을 드러낸다.
Summary
핵심 요약
- 인간의 뇌에서 읽기와 쓰기는 서로 다른 신경 경로를 통해 작동하는 이중 분리 가능한 시스템이며, 하나가 손상되더라도 다른 하나는 반드시 손상되지 않는다.
- GPT-2, OPT, Pythia와 같은 디코더 전용 LLM은 입력과 출력을 단일 자기회귀 경로를 통해 처리하여, 뇌가 분리해 두는 기능을 서로 얽어 놓는다.
- 0.23에서 0.35 사이의 얽힘 지수 E는, 언타이 모델들이 읽기와 쓰기 코드를 부분적으로는 공유하지만 완전히 공유하지는 않음을 보여준다.
- 출력 코드는 단어 빈도 분위 전체에 걸쳐 입력 코드보다 대략 3.2배 더 멀리 이동하며, 이는 공유 메커니즘 내에서 비대칭적인 특수화를 시사한다.
- 이해와 산출 사이의 행동적 결합은 테스트된 12개의 비퇴화(non-degenerate) 모델 모두에서 통계적으로 유의미하며(p < 0.001), 이는 인간 뇌 패턴과 정반대이다.
인간 뇌에서 읽기와 쓰기를 담당하는 구별된 신경 시스템
문해력을 갖춘 인간의 뇌에서 읽기와 쓰기는 동일한 신경 기제를 공유하지 않는다. 이들은 이중 분리 가능한 시스템으로 작동하는데, 이는 한쪽이 선택적으로 손상되더라도 다른 쪽은 영향을 받지 않을 수 있음을 의미한다. 순수 실독증(pure alexia) 환자는 읽기 능력을 잃지만 쓰기는 온전하게 남고, 순수 실서증(pure agraphia) 환자는 쓰기 능력을 잃지만 읽기는 유지된다. 이러한 임상 증후군은 두 개의 식별 가능한 신경 경로에 대응되는데, 읽기를 위한 복측 디코딩 경로와 쓰기를 위한 전두-두정 인코딩 경로가 그것이다. 두 시스템은 부분적인 철자(orthographic) 핵심만을 공유한다.
이러한 분리는 신경학의 특이한 현상이 아니다. 이는 진화와 발달에 의해 형성된 아키텍처를 반영하며, 서로 다른 인지적 요구가 서로 다른 신경학적 해법을 만들어 냈다는 것을 보여준다. 결국 읽기는 문화적으로 발명된 기술로, 인류가 이를 연습한 지는 겨우 수천 년에 불과하다. 그럼에도 뇌는 기존 회로 일부를 전용하고 적응시켜 읽기를 수행하도록 만들었다.
대규모 언어 모델에서의 통합된 읽기-쓰기 메커니즘
LLM은 근본적으로 다른 접근 방식을 취한다. 뇌가 분리하는 곳에서, 디코더 전용 대규모 언어 모델은 이를 통합한다. GPT-2, OPT, Pythia와 같은 모델은 입력 처리와 출력 생성을 모두 단일 자기회귀 순방향 패스를 통해 수행한다. 복측 읽기 경로나 전두-두정 쓰기 경로에 해당하는 아키텍처적 요소는 존재하지 않으며, 방대한 텍스트에 대해 엔드 투 엔드로 최적화된 단 하나의 경로만 있을 뿐이다.
지수 E로 얽힘 측정하기
이 공유 경로가 정확히 얼마나 읽기와 쓰기를 얽어 놓는지를 정량화하기 위해, 살다냐 울로아는 0(완전히 독립적인 코드)에서 1(완전히 결합된 코드)까지 범위를 갖는 얽힘 지수 E를 개발했다. 이 지수는 입력 측 읽기 코드를 출력 측 쓰기 코드와 비교하며, CKA, 프로크루스(Procrustes) 잔차, 상호 k-최근접 이웃이라는 세 가지 기하학적 측정을 사용한다. 독립 초기화 바닥값과 타이(tied) 상한값을 모두 사용해 스케일을 보정함으로써, 이 지표는 임의 단위가 아닌 실제 해석적 기반을 갖는다.
LLM 전반에서 읽기-쓰기 얽힘에 대한 실증 분석
이 연구는 여섯 개 모델 패밀리 — GPT-2, OPT, Pythia(1,400만에서 14억 파라미터까지), T5, BERT, RoBERTa — 에 걸쳐 아홉 개의 프로브를 분석했다. 이 중 여섯 개 프로브는 기존에 확립된 결과를 통합했고, 세 개는 새로운 읽기/쓰기 얽힘 분석을 직접 도입했다.
정량적 결과: 상한 미만의 얽힘과 코드 드리프트
입력과 출력 임베딩 행렬이 동일하도록 강제되지 않은, 즉 언타이 모델의 경우 얽힘 지수는 E = 0.23에서 0.35 사이에 위치한다. 이 범위는 독립 바닥값보다 훨씬 위에 있어 실제 결합이 있음을 확인해 주지만, 완전히 타이된 가중치가 만들어낼 상한에는 도달하지 못한다. 코드는 공유되지만 융합되지는 않는다.
주목할 만한 비대칭성도 존재한다. 출력 코드는 모든 단어 빈도 분위에 걸쳐 입력 코드보다 대략 3.2배 더 멀리 이동한다. 공유 메커니즘의 쓰기 측이 읽기 측보다 단어 빈도에 더 민감해 보이며, 이는 명목상 단일 시스템 내부에서 미묘하지만 측정 가능한 분기를 보여준다.
이해와 산출 사이의 행동적 결합
표상 수준에서의 그림은 행동 수준에서도 반영된다. 테스트된 12개의 비퇴화 모델 전반에서, 이해와 산출 성능은 양의 결합을 보인다. 즉, 한 과제를 잘 수행하는 모델은 다른 과제도 잘 수행하는 경향이 있다. 부호 검정(sign test)은 이것이 우연이 아님을 확인해 주며, p < 0.001이다. 이는 두 능력이 명확히 분리될 수 있다고 보여 주는 인간 신경과학 결과와 정반대이다.
인코더-디코더 모델: 분리된 표상, 동일한 행동 패턴
입력과 출력 처리를 물리적으로 분리된 모듈로 나누는 인코더-디코더 아키텍처라면, 이러한 행동적 결합이 깨질 것이라고 예상할 수도 있다. 그러나 그렇지 않다. T5와 같은 모델은 가중치 공간에서 읽기와 쓰기 코드를 거의 완전히 분리하는, 최대 0.96에 이르는 표상 분리 점수를 달성한다. 그럼에도 행동 수준에서는 이해와 산출이 여전히 결합된 상태로 남는다. 표상의 구조적 독립성이 성능의 독립성으로 이어지지 않는 것이다.
이는 이 연구에서 분석적으로 가장 중요한 결과 중 하나다. 이는 LLM에서의 결합이 단순히 임베딩 가중치를 공유한 결과가 아님을 시사한다. 아마도 동일한 텍스트 목표에 대해 모델을 학습시키는 방식과 같이, 더 근본적인 무언가가 아키텍처가 표상을 어떻게 분배하든 상관없이 읽기와 쓰기 성능을 서로 묶어 두는 것으로 보인다.
기하학-행동 간 격차
이 결론을 강화하듯, 연구는 기하학적 코드 유사성과 행동적 결합 사이의 상관이 0인 결과(ρ = 0.00)를 보고한다. 모델의 읽기와 쓰기 표상이 가중치 공간에서 얼마나 비슷한지는, 그 모델의 읽기와 쓰기 성능이 서로 상관될지 여부를 전혀 알려 주지 못한다. 두 분석 수준 — 기하학적 수준과 행동적 수준 — 은 방향성에서는 일치하지만 그 외에는 서로 독립적이다.
시사점: 인간과 LLM의 읽기-쓰기 아키텍처 간 분기
이 결과들을 종합하면, 대규모 언어 모델은 진정으로 구별되는 인지 아키텍처로 자리매김한다. 즉, 인간 뇌의 디지털 근사물이 아니라, 연구에서 “가능한 마음들의 공간”이라고 부르는 것 안에서 전혀 다른 한 지점에 위치한다. 인간의 읽기와 쓰기에 대한 비유는 질문을 구성하는 데는 유용하지만, 그 메커니즘은 상동적(homologous)이지 않다.
이 구분은 LLM의 능력과 한계를 해석하는 방식에 중요하다. 모델이 분명히 “이해한” 것처럼 보이는 텍스트를 바꾸어 말하는 데 어려움을 겪거나, 입력을 잘못 표현하는 유창한 글을 생성할 때, 그 오류의 원인은 직관적인 의미에서의 처리 실패가 아닐 수 있다. 이는 뇌가 분리해 두는 기능을 단일 얽힌 순방향 패스로 붕괴시킨 구조적 결과일 수 있으며, 이러한 설계는 행동적 결합을 거의 불가피한 부산물로 만들어 낸다.
연구는 자신의 범위를 명확히 한다. 여기서 분석된 모델은 최대 14억 파라미터 규모이며, 저자들은 기하학에서 행동으로 이어지는 다리가 데이터 안에 존재하지 않는다는 무효(null) 결과를 숨김없이 보고한다. 더 크거나 구조가 다른 모델이 다른 얽힘 패턴을 보일지는 여전히 열린 실증적 질문이며, 특히 읽기 이해와 텍스트 생성이 서로 독립적이고 평가 가능한 기술로 가정되는 환경에 AI 시스템이 배치될수록 이 질문은 더욱 중요해진다.
FAQ
인간 뇌에서 읽기와 쓰기 과정은 어떻게 다른가?
이들은 서로 다른 신경 경로를 사용하는 이중 분리 가능한 시스템으로 작동한다. 읽기를 위한 복측 디코딩 경로와 쓰기를 위한 전두-두정 인코딩 경로가 있으며, 순수 실독증이나 순수 실서증과 같이 한 경로가 손상되더라도 다른 경로는 상당 부분 온전하게 남을 수 있다.
대규모 언어 모델은 읽기와 쓰기를 어떻게 처리하는가?
디코더 전용 LLM은 읽기(입력 디코딩)와 쓰기(출력 인코딩)를 모두 단일 자기회귀 경로를 통해 처리한다. 이러한 아키텍처는 뇌가 별도의 신경 시스템에 두는 기능들을 서로 얽어 놓는다.
이 연구에서 얽힘 지수 E는 무엇을 측정하는가?
이는 LLM에서 입력(읽기) 코드와 출력(쓰기) 코드 간의 중첩 정도를 0(독립)에서 1(완전 결합)까지의 스케일로 정량화한다. 이 연구의 언타이 모델들은 E = 0.23에서 E = 0.35 사이의 점수를 기록했으며, 이는 독립 바닥값보다 의미 있게 높지만 완전 결합에는 미치지 못한다.
인코더-디코더 모델은 읽기와 쓰기 표상을 완전히 분리하는가?
표상 측면에서 인코더-디코더 모델은 최대 0.96에 이르는 분리 점수를 달성하며, 읽기와 쓰기 코드를 가중치 공간에서 거의 완전히 분리한다. 그러나 행동 측면에서는 이러한 아키텍처에서도 읽기와 쓰기 성능이 여전히 양의 결합을 유지하며, 이는 결합이 단순한 가중치 공간 기하학을 넘어 더 깊은 수준에서 발생함을 시사한다.
{“@context”:”https://schema.org”,”@type”:”FAQPage”,”mainEntity”:[{“@type”:”Question”,”name”:”인간 뇌에서 읽기와 쓰기 과정은 어떻게 다른가?”,”acceptedAnswer”:{“@type”:”Answer”,”text”:”이들은 서로 다른 신경 경로를 사용하는 이중 분리 가능한 시스템으로 작동한다. 읽기를 위한 복측 디코딩 경로와 쓰기를 위한 전두-두정 인코딩 경로가 있으며, 순수 실독증이나 순수 실서증과 같이 한 경로가 손상되더라도 다른 경로는 상당 부분 온전하게 남을 수 있다.”}},{“@type”:”Question”,”name”:”대규모 언어 모델은 읽기와 쓰기를 어떻게 처리하는가?”,”acceptedAnswer”:{“@type”:”Answer”,”text”:”디코더 전용 LLM은 읽기(입력 디코딩)와 쓰기(출력 인코딩)를 모두 단일 자기회귀 경로를 통해 처리한다. 이러한 아키텍처는 뇌가 별도의 신경 시스템에 두는 기능들을 서로 얽어 놓는다.”}},{“@type”:”Question”,”name”:”이 연구에서 얽힘 지수 E는 무엇을 측정하는가?”,”acceptedAnswer”:{“@type”:”Answer”,”text”:”이는 LLM에서 입력(읽기) 코드와 출력(쓰기) 코드 간의 중첩 정도를 0(독립)에서 1(완전 결합)까지의 스케일로 정량화한다. 이 연구의 언타이 모델들은 E = 0.23에서 E = 0.35 사이의 점수를 기록했으며, 이는 독립 바닥값보다 의미 있게 높지만 완전 결합에는 미치지 못한다.”}},{“@type”:”Question”,”name”:”인코더-디코더 모델은 읽기와 쓰기 표상을 완전히 분리하는가?”,”acceptedAnswer”:{“@type”:”Answer”,”text”:”표상 측면에서 인코더-디코더 모델은 최대 0.96에 이르는 분리 점수를 달성하며, 읽기와 쓰기 코드를 가중치 공간에서 거의 완전히 분리한다. 그러나 행동 측면에서는 이러한 아키텍처에서도 읽기와 쓰기 성능이 여전히 양의 결합을 유지하며, 이는 결합이 단순한 가중치 공간 기하학을 넘어 더 깊은 수준에서 발생함을 시사한다.”}}]}
이 기사는 인공지능의 도움을 받아 제작되었으며 편집팀의 검수를 거쳤습니다.
