단어 계산기는 유용하지만 똑똑하지는 않습니다
GPT-3의 출시는 전례 없는 정확도로 텍스트를 요약하고 분석하며 이어질 텍스트를 예측할 수 있는 도구의 등장과 함께 컴퓨터 과학에 변혁적인 순간을 기록했습니다. 그러나 이 인상적인 성취에도 불구하고, 우리는 인간의 대화를 매우 비슷하게 흉내 내는 텍스트를 생성하는 언어 모델이 상당한 수준의 일관성을 달성한 탓에 많은 사람이 근본적으로는 정교한 단어 계산기에 불과한 것을 의인화하게 되었다는 점을 이해해야 합니다.
계산기가 정수론에 대한 깊은 이해 없이도 산술에 탁월한 것처럼, LLM은 이해력이 전혀 없는 상태에서도 단어 조작에 능숙합니다. 컴퓨터 대수 시스템이 수학자보다 복잡한 미적분을 더 빨리 수행한다고 해서 그것이 수학적 증명의 근본 원리를 파악하고 있다는 뜻은 아닙니다. 그것은 단지 미리 정해진 연산을 실행하고 있을 뿐입니다. 마찬가지로 LLM이 언어적 곡예를 부린다고 해서 이해하고 있다는 뜻은 아닙니다. 그것은 방대한 인터넷 텍스트 말뭉치를 대상으로 패턴 매칭을 수행하고, 그 패턴들을 놀라운 방식으로 조합하여 일관성 있어 보이게 만드는 것일 뿐이며, 그 아키텍처에는 세계에 대한 깊은 이해가 근본적으로 결여되어 있습니다.
모두가 알면서도 외면하는 문제는 세계 모델이 완전히 부재하다는 점입니다. 이러한 시스템은 단지 이해력이 부족한 것이 아니라, 이해력을 발달시키는 데 필요한 근본적인 아키텍처 자체가 없습니다. “환각은 버그가 아니라 기능이다“라는 흔한 얼버무림은 근본적인 한계를 가리는 사고 정지형 상투어입니다. 그 한계란, 이러한 시스템이 참과 거짓 어느 쪽에 대해서도 내적 개념을 갖고 있지 않기 때문에 둘을 구별할 수 없다는 것입니다. 이들은 현실에 대한 어떠한 기반도 없이 허공에서 작동하는 정교한 패턴 매칭 기계입니다.
지식은 단순한 정보가 아니라 정당화된 참인 믿음입니다. 이 구별은 “지식“을 지녔다는 LLM의 주장이 근본적으로 공허하다는 것을 드러냅니다. 믿음 자체를 위한 메커니즘이 없는 시스템이 어떻게 정당화된 참인 믿음을 가질 수 있겠습니까? 정당화의 기준으로 삼을 참의 개념조차 없는데 어떻게 무언가를 정당화할 수 있겠습니까? LLM은 본질적으로 방대한 데이터셋을 대상으로 한 고차원 곡선 맞춤 작업에 불과합니다. 규모는 인상적이지만 철학적으로는 공허합니다. 이들은 “거의 지능적인” 것도, “이해에 다가가고 있는” 것도 아닙니다. 현재의 형태로는 근본적으로 그 어느 쪽도 불가능합니다.
우리 업계가 숨 가쁘게 이러한 도구를 의인화하는 것은 인간의 지능과 LLM의 막대한 실질적 유용성 모두에 해를 끼칩니다. 물론, 일관성 있고 문체적으로 적절한 텍스트를 무제한으로 생성하는 데에는 막대한 경제적 가치가 있을 수 있습니다. 어쨌든 우리의 후기 자본주의 JIT 경제는 정교한 헛소리 생성기에 의한 자동화에 완벽하게 들어맞을 수도 있는 헛소리 직업들을 기반으로 돌아가고 있습니다. 하지만 경제적 유용성을 지능이나 이해와 혼동하지 맙시다.
미래의 아키텍처가 진정한 세계 모델과 내적 진리 검증 능력을 발달시킬 가능성을 배제해서는 안 되지만, 그러한 가능성을 현재의 트랜스포머 기반 모델에 확대 적용하는 것은 순전한 공상입니다. 우리는 이러한 근본적인 간극을 메울 수 있는 AI 아키텍처의 미래 발전에 대해 반드시 열린 태도를 유지해야 합니다. 하지만 현재의 LLM이 “거의 다 왔다“거나 “매개변수만 더 있으면 된다“고 여기는 척하는 것은 고의적인 자기기만입니다. 진리와 현실에 대한 내적 모델을 유지할 수 있는, 근본적으로 다른 아키텍처를 갖춘 시스템이 등장하기 전까지 우리는 여전히 점점 더 정교해지는 계산기, 즉 숫자 대신 단어를 연산하는 계산기를 만들고 있을 뿐입니다.