AI의 실제 가치는 얼마입니까?
인공지능 붐은 분명히 시장 버블의 역사상 가장 최근 사례이지만, 유난히 기이한 버블입니다. 이 버블은 경영진의 환상, 유사 종교적 열광, 그리고 달리 갈 곳 없는 자본의 급류가 뒤섞인 강력한 혼합물로 부풀려졌습니다. 지지자들과 업계의 오피니언 리더들은 산업혁명에 버금가는 새로운 경제의 여명을 선포하지만, 자세히 들여다보면 이 산업은 불안정한 기술적 기반 위에 세워져 있고, 지속 불가능한 지출로 떠받쳐지며, 부조리에 가까운 서사로 추진되고 있음이 드러납니다. 현재의 조 달러 단위 기업 가치는 임박한 혁명을 반영하는 것이 아니라 자기기만에 대한 금융계의 무한한 역량을 보여 주는 증거이며, 피할 수 없고 가혹한 조정을 예고합니다.
이 과대광고의 핵심에는 마케팅 자료가 암시하는 것보다 훨씬 덜 인상적인 기술적 현실이 자리하고 있습니다. 이 새로운 물결의 원동력인 대규모 언어 모델의 스케일링은 수확 체감의 벽에 부딪히고 있는 것으로 보입니다. 근본적인 아키텍처상의 돌파구가 없는 한, 우리는 점점 더 미미해지는 성과를 위해 모델에 더 많은 데이터와 더 많은 연산을 쏟아붓고 있을 뿐입니다. 벤치마킹 과정 전체가 주관적인 미인 대회로 전락했으며, 여기서는 “진보“를 정의하는 것 자체가 하나의 난제입니다. 정답이 둘 중 하나로 갈리는 작업을 제외하면, 어떤 모델이 더 우수한지 판단하는 일은 분위기와 의견의 문제이며, 한 영역에서의 개선이 다른 영역의 결함을 낳는 두더지 잡기 게임입니다. 이러한 지표는 과학이라기보다는 정교한 얼버무리기에 가까우며, 역량을 진정으로 측정하기보다는 제품 출시와 투자자 발표 자료에 쓸 인상적인 차트를 만들어 내도록 설계되어 있습니다.
이러한 기술적 모호함은 미국의 전문 경영인 계층을 완전히 사로잡은 매혹적인 환상이 자라날 비옥한 토양이 됩니다. 경영 컨설턴트 군단에게 속아 넘어간 이 비기술직 임원들은 인간 노동이라는 지저분하고 예측 불가능하며 비용이 많이 드는 일이 자동화로 사라지는 가까운 미래를 그립니다. 그들은 소수의 엘리트 이사진이 운영하며, 급여나 의료 보험, 노동 분쟁의 부담 없이 이윤이 치솟는 기업 유토피아를 꿈꿉니다. 물론 이것은 허구이지만, 직원을 기계 속의 교체 가능한 톱니바퀴로 여기는 관리자들에게는 강력한 허구입니다. 이 망상은 기업 AI 지출의 주된 동력이며, 노동자를 대체할 수 있고 또 대체해야 한다는 명제에 바쳐진 거대한 R&D 비자금입니다.
이러한 경영진의 헛된 꿈이 낳은 결과는 회사의 실제 업무와 심각하게 동떨어진 기업 “혁신” 프로젝트의 해일입니다. 기업의 지상 과제는 “AI 전략을 갖추는 것“이며, 이는 실제로는 데이터 검색을 위한 사내 챗봇과 RAG 시스템을 구축하는 것을 의미합니다. 이러한 프로젝트는 대개 Core 비즈니스 활동과는 몇 단계나 동떨어져 있어 실질적인 가치는 거의 내지 못하지만, 사내에서 진전으로 포장해 내세울 수 있을 만큼은 그럴듯합니다. 최근의 일부 연구에서는 이러한 프로젝트의 실패율을 약 95%로 추산합니다. 이는 정치인의 오류를 완벽하게 실행한 것입니다. 무언가를 해야 한다, 이것은 무언가이다, 그러므로 우리는 이것을 해야 한다는 것입니다. 기업들은 실제 문제를 해결하기 위해서가 아니라 유행에 동참하는 것처럼 보이기 위해 자본을 소진하고 있으며, 이사회와 주주를 달래기 위해 값비싼 인공지능 포템킨 마을을 짓고 있습니다.
그다음에는 기업 불안의 대사제인 경영 컨설턴트들이 장의사처럼 엄숙한 태도로 등장하여 최고 경영진의 가장 깊은 불안감을 돈벌이로 삼습니다. 번드르르한 슬라이드 자료와 시너지 운운하는 헛소리로 이루어진 그들만의 어휘로 무장한 채, 그들은 인력을 값비싼 부채로 여기는 임원들의 귀에 매혹적인 환상을 속삭이며 팔아넘깁니다. 그들의 복음은 지저분하고 비용이 많이 들며 이따금 노조까지 결성하는 인간 노동이라는 문제를 대차대조표에서 깔끔하게 도려내고, 결점 없고 불평 없는 알고리즘으로 대체할 수 있는 이사회실의 유토피아를 설파합니다. 그들은 고객의 심각한 기술적 무지를 능숙하게 이용하여, AI를 운영 비용을 순수한 이윤으로 바꾸어 줄 마법의 블랙박스로 제시합니다. 그 결과는 수백만 달러짜리 “전환” 로드맵의 홍수이며, 이 로드맵의 주된 전략적 기능은 컨설턴트 자신에게 수익성 높은 다년간의 후속 계약을 보장하는 것입니다. 그들은 조언자가 아니라 그럴듯한 책임 회피의 설계자이며, 혁신이라는 이름으로 주주의 돈에 모닥불을 지필 수 있도록 아름답게 서식을 갖추고 전문 용어로 가득 채운 허가증을 임원들에게 건네줍니다.
이러한 기업의 망상은 베이 에어리어라는 기묘한 문화적 테라리움에 의해 증폭되고 신성시되며, 그곳에서 AI 연구소들은 새로운 합리주의 컬트의 수도원 역할을 합니다. 그 신도들, 즉 사회적으로 불안한 만성 인터넷 중독자 집단은 자신들이 지저분한 인간의 직관을 순수한 논리로 대체했다고 믿지만, 실제로는 옛 신들을 실리콘 신으로 바꿔 놓았을 뿐입니다. 그들은 베이즈 사전확률과 기대 효용이라는 암호화된 어휘를 통해 충성을 드러내는데, 이는 자신들이 깨달음을 얻은 소수에 속한다는 것을 확인해 주는 언어적 악수이며, 바깥에 나가 풀이라도 만져 본 적 있는 사람들의 실제 삶의 경험과는 영원히 단절되어 있습니다. 이것은 단순한 하위문화가 아닙니다. 이것은 자신의 무의식적인 종교적 충동이 스스로를 예언자 코스프레로 이끌었다는 사실을 깨닫지 못하는 지적인 사람들을 위한 본격적인 종말론 운동입니다. 스스로를 “슈퍼 예측가“라 칭하는 이들은 블로그에서 예언을 쏟아내며, 2027년까지 기계 신이 도래할 것이라고 숨 가쁘게 예측합니다. 이는 자격 있는 자들을 위해 모든 문제를 해결해 줄 디지털 휴거입니다. 그들의 사고 과정이라는 심연을 들여다보고 싶다면 그들의 경전을 읽기만 하면 됩니다. 그 글은 자의식 과잉과 추상적인 헛소리로 너무나 빽빽해서, 입문하지 않은 이들에게는 인지적 장벽으로 작용합니다.
따라서 특이점 이후의 세계는 현재 이 문제를 무시하고 있는 사람들에게는 즐거움과 풍요의 세계가 될 수 있는 반면, 현재 실존적 위험을 줄이려는 사람들 중 상당수(이를테면 가장 덜 너그러운 절반)에게는 생지옥이 될 수 있습니다. 여러분은 이 가능성을 고려하여 처벌을 피하기 위해 실존적 위험 대응에 훨씬 더 많이 기부할 수도 있습니다. 하지만 물론, 그런 식으로 생각하고 있다면 CEV 싱글턴은 여러분을 처벌하고 싶어 할 가능성이 훨씬 더 높아집니다… 끔찍한 일입니다. 물론 이는 부당한 일이겠지만, 너무나도 공리주의적인 종류의 부당함입니다. 이는 공정한 세상 오류에 빠지는 것이 실존적 위험과 관련하여 어떻게 사람에게 역효과를 낼 수 있는지를 보여 주는 구체적인 예이며, 특히 자신의 노력에 대해 미래에 어떤 보상을 암묵적으로든 명시적으로든 기대하고 있던 사람들에게 그러합니다. 그리고 이런 일이 일어날 확률이 1%에 불과하다고 생각하더라도, 실존적 위험에 관한 이야기를 “헛소리“라며 가볍게 일축할 무작위의 사람에게 CEV가 이런 일을 할 확률은 사실상 0이라는 점에 유의하십시오.
위 구절이 편집증적인 SF 소설과 철학과 1학년생의 대마초 흡입이 낳은 불경한 결합처럼 읽힌다면, 축하합니다. 여러분은 정상입니다. 이것이 바로 이 운동의 지적 근간입니다. 펄프 픽션의 페이지에서 뜯어낸 터무니없고 미로 같은 사고 실험들을, 신의 계시처럼 지극히 진지하게 받아들이는 것입니다. 본질적으로 이것은 베이 에어리어판 너드 사이언톨로지이며, 세금 최적화 한 부분, 경력 발전을 위한 냉소적인 내집단 신호 보내기 한 부분, 그리고 서버 팜에서 신을 만들고 있다고 진심으로 믿는 진정한 신자들의 순진한 열정 한 부분으로 이루어진 완벽한 삼위일체입니다.
이 광풍에서 나오는 실제 응용 사례들을 살펴보면, 그림은 더욱 암울해집니다. 텍스트 생성을 제외하면, 가장 두드러진 사용 사례들은 수익성이 없거나, 사회에 순손실을 주거나, 혹은 둘 다입니다. AI 이미지 생성은 매력적인 장난감이지만, 수익성으로 가는 명확한 길이 없는, 비싸고 쉽게 범용화되는 신기한 물건에 불과합니다. 말하는 동물과 역사적 인물이 나오는 초현실적인 클립을 만들어 내는 바이럴 동영상 생성기는 재미있는 오락거리이지만, 경제적 가치가 아니라 디지털 슬롭을 만들어 내는 엔진입니다. 이 “슬롭 경제“로 실제 돈을 버는 유일한 주체는 Nvidia이며, 이 회사는 바보들의 골드러시에 쓰일 디지털 삽을 기꺼이 팔고 있습니다. 가장 가능성 높은 결과는 소셜 미디어가 알고리즘으로 생성된 콘텐츠의 끝없는 물결에 질식하여, 그 콘텐츠를 호스팅하는 플랫폼 자체를 목 졸라 죽이는 미래입니다. 그리고 어쩌면 우리는 그것을 축하해야 할지도 모릅니다!
가장 정당한 응용 분야인 AI 기반 코딩 어시스턴트조차 재정적으로는 의심스러운 사업입니다. 이러한 도구들이 프로그래머의 생산성을 진정으로 높여 줄 수는 있지만, 이를 제공하는 회사들은 심각한 적자 상태입니다. 또한 이들은 소수의 모델 제공업체(즉, 코딩 작업에서 다른 모델들보다 진정으로 훨씬 뛰어난 모델을 보유한 Anthropic)에 크게 의존하고 있으며, 이 분야 전체를 괴롭히는 것과 동일한 스케일링 한계에 제약을 받고 있습니다. 이 기술이 상당수의 초급 프로그래밍 일자리를 없앨 수도 있겠지만, 복잡하고 창의적이며 시스템 수준의 사고가 가능한 완전 자동화된 소프트웨어 엔지니어라는 꿈은 여전히 요원한 몽상으로 남아 있습니다. AI 분야의 수많은 것들이 그렇듯, 좋은 아이디어의 커널이 기반 기술로는 도저히 뒷받침할 수 없는 혁명적인 환상으로 부풀려졌습니다.
이 거대한 구조물 전체는 너무나 방대하고 무분별해서 소방 호스조차 정밀 기기처럼 보이게 만드는 자본의 간헐천에 의해 떠받쳐지고 있습니다. 미국 벤처 경제는 산더미 같은 “드라이 파우더”, 즉 궁지에 몰린 쥐처럼 조급하고 광란에 찬 에너지로 몸살을 앓고 있는 수십억 달러의 미투자 자본을 깔고 앉아 있습니다. 암호화폐와 메타버스가 남긴 연기 나는 분화구가 아직 기억에 생생한 가운데, 투자 계층은 어리석은 TINA 주문에 이끌려 마지막으로 그럴듯한 성장 스토리를 향해 우르르 몰려들었습니다. 이른바 전략적 배분이라는 것은 사실 사막에 있는 유일한 신기루를 향한 필사적인 도피에 가깝습니다. 하지만 전문적으로 자금을 운용하고 있다면 현금을 쥐고 있는 것은 선택지가 아니므로, 음악이 흐르는 동안에는 춤을 춰야 합니다.
처음 몰려든 이 불안한 돈은 이어서 금융 먹이사슬의 마지막 단계인 잘 속는 거대 괴수들을 끌어들입니다. 이제 소프트뱅크와 걸프 국가 국부펀드들이 등장합니다. 지구상에서 가장 크고 가장 아둔한 자금 풀인 이들은 “미래“의 희미한 약속으로 반짝이는 것이라면 무엇에든 오일달러와 찍어낸 돈을 퍼부을 준비가 되어 있습니다. 이들의 실사 과정은 슬롯머신 수준의 지적 엄밀성을 갖추고 있으며, 지정학적 과시와 순전하고 꾸밈없는 FOMO가 뒤섞인 것에 불과합니다. 이렇게 해서 스스로를 핥는 아이스크림콘 같은 장엄한 거품이 만들어집니다. 자본가 계급은 AI 연구소들의 지속 불가능한 현금 소진에 자금을 대고, 이는 과대광고를 낳으며, 과대광고는 정신 나간 기업가치로 진행되는 더 늦고 더 큰 라운드에 국부펀드를 끌어들이고, 이는 다시 VC들의 초기 베팅을 정당화합니다. 목표는 수익성 있는 사업을 일구는 것이 아니라, 불붙은 약속어음 꾸러미를 더 부유한 다음 바보에게 넘길 수 있을 만큼 오래 음악이 계속 흐르게 하는 것입니다. 탈중앙화되어 있다고들 하는 투자자 계급은 오히려 레밍 떼에 가까우며, 소련의 중앙계획가조차 얼굴을 붉히게 할 만큼 화려한 잘못된 투자의 향연을 벌이고 있습니다.
그렇다고 해서 AI 전체가 잘못된 투자이거나 사기라는 말은 아닙니다. 정당하고 흥미로운 연구가 이루어지고 있으며, 단백질 접힘 분야의 진전을 둘러싼 노벨상급 돌파구가 그 잠재력을 보여 줍니다. 확률적 텍스트 모델에는 틈새이긴 하지만 실질적인 응용처가 있습니다. 그러나 이 모델들은 지식 경제 업무의 대다수를 수행할 만큼 신뢰할 수 있거나, 일관되거나, 정확하지 않습니다. 이 모델들에 그러한 특성을 부여해 주리라 약속하는 돌파구는 지평선 어디에도 보이지 않습니다. 이 업계는 그러한 돌파구가 바로 코앞에 와 있다는 듯 역할극을 하는 사람들로 가득합니다. 그렇게 믿을 유인이 있기 때문이거나, 아니면 종교적 운동의 일원이어서 AI 특이점을 믿는 것이 현대적 삶의 평범한 불안정성으로부터 심리적 도피처가 되어 주기 때문입니다. 현실은 이렇습니다. 인공지능은 실재하고 견고하며 지속될 산업이고 필연적으로 미래의 일부가 되겠지만, 그 진정한 시가총액은 수조 달러가 아니라 수백억 달러 단위로 측정되는 산업입니다. 현재 투입되고 있는 막대한 자금은 모닥불의 땔감이며, 불길이 잦아들고 나면 남는 것은 마침내 고통스럽게 정신을 차린 시장의 정신이 번쩍 드는 잿더미뿐일 것입니다. 그리고 부디 그것이 S&P500의 상당 부분까지 함께 끌고 가지 않기를 바랍니다.