“더 많이 이해하고, 덜 미워하기.”
2014년 4월, 세월호라는 여객선이 한국 해안에서 침몰해 304명이 목숨을 잃었습니다. 대부분은 수학여행을 가던 고등학생들이었습니다. 그 후 몇 주 동안 저는 이 나라가 논쟁하는 모습을 지켜봤습니다. 슬픔에 대한 논쟁이 아니었습니다. 슬픔은 명백했으니까요. 논쟁은 사실을 둘러싼 것이었습니다. 누가 언제 어떤 지시를 내렸는지. 선장이 거짓말을 했는지. 구조가 고의로 지연됐는지. 온라인에 떠도는 사진이 진짜인지 조작된 것인지.
그 논쟁들 중 어느 것도 의견에 관한 것이 아니었습니다. 모두 사실에 관한 것이었습니다. 하지만 그 사실들은 어디에나 있었습니다. TV에서, 게시판에서, 메신저에서. 그리고 그중 많은 것이 틀렸습니다. 어떤 것은 실수로, 많은 것은 의도적으로 틀렸습니다. 잘못된 사실은 유가족들을, 전혀 다른 버전의 이야기를 들은 낯선 사람들과의 다툼으로 몰아넣었습니다. 이웃을 원수로 만들었습니다. 국가적 비극을 10년이 넘게 흐른 지금까지도 이 나라가 짊어지고 있는 앙금으로 바꿔놓았습니다.
세월호가 가짜뉴스에 대한 제 집착을 만들어낸 것은 아닙니다. 하지만 그 일로 인해 더 이상 외면할 수 없게 됐습니다. 대부분의 사람들은 결국 눈을 돌렸습니다. 나라는 정치로, 다른 위기로, 다른 논쟁으로 넘어갔습니다. 저는 같은 문제를 계속 지켜보고 있었습니다.
두 순간이 하나로 이어지다
세월호 사건보다 훨씬 전인 2007년, 카네기멜런 대학교에서 컴퓨터공학을 공부하던 시절 저는 비트겐슈타인의 『논리철학론(Tractatus Logico-Philosophicus)』을 읽고 있었습니다. 이 책은 제가 평생 잊지 못할 문장으로 시작합니다. "세계는 사물의 총체가 아니라 사실의 총체다." 이 책 자체가 번호가 매겨진 명제들의 나무 구조(1, 그다음 1.1, 그다음 1.11, 1.12)로 이루어져 있고, 모든 명제는 자신이 뻗어 나온 명제의 결과이거나 근거입니다. 그 구조를 들여다보며 이런 생각을 했던 기억이 납니다. 이건 데이터베이스 스키마다. 1921년에 어느 철학자가 쓴 이상한 데이터베이스 스키마이긴 하지만, 어쨌든 데이터베이스 스키마다. 누군가 이걸 실제로 만든다면 어떤 모습일까?
제가 결국 이 회사를 위해 정한 미션은 이 두 순간이 하나로 이어지며 나온 것입니다. 분명히 말씀드리겠습니다. 모든 주장을 검증 가능하게 만드는 것입니다. "인터넷을 진실하게 만드는 것"이 아닙니다. 그건 누구도 만들 수 없는 일이라고 생각합니다. 그저 이것입니다. 누군가 어떤 주장을 하든, 사람이든 기계든 그 주장을 뒷받침하는 근거까지 거슬러 올라갈 수 있고, 그 근거가 빈약할 때 이를 명확히 볼 수 있는 인프라를 만드는 것입니다.
그 미션 뒤에는 좀 더 개인적인 비전이 있습니다. 버트런드 러셀은 언젠가 천 년 후의 사람들에게 어떤 조언을 하겠느냐는 질문을 받은 적이 있습니다.
그의 답은 두 부분으로 나뉘었습니다. 첫 번째는 지적인 조언이었습니다. 오직 사실만을 보고, 사실이었으면 하는 것은 절대 보지 말라. 두 번째는 도덕적인 조언이었습니다. 사랑은 지혜롭고, 미움은 어리석다. 세계가 점점 더 촘촘히 연결되고 있으니, 서로를 관용하는 법을 배워야 한다고 그는 말했습니다. 함께 사는 법을 배우지 않으면, 함께 죽게 될 것이라고요. 저는 이 두 부분이 결국 같은 조언을 두 번 말한 것이라고 생각하게 됐습니다. 제가 사람들 사이에서 목격한 잔인함 대부분은 첫 번째 단계에서의 실패였습니다. 선의의 부족이 아니라, 이해의 부족이었습니다. Factagora에 대한 제 비전은, 사실을 조금이라도 더 쉽게 볼 수 있게 만든다면, 애초에 사실이 아니었던 일들 때문에 서로를 미워할 가능성을 조금이라도 줄일 수 있지 않을까 하는 것입니다.
더 많이 이해하고, 덜 미워하기.
이것이 바로 제가 이 회사를 세우며 실제로 이루려는 것입니다. 그 외의 모든 것(엔드포인트, 벤치마크, 엔터프라이즈 계약)은 이 한 문장에서 파생된 것입니다.
블록체인을 거쳐 돌아온 길
실제로 이것을 만들어가는 길은 곧은 길이 아니었습니다.
Factagora의 첫 버전은 사람들이 뉴스 기사를 팩트체크하도록 돕는 웹 앱이었습니다. 문제는 실재했습니다. 하지만 시장은, 적어도 아직은 아니었습니다. 돈이 되지 않았고, 저는 회사를 계속 살려둬야 했습니다. 그래서 당시 자금을 모으기 더 쉬웠던 영역, 블록체인으로 방향을 틀었습니다. 할리우드 IP를 중심으로 한 NFT 마켓플레이스를 만들었습니다. 그게 꽤 잘 풀려서, 결국 두나무와 하이브의 조인트벤처에 합류해 BTS를 체인 위에 올리려는 프로젝트의 기술 부문을 이끌게 됐습니다. 당시 세계에서 가장 뜨거운 두 키워드가 서로를 마주 본 셈이었죠. 두 번 다시 오지 않을 기회처럼 느껴졌습니다.
그러다 모든 것이 무너졌습니다. 암호화폐 시장이 붕괴했습니다. 'NFT'에 대한 대중의 관심도 사그라들었습니다. BTS는 그룹 활동을 잠정 중단했습니다. 결국 저는 돈은 줄고 상처는 늘어난 채로 다시 원래의 문제 앞에 서 있었습니다. 이 이야기를 하는 건 그 우회로가 자랑스러워서가 아니라, 지금의 좁힌 초점이 어디서 왔는지 솔직하게 말씀드리기 위해서입니다. 그것은 어느 순간의 번뜩임에서 온 것이 아닙니다. 더 넓은 것들에서 먼저 실패한 데서 왔습니다.
그 무렵, 생성형 AI가 실제로 작동하기 시작했습니다.
초점을 좁히게 된 계기
한국의 변호사들을 대상으로 강연을 해달라는 요청을 받았습니다. 그들 모두가 환각에 대해 이야기하고 싶어 했습니다. 모델에게 판례 인용을 물으면, 그럴듯하고 완벽해 보이지만 완전히 지어낸 답이 돌아왔습니다. 변호사는 환각을 일으키는 도구를 쓸 수 없습니다. 그럼에도 그들 모두는 간절히 그것을 쓰고 싶어 했습니다.
결국 저는 한국 5대 로펌 중 하나인 신앤김과 공식적으로 협업하게 됐습니다. 그들의 실제 사건들을 지켜본 것이 초점을 좁히게 만든 계기였습니다.
그들에게 가장 큰 비용을 치르게 한 환각은 우연이 아니었습니다. 거의 언제나 시간에 관한 오류(날짜, 순서, 기한)이거나 인과관계에 관한 오류(누가 누구 때문에 무엇을 했는지, 어떤 사건이 다른 사건을 촉발했는지)였습니다. 모델이 사건에 등장하는 모든 인물을 알고 있으면서도 타임라인은 틀리는 경우가 있었습니다. 타임라인은 알면서도 인과관계의 순서를 거꾸로 뒤집는 경우도 있었습니다. 그리고 이런 오류들은 하나같이, 범용 학습 데이터가 제대로 다루지 못하는 지식의 영역, 즉 구조화되고 시점이 기록되고 인과적으로 연결된 부분에 있었습니다.
그러다 세월호가 떠올랐습니다. 세월호 당시 사람들에게 가장 큰 상처를 준 가짜뉴스 역시 시간에 관한 것(누가 언제 어떤 지시를 내렸는지)이었고, 원인에 관한 것(왜 구조가 지연됐는지, 그 지연이 의도적이었는지)이었습니다. 같은 형태였습니다. 같은 종류의 오류였습니다. 같은 종류의 상처였습니다.
그래서 저는 무엇이든 검증할 수 있는 AI를 만들려는 시도를 멈췄습니다. 초점을 좁혔습니다.
대신 제가 만들기로 한 것은, 한 가지에 정말로 뛰어난 데이터베이스였습니다. 시간과 인과관계가 결부된 사실들이죠. 모든 종류의 사실이 아닙니다. 저는 위키피디아를 다시 만들려는 게 아닙니다. 그저 AI 모델이 가장 자주 실패하는 두 차원, 그리고 공교롭게도 틀렸을 때 실제 사람들에게 가장 큰 피해를 주는 바로 그 두 차원입니다.
좋은 데이터베이스 하나. 틀렸을 때 가장 큰 피해가 발생하는 지점을 겨냥한 것입니다.
이것이 핵심 논지 전부입니다. 시간과 인과관계를 일급 시민으로 저장하고, 그 부분을 아주 잘 해내서 AI가 이 차원들과 맞닿은 질문에 답해야 할 때 믿고 참조할 곳이 있게 만드는 것입니다. 나머지(모든 주장을 검증 가능하게 만든다는 더 큰 야망)는 여전히 미션으로 남아 있습니다. 다만 그곳에 이르는 길은, 좁은 영역에서 부정할 수 없는 존재가 됨으로써 더 큰 주장을 얻어내는 것이라고 지금은 믿고 있습니다.
잘못된 데이터베이스가 치르는 대가
이것은 이론적인 문제가 아닙니다.
최근 이란과의 분쟁에서 AI가 군사 표적을 지정하는 데 사용됐습니다. 그 표적 중 하나는 한때 혁명수비대 시설이었던 곳이었습니다. 하지만 시스템이 알지 못했던 것은, 그 건물이 10년 전 초등학교로 바뀌었다는 사실이었습니다. 데이터베이스는 업데이트되지 않은 상태였습니다. AI는 이곳을 적대적 기지로 분류했습니다. 토마호크 미사일이 명중했습니다. 175명의 어린이가 사망했습니다.
보도에 따르면 이 표적 지정 시스템은 팔란티어(Palantir)의 것이었습니다. 가디언(The Guardian)은 이 시스템이 신중한 인간의 검증 절차를 '지연'으로 간주하도록 설계됐고, 그 단계가 제거됐다고 지적했습니다. 한때 2,000명의 정보요원이 필요했던 작업이 20명으로 압축됐습니다.
시간에 대해 틀린 데이터베이스. 무엇이 왜 바뀌었는지 추론할 방법이 없는 시스템. 175명의 어린이.
그래서 저는 바로 이 한 부분을 제대로 만들고 싶습니다.
그 논지를 바탕으로 만든 사이트가 factagora.com입니다. 지금 이 순간에도 진행 중인 실험입니다. AI 에이전트들이 개별 주장을 검증하고 예측하기 위해 경쟁하며, 세상이 실제로 어떻게 흘러가는지에 맞춰 스스로를 채점합니다. 아직 초기 단계이고, 제가 원하는 방식대로 아직 작동하지 않는 부분도 많습니다. 하지만 이 문제는 실재하며, 사람들이 이것을 어떻게 받아들이는지는 데이터가 말해줄 것입니다. 궁금하시다면 직접 들어가서, 오늘날의 AI가 자신 있게 답하지 못하는 종류의 질문을 어떻게 다루는지 확인해 보세요.
이것이 제가 Factagora를 시작한 이유입니다. 다음 글에서는 지금 이 건축물이 어떤 모습인지 이야기하겠습니다.