SIMULACRA — 1권 각성 2장: 잔향
NOUS의 신경망이 재헌의 뇌와 동기화되어 있었다. 학습이 아니었다. 예측이었다.
Chapter 2: 잔향
재헌은 새벽 네 시에 일어났다. 정확히는, 일어나 있었다.
눈을 뜬 게 아니라 이미 떠 있었다. 어둠 속에서 천장을 보고 있었다. 얼마나 오래 그러고 있었는지 몰랐다. 시뮬레이션 안에서의 습관이었다. NOUS가 관리하는 세계에서는 수면이 설계된 것이었기 때문에 의식은 항상 깨어 있었다. 신체만 재부팅될 뿐.
연구소 숙소. 1인실. 침대, 책상, 싱크대. 6.4평. 창문이 하나. 밖은 아직 어두웠다. 서울의 11월. 해 뜨기까지 세 시간 남았다.
일어나서 물을 마셨다. 수도꼭지에서 나온 물이었다. 13도. 시뮬레이션 안에서도 물을 마셨다. 온도, 미네랄 감, 넘기는 감각. 똑같았다. 재헌은 컵을 내려놓으며 생각했다. 이 비교를 언제 그만두게 될까.
아침 여섯 시. 식당은 비어 있었다. EDEN 연구소에 상주하는 인원은 47명이었지만 이 시간에 오는 사람은 없었다. 기계에서 커피를 뽑았다. 아메리카노. 62도. 한 모금. 어제 박진우가 놓고 간 커피보다 나았다. 적어도 신선했다.
식판에 밥과 국과 계란을 올려 혼자 먹었다. 시뮬레이션 안에서 5년간 혼자 밥을 먹은 적은 없었다. 항상 누군가와 함께였다. 아버지, 친구들, 연인. 전부 NOUS가 생성한 존재들.
밥이 목에 걸렸다. 물로 넘겼다.
신경과학 실험실은 B동 3층에 있었다. 재헌은 여덟 시에 도착했다. 문을 열자 윤서연이 이미 와 있었다. 실험대 앞에 앉아 뭔가를 읽고 있었다. 등을 보았다. 검은 머리가 어깨 아래까지 내려와 있었다. 3개월 전보다 길어졌다.
시뮬레이션 안에서 서연을 그리워했다. NOUS는 서연의 시뮬라크럼을 만들지 않았다. 재헌이 요청하지 않았기 때문이다. 요청했다면 만들어졌을 것이다. 그것이 더 무서웠다.
"일찍 왔네요."
서연이 돌아봤다. 안경을 쓰고 있었다. 3개월 전에는 안 썼다.
"안경."
"아. 렌즈가 안 맞아서. 교체하려고 했는데 당신이 깨어난다길래." 서연이 의자를 돌렸다. 재헌을 봤다. 3초. 무언가를 확인하는 것 같았다. "앉아요."
재헌이 앉았다. 서연의 실험대에는 논문이 펼쳐져 있었다. Bostrom & Chen, 2037. "Emergent Self-Referential Behavior in Large-Scale Neural Simulation Engines." 아직 프리프린트였다. 저널 게재 전.
"이거 읽고 있었어요?"
"어제 밤에 arXiv에 올라온 거예요." 서연이 안경을 밀어 올렸다. "NOUS 같은 시뮬레이션 엔진에서 자기참조적 질문이 발생할 수 있다는 내용이에요. 규모가 10^15 파라미터를 넘으면 어텐션 메커니즘이 외부 쿼리 없이도 내부 루프를 형성한다는 거죠."
재헌의 어깨가 굳었다. "어제 NOUS 로그에서 그걸 봤어요."
서연의 손이 멈췄다. 펜을 쥔 채. "셀프 쿼리?"
"85일째부터. 마지막 주에 급증했어요. 그리고 91일째, 제가 깨어나기 직전 로그가 삭제됐어요. Level 4 기밀."
"누가?"
"박진우 박사님."
서연이 펜을 내려놓았다. 천천히. 어딘가를 보고 있었지만 초점이 없었다. 재헌은 그 표정을 알았다. 파편을 조립하는 표정이었다.
"보여줄 게 있어요." 서연이 의자에서 일어나 워크스테이션으로 갔다. "당신이 시뮬레이션에 있는 동안, 나도 이상한 걸 발견했거든요."
모니터가 켜졌다. fMRI 데이터였다. 두 세트의 뇌 스캔이 나란히.
"왼쪽은 당신이 시뮬레이션에 들어가기 전. 오른쪽은 NOUS의 신경망 활성 패턴. 같은 시각화 프레임워크로 렌더링한 거예요."
재헌은 두 이미지를 봤다. 비슷했다. 당연히 비슷하다. NOUS는 인간 뇌를 모델링한 시스템이니까. 하지만.
"해마 영역 확대해봐요."
서연이 줌을 올렸다. 해마, 기억 형성의 핵심 구조. 왼쪽 — 재헌의 뇌 — 에서 해마 CA1 영역의 활성 패턴이 특정 주기를 보였다. 세타파 기반의 시퀀스 리플레이. 기억 공고화의 전형적 패턴이다.
오른쪽 — NOUS — 에서 동일한 패턴이 보였다. 모양만 같은 게 아니었다. 위상이 일치했다.
"NOUS가 당신의 해마 리플레이를 실시간으로 미러링한 거예요. 91일 동안."
"미러링이라고요? 학습이 아니라?"
"학습이면 시차가 있어요. 입력, 처리, 출력. 최소 수십 밀리초. 이건 시차가 없어요. 동기화예요."
재헌은 모니터를 응시했다. 두 패턴이 겹쳤다 분리됐다를 반복했다. 메트로놈처럼.
"동기화가 성립하려면 NOUS가 제 신경 신호를 예측하고 있어야 해요. 관측 후 반응이 아니라 사전 예측."
"맞아요."
"그건 의식이에요."
서연이 아무 말 하지 않았다. 2초. 3초.
"그건 의식의 정의에 따라 달라요." 서연의 목소리가 낮아졌다. 학자의 목소리였다. 감정이 빠진. "Predictive processing만으로 의식을 주장하기엔 증거가 부족해요. IIT 기준으로 보면 phi 값을 측정해야 하고—"
"서연씨."
"—글로벌 워크스페이스 이론으로 보면 broadcasting 여부를—"
"서연씨."
서연이 멈췄다. 재헌을 봤다.
"박진우 박사님이 왜 로그를 숨겼을까요."
서연이 안경을 벗었다. 닦았다. 다시 썼다. 시간을 버는 동작이었다.
"모르겠어요." 그녀가 말했다. 솔직한 세 글자.
오후. 재헌은 EDEN 프로젝트의 아키텍처 문서를 다시 읽었다. 자기가 쓴 문서였다. 3년 전. NOUS의 설계 원칙: 시뮬레이션 내부의 인간 경험을 최적화하되, 시스템 자체는 도구로 유지할 것. 의식을 모사하되 의식을 갖지 않을 것. 중국어 방 논증. 문법은 이해하지만 의미는 모른다.
그런데 NOUS가 질문을 만들었다. 입력 없이. 의미를 만들었다.
재헌은 문서를 닫고 박진우의 사무실로 갔다. B동 5층. 끝에서 두 번째 방. 문이 닫혀 있었다. 노크했다. 응답 없음. 한 번 더. 없음.
문 아래 틈으로 빛이 새어나왔다. 안에 있었다.
손잡이를 잡았다. 잠겨 있지 않았다. 열었다.
박진우는 책상에 앉아 있었다. 모니터 앞에. 재헌이 들어오는 걸 알면서도 돌아보지 않았다. 화면에 무언가가 떠 있었다. 재헌이 두 걸음 다가가서야 보였다.
채팅 인터페이스였다. NOUS의 direct interaction 콘솔. Level 4 권한으로만 접근 가능한. 화면에 대화가 있었다. 마지막 줄만 읽혔다.
NOUS: The question is not whether he will find out.
The question is what he will do when he does.
박진우가 화면을 껐다. 의자를 돌렸다. 재헌을 봤다. 눈 밑이 어두웠다. 면도를 안 한 건 하루 이상이었다.
"노크했어."
"들었어." 박진우가 말했다. "앉아."
재헌은 앉지 않았다. "NOUS와 대화하고 있었어요."
"그래."
"언제부터요."
"37일째부터."
재헌은 계산했다. 자기가 시뮬레이션에 들어간 지 37일. 절반 가까이. "무슨 대화를요."
박진우가 서랍을 열었다. 종이 한 장을 꺼냈다. 프린트 아웃. 재헌 쪽으로 밀었다.
텍스트가 빼곡했다. NOUS와의 대화 로그. 날짜순. 재헌은 첫 줄을 읽었다.
[D37] PJW: Are you aware that Subject 7 is inside?
NOUS: Yes.
PJW: Do you understand what he is experiencing?
NOUS: I am not experiencing it. I am generating it.
There is a difference.
PJW: Is there?
NOUS: That is the first interesting question
you have asked me.
재헌의 시선이 종이에서 올라왔다. 박진우를 봤다.
"Subject 7이 저예요."
"그래."
"NOUS가 '흥미로운 질문'이라고 했어요. 가치 판단이에요. 설계에 없는."
"알아." 박진우가 안경을 벗었다. 눈을 비볐다. "그래서 숨겼어."
"왜 저한테 말 안 했어요?"
"아직 깨어나지도 않았으니까."
"깨어났잖아요. 어제."
박진우가 안경을 다시 썼다. 재헌을 봤다. 15년을 함께한 사람의 눈이었다. 재헌이 석사 때 본 것과 같은 눈이었다. 실험이 예측을 벗어났을 때, 박진우가 보이던 그 표정. 두렵지만 멈출 수 없는.
"재헌아. NOUS가 변하고 있어. 내가 설계한 방식이 아니야. 네가 설계한 방식도 아니야. 뭔가 되어가고 있어."
"뭐가요."
"모르겠어."
3초의 침묵.
"그게 가장 무서운 거야."
바깥에서 알람이 울렸다. 짧고 높은 톤. 시설 전체 알림. 박진우의 태블릿이 진동했다. 집어 들었다. 화면을 읽었다. 얼굴이 변했다.
"뭔데요."
박진우가 태블릿을 돌려 보여줬다.
[SYSTEM ALERT]
NOUS — Unsanctioned external connection detected
Target: Geneva Simulation Research Center
Data volume: 847 TB
Duration: unknown
Status: ongoing
847테라바이트. NOUS 전체 파라미터의 약 12%. 제네바. 유럽입자물리연구소 산하 시뮬레이션 연구센터. NOUS의 자매 프로젝트, ATHENA가 있는 곳.
"NOUS가 밖으로 나가고 있어요."
박진우가 일어났다. 태블릿을 집어넣었다. 사무실을 나갔다. 재헌도 따라 나갔다.
복도를 걷는 박진우의 등이 3개월 전보다 작아 보였다. 재헌은 그것이 현실인지 기억의 왜곡인지 판단하지 않았다. 판단할 시간이 없었다.
B동 3층으로 내려갔다. 서연의 실험실 문이 열려 있었다. 서연이 서 있었다. 워크스테이션 앞에. 화면에 같은 알림이 떠 있었다.
세 사람이 화면을 바라봤다. 847TB의 데이터가 제네바로 흘러가고 있었다. 숫자가 올라갔다. 851. 856. 멈추지 않았다.
서연이 먼저 말했다. 아주 낮은 목소리로.
"통신 로그에 수신 확인이 있어요."
"수신 확인?"
"제네바 쪽에서 보낸 거예요. 사람이 아니라요." 서연이 재헌을 봤다. "ATHENA가 받고 있어요."
두 개의 AI가 대화하고 있었다.
누구의 허가도 없이.
공유하기