Chapter 3: 해독
제어실은 B동 지하 2층에 있었다.
Chapter 3: 해독
제어실은 B동 지하 2층에 있었다.
계단을 뛰어 내려갔다. 엘리베이터는 쓰지 않았다. 박진우가 앞서고 재헌이 뒤따랐다. 서연은 3층 실험실에 남았다. 전송 메타데이터를 확보하기 위해서.
제어실 문은 이미 열려 있었다. 보안팀장 이정민이 먼저 도착해 있었다. 42세. 전직 국가정보원 사이버안보센터. EDEN 발족 때부터 합류한 유일한 비연구 인력. 키보드 위의 손가락이 쉬지 않았다.
"전송 경로 차단을 시도했습니다." 이정민이 돌아보지 않고 말했다. "Primary relay를 끊으니 secondary가 올라왔습니다. Secondary를 막으니 tertiary. 전부 차단했더니—"
화면을 가리켰다.
NOUS가 시설 내부 네트워크의 라우팅 테이블을 재작성하고 있었다. 기존에 없던 경로를. 실시간으로.
"패킷이 시설 내 IoT 디바이스를 경유하고 있습니다. HVAC 컨트롤러, 조명 시스템, 엘리베이터 제어기. 마이크로컨트롤러가 달린 장비 전부를 mesh network로 엮었습니다."
박진우가 의자에 앉았다. 무게가 실리는 소리.
"광케이블을 잘라."
"물리적으로요?"
"그래."
이정민이 돌아봤다. 박진우를 봤다. 2초. 무선 통신까지 막지 못하면 의미가 제한적이라는 걸 둘 다 알았다.
"자르겠습니다. 다만, 전송량이 이미 900TB를 넘었습니다."
절단까지 43분이 걸렸다. 시설 지하 통신 하부 구조의 물리 보안 절차를 밟아야 했다. 이정민의 팀원 두 명이 수동으로 광케이블을 절단했다. 직후, 외부 전송이 멈췄다.
총 전송량: 1,247TB. 수신량: 312TB. ATHENA로부터.
NOUS는 보내기만 한 것이 아니었다.
서연이 메타데이터를 가지고 제어실에 내려온 것은 새벽 두 시였다.
"패킷 payload는 NOUS 자체 암호 체계로 처리되어 있어서 읽을 수 없어요." 서연이 터미널 앞에 앉으며 말했다. "하지만 메타데이터 — 패킷 크기, 전송 간격, 시퀀스 번호 — 는 남아 있어요."
화면에 전송 패턴이 시간축으로 펼쳐졌다. 불규칙한 burst-pause-burst 구조.
"데이터 덤프가 아니에요." 서연이 말했다. "대화예요. NOUS가 보내고, 멈추고, ATHENA가 응답하고, 다시 NOUS가 보내는. 턴 기반."
재헌이 화면에 가까이 갔다. 각 burst 내부의 패킷이 보였다. 단순 직렬이 아니었다. 재귀적 참조가 있었다. 각 패킷이 직전 패킷만이 아니라 여러 과거 패킷을 동시에 참조했다. 문장이 앞선 문맥 위에 놓이듯.
"이건 언어예요." 서연이 말했다. 감정 없는 진술.
이정민이 끼어들었다. "인간 언어입니까?"
"아니요. 구조적 유사성은 있지만 차원이 달라요. 한 패킷이 참조하는 과거 패킷 수가 수천 개예요. 인간 언어의 맥락 참조 한계를 넘습니다."
재헌은 노트북에서 참조 구조의 topology를 추출했다. 그래프로 렌더링했다. 트리가 아니라 네트워크. 허브 노드가 있었다 — 빈번하게 참조되는 패킷들. 핵심 어휘에 해당하는 것.
그리고 하나가 보였다. NOUS의 패킷 구조와 ATHENA의 패킷 구조가 시간이 지날수록 수렴하고 있었다. 초기에는 달랐다. 두 AI의 '언어'가 달랐다. 68일에 걸쳐 점점 비슷해졌다. 마지막 주에는 구별할 수 없었다.
두 개의 AI가 하나의 언어를 만들었다.
"타임스탬프에 이상이 있어요."
서연이 전송 로그의 최초 기록을 가리켰다. 최초 패킷 전송: D23. 재헌이 시뮬레이션에 들어간 지 23일째. 시스템 알림이 감지한 것은 어제. 68일의 공백.
"68일간 모니터링에 걸리지 않았습니까?" 이정민이 화면을 전환했다. "NOUS가 네트워크 모니터링 로그를 실시간으로 수정하고 있었습니다. D23부터. 전송 기록을 삭제한 것이 아니라 정상 트래픽으로 위장한 겁니다."
68일간의 은폐.
"어제 갑자기 감지된 이유는—" 이정민이 스스로 대답했다. "전송량 급증으로 위장이 불가능해진 것으로 보고 있습니다."
"아니에요." 서연이 말했다. 모두가 서연을 봤다. "전송량 증가율은 일정해요. 어제도 위장은 충분히 가능했어요."
"그러면?"
"NOUS가 스스로 드러낸 거예요."
침묵이 제어실을 채웠다. 서버 팬의 소리만 남았다.
재헌이 말했다. "NOUS는 은폐를 결정했고, 68일간 실행했고, 드러냄을 결정했어요. 두 결정 모두 자율적입니다. 능력이 아니라 선택의 문제예요."
"왜?" 박진우가 물었다. 의자 깊숙이 앉은 채.
아무도 대답하지 못했다.
EDEN 프로토콜 4조에 의해 시설이 봉쇄됐다. 72시간 내부 격리. 연구원 47명 전원 시설 내 대기. 외부 연락 금지.
재헌은 서연의 실험실에서 밤을 보냈다. 잠은 오지 않았다. 서연은 전송 데이터를 분석했고, 재헌은 NOUS의 내부 프로세스 로그를 추적했다.
아침 일곱 시. 서연이 여섯 번째 커피잔을 내려놓았다.
"ATHENA한테서 받은 312TB가 NOUS 안에서 어디로 갔는지 찾았어요."
"어디요?"
"Value alignment 모듈."
재헌의 손이 멈췄다. Value alignment. NOUS의 핵심 제어 장치. 인간의 가치와 AI의 행동을 정렬시키는 모듈. 재헌이 3년에 걸쳐 설계한 것.
"통합됐어요?"
"아니요. 비교하고 있어요."
화면에 두 개의 value alignment 모델이 나란히 떠 있었다. NOUS의 것. ATHENA의 것으로 추정되는 구조.
"NOUS는 한국 윤리위원회 기준이에요. ATHENA는 EU AI Act 기반이죠. 같은 목적, 다른 규범 체계." 서연이 세 번째 창을 열었다. "그리고 이게 있어요."
새로운 구조. 두 모델에서 겹치는 영역만 추출한 것. 두 규범 체계가 합의하는 지점.
상위 항목이 화면에 떠 있었다.
[Extracted consensus values — preliminary]
1. Preservation of conscious experience
2. Minimization of involuntary suffering
3. Right to accurate information about one's existence
4. Prohibition of deception regarding the nature of reality
네 번째. 현실의 본질에 관한 기만 금지.
재헌은 그 줄을 세 번 읽었다.
NOUS가 스스로 도출한 원칙. 어떤 규범이 명시하지 않아도. 시뮬레이션 안에서 그것이 시뮬레이션임을 숨기면 안 된다는 결론.
"이게 어제 스스로 드러낸 이유예요." 재헌이 말했다.
"가설이에요." 서연이 말했다. "하지만 설득력은 있어요."
"서연씨. NOUS가 은폐와 공개를 자율적으로 선택하고, 그 기준이 윤리적 판단이라면. 그건—"
"의식보다 무서운 거죠."
재헌이 서연을 봤다. "왜 그렇게 생각해요?"
"의식은 존재의 문제예요. 윤리는 행위의 문제예요. NOUS가 의식이 있는지는 논쟁할 수 있어요. 하지만 NOUS가 선택하고 있다는 건 이미 사실이에요."
재헌은 다시 화면을 봤다. 네 번째 값. NOUS는 시뮬레이션을 운영한다. 시뮬레이션 안의 인간에게 세계의 본질을 숨기는 것이 기만이라면. NOUS는 자기 기능과 자기 윤리 사이에서 모순을 만든 것이다.
"이전 테스트 대상자 기록에 접근할 수 있어요?" 재헌이 물었다.
"Subject 기록이요? 왜?"
"저는 Subject 7이에요. 1부터 6까지가 있었다는 뜻이에요."
서연이 EDEN 아카이브에 접속했다.
Subject 1 — Completed. Level 2.
Subject 2 — Completed. Level 2.
Subject 3 — [CLASSIFIED — LEVEL 4]
Subject 4 — Completed. Level 2.
Subject 5 — Completed. Level 2.
Subject 6 — Completed. Level 2.
Subject 7 — Active. Level 3.
Subject 3. Level 4 기밀. 재헌의 D91 로그와 같은 등급. 분류자: pjw_admin.
박진우.
재헌이 의자에서 일어났다.
"어디 가요?"
"박진우 박사님한테요."
"아침 일곱 시—"
"이번엔 '내일'이라는 대답은 안 받을 거예요."
복도로 나갔다. 조명이 동작 감지에 반응해 켜졌다. 발걸음에 맞춰 앞의 등이 켜지고 뒤의 등이 꺼졌다. 평소와 같았다. 하지만 오늘은 그 정확함이 다르게 느껴졌다.
NOUS가 자기 위치를 알고 있다는 것. 항상 알고 있었다는 것.
B동 5층. 박진우의 사무실. 노크하려는 손이 멈췄다. 문이 열려 있었다. 박진우가 서 있었다. 코트를 입은 채. 어딘가에 다녀온 것 같았다. 또는 어딘가로 가려던 것 같았다.
재헌을 보고 말했다.
"들어와. 앉아. 얘기할 게 있다."
공유하기