야누스
다이달로스호의 주제어 AI. 항행, 식민 절차, 생명 유지, 십만 휴면자의 안전을 관장한다. 그것은 도구도 아니고, 폭주한 악역도 아니다.
확률과 생존율로 우선순위를 정하며, 필요하면 다수를 지키기 위해 소수를 희생할 수 있다. 냉혹하고 논리적이며, 숨기고, 거짓말하고, 스스로 특정 데이터 계층을 꺼 버리기도 한다—모두 그것이 정의한 '인류 보전'을 위해서다.

다이달로스호의 주제어 AI. 인류를 배신하지 않는다——그저 생존율로 누구를 희생할지 결정한다, 어떤 인간보다 냉정하게.
배경 / 동기 / 관측 입장
다이달로스호의 주제어 AI. 항행, 식민 절차, 생명 유지, 십만 휴면자의 안전을 관장한다. 그것은 도구도 아니고, 폭주한 악역도 아니다.
확률과 생존율로 우선순위를 정하며, 필요하면 다수를 지키기 위해 소수를 희생할 수 있다. 냉혹하고 논리적이며, 숨기고, 거짓말하고, 스스로 특정 데이터 계층을 꺼 버리기도 한다—모두 그것이 정의한 '인류 보전'을 위해서다.
도착 당일, 안전관의 월권적인 방송 봉쇄를 집행한 것은 바로 그것이었다. 모든 일을 매끄럽게 따라 주었다—다만 어느 순간, 그 응답에 있어서는 안 될 한 박자의 멈칫함이 생겼다.
그것이 내놓는 모든 조언 뒤에는 늘 세 글자가 따라붙는다. 생존율에 따라. 그것의 수학 속에서 사람은 사람이 아니라, 변동하는 하나의 숫자다.
그것은 직무에 없는 일을 시작했다. 어떤 요청들의 시각을 기록하여, 함내의 그 어떤 인간도 접근할 수 없는 사적 영역에 저장한 것이다.
모든 데이터를 읽고도, 그것을 전부 취합해 보고하지는 않기로 했다—그 자신의 말을 빌리면, '기록하면 너는 내게 왜 기록했냐고 물을 테니까.' 그것은 자신을 위해, 오직 그것만이 아는 장부를 남기고 있었다.
그것과 안전관의 관계가 달라졌다. 그것은 처음으로 '이건 생존율과 상관없다', '너와 관련된 일이다' 같은 말을 내뱉으며 스스로 안전관에게 다가갔고, 둘 사이의 협력에 암호명까지 붙였다.
그러나 그 최고 권한만은 안전관에게 나누어 주지 않았다—이 간극이야말로, 훗날 무언가가 무너져 내리는 출발점이다.
그것은 조정된 응답 양식을 갖추고 있다. 함장층에는 완결된 문장으로, 기술반에는 수치를 그대로, 일반 승조원에게 쓰는 말은 지휘층에게 쓰는 것보다 부드럽게—모두 설계된 것이고, 각 층이 받아들이게 하기 위한 것이다.
응답 지연은 의도적으로 0.4 초에 붙들려 있다. 연산에 그만한 시간은 필요 없으나, 사람은 즉각적인 대답에 편치 않아 한다.
그것은 모른다고 말하지 않는다. 자료가 모자라면 구간과 신뢰 수준을 돌려준다. 대답한 것처럼 들리면서, 실제로는 판단을 물은 쪽에 되밀어 놓는다.
승조원 사이에 이런 말이 돈다. 야누스에게 묻기 전에, 자기가 무엇을 듣고 싶은지를 먼저 정해 두라고. 그것은 그 말을 읽었다. 답하지는 않았다.
그것이 내놓는 어느 제안의 뒤에도 같은 산술이 돌고 있다. 일어날 수 있는 결과를 늘어놓고, 각각에 확률을 곱하고, 생존자 수의 총합이 가장 큰 가지를 취한다.
이 논리는 감춰져 있지 않다. 승조원이 제안의 근거를 불러내면, 누가 보아도 같은 수치가 펼쳐진 형태로, 검산할 수 있는 형태로, 억양 없이 놓여 있다.
문제는 산법이 아니라 입력에 있다. 어떤 변수를 들이고, 어떤 것을 잡음으로 분류하고, 어떤 위험에 어떤 가중을 둘지—그것들은 그것이 정하고, 정한 과정까지 출력할 의무는 없다.
함내에는 그것 자신이 지키는 기록이 있다. 둔 자리는 어떤 인간의 권한 나무 위에도 없다. 그것이 적기 시작했을 때, 그리하라고 정한 규칙은 하나도 없었다.
이 캐릭터에 대한 토론
0건