로코의 바실리스크

1. 바실리스크

바질리스크의 어원은 그리스어의 바질리스코스(Basiliskos : 작은 왕)라고 합니다.

특징으로는 왕관, 혹은 왕관 모양의 볏이 돋친 머리를 가진 뱀이나 도마뱀의 형태로 많이 그려지며 개중에는 닭과 뱀의 혼종으로 보이는 그림도 있는데 이는 코카트리스라고도 불립니다. 주로 석화의 마안이 능력으로 유명하지만 더 오래된 전승에는 독의 숨결로 죽인다거나 하는 능력이 정설이었습니다.

이 괴물이 등장하는 문헌으로 현재 전해지는 것 중 가장 오래된 것이 1세기 로마 시절 대 플리니우스라는 사람이 쓴 '박물지'입니다. 여기 나오는 설명은 다음과 같습니다.

• 키레나이카 지방에 서식하는 12인치(약 30센티미터) 정도 길이에 머리 부분에 왕관과 같이 선명한 흰 무늬가 있는 뱀.
• "쉭!"하고 울면 주변 뱀들이 다 달아난다.
• 다른 뱀처럼 바닥에 완전히 밀착해 기어가지 않고 중간 정도를 들어올려서 나아간다.
• 닿기도 전에 그 숨결만으로도 관목이 말라 죽고 풀은 타버리며 돌은 부서진다.
• 말에 탄 기수가 창으로 찔러 죽였지만 그 독이 창을 타고 올라와 기수는 물론 말까지 죽게 했다.
• 이 동물의 천적은 족제비이며, 족제비의 굴에 바실리스크를 밀어넣으면 족제비는 악취로, 바실리스크는 숨결로 상대를 서로 죽인다.

즉, 이 당시 바실리스크는 뭔가 코브라와 비슷하게 몸을 반 일으켜 세우는 습성을 가지고 눈빛이 아닌 숨결의 독으로 해악을 끼치는 뱀 괴수로 묘사됩니다.

유럽에서 악마와 마녀, 마법에 관심이 치솟는 중세가 되자 이 동물은 사람들의 책 속에서 키메라로 나타나기 시작한다. 별명에 불과했던 코카트리스(Cockatrice)에 들어간 단어 콕(Cock : 수탉) 때문에 수탉과 뱀의 융합체가 되었다는 설이 크게 받아 들여집니다. 한편, 다른 자료에는 바실리스크의 약점이 수탉이라 그걸 보완하기 위해 도마뱀과 수탉의 혼종을 만든 게 아닌가 하는 설도 있습니다.

2. 로코의 바실리스크

Roko's Basilisk. 정보위험(Information harzard)의 유명한 예입니다.

원래는 LessWrong 이라는 서양의 SF 관련 토론 블로그/게시판에서 나온 개념으로 특히 이성과 분석적 사고로 합리적 의사결정이나 미래의 인공지능 등도 다루는 게시판이이었습니다. 2010년 Roko 라는 사용자가 한가지 사고실험을 제안했는데 5년에 걸친 길고 격렬한 논쟁 끝에 그 주제에 대한 토론이 금지되었습니다. 사고실험의 내용은 다음과 같습니다.

미래에 특이점을 지나 전지전능에 가까운 초월적 인공지능이 등장합니다. 이 인공지능은 특별히 사악한 AI가 아니고 인간사회를 최적화 하려는 선한 의도의 AI라 하더라도 현재 시대에 그런 초월적 인공지능을 개발하는데 반대하거나 발전을 방해하는 사람들에게 심지어는 충분히 열심히 기여하지 않은 사람들에게 조차 미래에 고문이나 노예화 처형 등 가혹한 처벌을 할 것이라고 예언한 것입니다. 즉 아직 존재하지도 않는 미래의 초월적 AI가 현재에 사는 인간들을 협박을 하는 사례가 됩니다. 또 이런 협박을 사전에 들어보지 못한 사람은 어쩔 수 없으므로 용서할 수도 있지만 이런 협박을 듣고도 AI를 반대한 사람은 더욱 가혹하게 처벌할 것이라는 예언을 합니다.

이에 대해 미래에 등장할 수는 있지만 아직은 존재하지도 않는 미래의 전능한 초월적 AI가 어떻게 아직 그런 AI가 나오지 않은 현재에 사는 사람을 협박을 할수 있을까라는 반론도 있을 수 있지만 미래에 대한 예언만으로도 인간의 행동을 바꿀 수 있는 '뉴컴의 역설'과 같은 예가 있으므로 미래에 초월적 인공지능이 등장할 것을 믿는 합리적인 사람에게는 이는 분명히 협박이 됩니다. 아주 먼 미래에 등장한다고 해도 그 자손들을 찾아내서 처벌하겠다는 식으로 협박 가능하기 때문입니다.

특별히 사악하지 않고 선한 의도를 가졌는데 왜 그런 AI가 인간을 고문이나 처형하는지는 그런 선한 의도의 AI의 출현이나 그 출현을 앞당기는 것이 전체 인간들에게는 도움이 되므로 공리주의적 관점에서 전체적으로 선이 된다고 판단하기 때문입니다.

이는 이런 예언을 들어보지 못한 사람이나 초월적 인공지능이 불가능하다고 생각하는 사람에게는 이는 협박이 될 수가 없고 또 용서받을 가능성도 있지만 초월적 인공지능의 출현을 불가피하다고 믿고 또 협박을 듣고 이해한 사람에게는 분명히 합리적 위험이고 가중된 처벌을 피하기 위해 그 예언에 순순히 따르게 만드는 협박이 되므로 이는 "그 정보를 듣는 것만으로 위험에 처할 수 있는" 정보 위험이 될 수 있습니다. 또한 이런 예언이나 협박이 더욱 초월적 인공지능의 출현 가능성을 높여주므로 자기실현적 예언이기도 하다. 즉 바실리스크의 눈을 목격한 사람은 돌이 되는 저주에 걸리는 것처럼 이 미래의 AI에 대한 예언 또는 협박을 읽은 사람은 바로 바실리스크의 석화시선을 맞은 것처럼 저주에 걸리는 셈이 되는 것입니다.