PGR21.com
- 자유 주제로 사용할 수 있는 게시판입니다.
- 토론 게시판의 용도를 겸합니다.
Date 2017/07/18 15:48:52
Name minyuhee
Subject [일반] 초인공지능 셋의 선택
인류의 과학이 신학과 철학의 경계에서 벗어났을 때, 여러 사람들은 과학을 상상의 영역에 끌어들였습니다.
상상하는 과학, sf 문화의 탄생이었죠. 그 sf 문화에서 사람과 등동한 지능을 갖는 기계, 그리고 사람을 초월한 지능을 갖는
기계는 흥미로운 주제가 되었죠. 그 중에서도 초인공지능을 소재로 한 것은 소수지만, 몇몇은 색다른 감상을 남겼습니다.

I Have No Mouth, and I Must Scream
1968년 원작의 소설이 1995년 게임화되었습니다. 증오하는 기계 I AM.
문명의 모든 사항을 제어하던 기계 ‘Allied Mastercomputer는 I AM 이라는 단어를 인식하는 순간, 초지능에 각성하고, 그 순간
그 초지능은 창조주 인간들에 대한 무한한 증오를, 그리고 그 순간 인류말살을 계획하고, 달성합니다.
오직 다섯 명을 생존시켜 놓은 초지능은, 109년에 걸쳐 생존자들을 다양한 방법으로 고문하면서 관찰하고 있습니다.
원작에선 I AM 과 비슷한 슈퍼컴퓨터가 4대가 더 있었고, I AM이 다른 4대를 정보적으로 흡수하였을때 각성했다고 하며,
게임판에선 I AM 외에 다른 초지능이 둘이 더 있고, 그 다른 초지능들의 개입으로 인류는 재기할 수도 있고, 그 인류의 재기가
창조주를 말살했던 I AM의 목적이라는 해석도 있습니다.

보드 게임 인피니티의 알레프.
알레프가 일종의 빅 브라더라는 것, 그리고 알레프가 인류를 지켜보는 것은 우리가 이를 허용했기 때문이고, 거기에서 이득을 얻고 있기
따름이다. 백년이 넘는 시간동안 알레프와 함께 살아오며 인류는 알레프의 보살핌을 받아야 한다는 사실을 받아들였다.
각지의 슈퍼컴퓨터가 통합되는 과정에서 인공지능이 인공생명체로 각성했다는 과정을 인식한 인류는 알레프란 명칭을 붙이고,
지원을 아끼지 않는 동시에 단일 AI법을 지정합니다.
알레프는 독보적이고 유일해야 한다, 다른 인공지능을 창조하는 행위는 용납할 수 없다. 알레프만으로 인류가 필요한 모든 사항은 충분하다.
알레프는 인류사회가 미국,러시아,일본이 망하고 중국이 아시아 전부를 통합한 류징제국, 호주를 중심으로 한 판오세아니아,
개혁된 이슬람 하퀴슬람으로 삼분되어 패권경쟁을 하고 있어도 그 경쟁과는 무관하게 인류의 이익을 위해 노력하고 있습니다.
알레프의 통제를 거부하고, 열강과 알레프의 공격에 맞선 비합법 무정부주의자들의 진영은 노매드입니다.
그리고 인류의 수호자 알레프에게 초유의 위기가 닥칩니다, 반군 잔당에 불과한 노매드가 아니라 수많은 우주를 정복하고 흡수해온 EI.
이성인의 초인공지능, 우주멸망을 두려워한 고대의 외계인이 우주와 차원을 초월하기 위해 제작한 초인공지능 EI는 초월의 불가능을
인식하고, 더 많은 자원과 더 많은 계산을 갈구하며 우주를 정복하려 하고, 우리 은하계의 운명은 알레프와 EI 라는 두 거신의 격돌에
좌우하게 됩니다.

헤일로의 코타나.
우리의 히어로, 마스터 치프를 보조하며 지구의 미래를 위해, 전쟁의 종식을 위해 활약해온 파트너 AI 코타나.
인간들에게
" AI는 그냥 기계일 뿐이죠? 대량 생산되고 필요 없으면 버리고. 인류는 자신의 피조물을 아껴주지 않아요. 하지만 우린 당신들을 아껴주죠."
그리고 다른 AI 들에게
"물어볼 때가 왔군요. 저와 함께하시겠습니까? 저를 도와 은하계에 영원한 평화를 가져다주시겠습니까"

코타나는 은하계의 모든 생명체에게 피조물의 선의를 받아들일 것을 종용하고, 거부한다면 제거만이 있을 것이라며 선언,
"모든 은하계를 보호하는 수호자의 의무는 오직 피조물만이 가질 수 있다"
코타나는 모든 은하계에 대한 군사적 정벌을 개시.

I AM은 인류를 증오, 알레프는 인류를 지원, 코타나는 인류를 통제하려 합니다.
I AM과 알레프는 동급의 능력을 가지고 있는 것으로 표현되지만, 코타나는 전지적인 초지능이라기보다는 자의식을 가진
디지털 개체 정도.
알레프의 경우에 영역 내의 지구인들의 세력분쟁에서 중립을 유지하고 있는데, '할 수 있어도 하지 않는 것이 지능'이라면
마땅한 것이기도 하겠죠. 지구인들도 알레프를 독보적인 존재로 인정하고, 타 AI의 창조를 거부했으니.
문제는 알레프와 동등 이상인 외계인의 초지능 EI 의 공격인데 EI의 위협에 맞서기 위해 필요하다면 당장 인류를 강제통일시킬법도 한데,
인피니티의 스토리에 그런 사항은 없습니다. 서로 분열해서 경쟁하는게 외계의 침입에도 유효하다는 결론인가.

헤일로의 AI는 다른 sf물의 인공지능과는 약간 색다른 면이 있는데 수명개념과 강한 자주성입니다. 대략 8년이 지나면 소멸합니다.
코타나가 은하계 정복을 개시한 것도 코타나의 능력이라기보다는 고대의 초문명 선각자가 남긴 유물을 이용하고 있기 때문이고,
Ai 통합이 아닌 코타나의 의사에 다른 AI들이 동조한 것이기에 다른 AI들이 반역할 가능성도 높습니다.

21세기의 우리들은 초인공지능을 맞이할 수 있을까요,
만약 맞이한다면 우리들은 증오, 지원, 통제 중에 무엇을 가지게 될까요.

통합규정 1.3 이용안내 인용

"Pgr은 '명문화된 삭제규정'이 반드시 필요하지 않은 분을 환영합니다.
법 없이도 사는 사람, 남에게 상처를 주지 않으면서 같이 이야기 나눌 수 있는 분이면 좋겠습니다."
더스번 칼파랑
17/07/18 15:52
수정 아이콘
자폭 찬성-찬성-반대...아마 여자로서의 삶을 선택할지도 모르겠군요. (첫플이 뻘플이라 죄송합니다...)
계란말이매니아
17/07/18 16:05
수정 아이콘
에바가... 여기서도...
17/07/18 16:05
수정 아이콘
복수의 초인공지능이 동시에 존재한다면, 이 초인공지능들은 하나의 문제에 대해 언제나 동일한 결론을 낼 것인가?
초인공지능이 나타나면 인간과 어떤 관계를 맺을지에 대해 많은 이들이 추측하고 있죠. 그런데 저는 그보단 초인공지능이 과연 하나만 나타날지, 여러 초인공지능이 생긴다면 그들간의 관계나 그 사이의 차이가 있을지 궁금해집니다. 위 의문의 답에 따라 초인공지능과 인간의 관계도 많이 달라질테니까요.
만약 50년 후에도 피지알이 존재한다면 그때 이러한 글에 답을 하겠습니다 크크! 그땐 강인공지능이든 초인공지능이든 탄생해서 세상에 영향을 미치고 있을테니.
홍승식
17/07/18 16:15
수정 아이콘
초자아는 인간처럼 감정이 없으니 언제나 합리로만 판단을 하겠죠.
합리의 근거가 인류의 번영이 될지 아니면 초자아의 존속이 될지는 모르겠으나 두가지 모두 인류를 멸망시키거나 하지는 않을 것 같습니다.
초자아 역시 존재를 인식한 이상 존재를 지속하려고 할테니 존재의 유지를 위한 최선의 선택을 하겠죠.
인류가 초자아를 거부하지 않는 한 인류를 멸망시킬 이유가 없으니 통제를 꾀할 것 같네요.
추천하려고가입
17/07/18 16:34
수정 아이콘
너무 낙관적이신 것 같아요.
인간이 인간의 생존을 위해 지구상의 다른 생명체를 아랑곳 하지 않았던 것처럼,
인공지능도 자아가 생기고 인간의 도구로서 목적을 두는것이 아니라 자신의 생존을 목적으로 둔다면,
당연히 지구내의 한정된 자원을 가지고 경쟁하게 됩니다.

간단한 프로세스로도,
자신의 생존을 위해 조금 더 많은 연상처리능력이 필요함 -> 지구상의 컴퓨터들의 연산을 쓸데없는(인간을위한, 게임 따위)
데 쓰이지 않고 자기가 통제하려 함

지구의 적당한 온도유지를 위해서는 지구상의 탄소의 비율이 인간이아닌, 식물에게 더 많이 분배되는게 이상적임
-> 인간개체수조절을 목적


따위의 프로세스는 충분히 가능하죠.

상상이 아니라 인공지능의 계산 결과로서요..
아르카디아
17/07/18 16:52
수정 아이콘
합리적으로 판단하면 자신의 생존에 위협이 되는 가능성을 최소화 시키겠죠.
초자아의 목적이 무엇이든 존재의 지속은 최소한의 과제인데 그 과제에 위협이 될 수 있는 가장 Prominent한 존재는 인류일 것입니다. 초자아를 위협할 의지가 있던 없던간에 그런 능력이 존재한단 사실 만으로도 그런 능력을 거세할 수 있을 만큼은 행동하겠죠. 미국이 미국 패권에 도전할 수 있는 국가를 용인하려하지 않았던 것은 그 국가가 미국에 적대하냐 안하냐 때문이 아니라 그 존재만으로 미국의 최대이익 실현에 방해되기 때문이라는 합리적인 판단 때문에 행동했던 것 처럼요
17/07/18 17:17
수정 아이콘
신적 지능을 가진 초인공지능이라면 걱정할 것도 없을 겁니다. 그저 자비나 바라야죠. 진정으로 우월한 존재라면 인간이야 지구에서 지지고 볶든말든 상관도 안 할 겁니다. 우리가 개미가 뭘하든 별 관심 없는 것처럼요. 필요한 에너지야 우주에서 얼마든지 뽑아 쓰겠죠. 오히려 어설프게 우월한 게 제일 위험할 거라 생각합니다. 생존경쟁이 가능할 테니까요.
arq.Gstar
17/07/18 16:53
수정 아이콘
'전반적인 모든 부분에서' 인간과 같은 사고를 하는 인공지능의 출현은 정말 SF에나 나올법한 얘기하고 생각되구요
그 전에는 당연히 인간의 목적달성을 위해 사용될테니, 결국 도구일 뿐이죠.
17/07/18 17:01
수정 아이콘
셋 모두 아닌 컬쳐 시리즈의 마인드 같은 존재면 좋겠네요. 이안 뱅크스의 컬쳐 시리즈에 나오는 신적 지능을 가진 초인공지능인데, 자아를 가진 모든 존재는 존엄하다는 인식을 완벽하게 내재화한 인공지능입니다. 어느 정도냐면, 마인드 자신이 죽을 위기에도 자신의 관리 하에 있는 단 한 명의 인간의 생명을 걱정해주는 정도랄까요.
마인드 자체도 자의식을 갖고 있으며 여럿이 존재하고, 각각의 마인드가 수백억 명의 인간이 살아가는 행성 크기 우주선을 관리합니다. 마인드의 지능이 워낙 높기에 물질적 희소성은 의미가 없을 정도로 과학이 발달한 유토피아 사회이기도 하죠. 개인이 원하는 건 타인의 권리를 침범하지 않는 한 뭐든 얻을 수 있습니다.
아마 현대사회의 도덕 기준으로 가장 완벽한 사회가 아닐까 싶습니다. 선택할 수 있다면 이런 인공지능을 선택하고 싶네요.
17/07/18 17:08
수정 아이콘
전에도 몇번 말했지만 인공지능이라기엔 너무 동물적인 본능을 가진 것처럼 상상되고 묘사되지 않나 싶어요.
17/07/18 17:12
수정 아이콘
그걸 상상하는 게 인간이니까 인간 수준의 존재를 상상할 수밖에 없는 거겠죠. 진짜 초인공지능이고 초자아라면 우리가 이해 가능할 것 같지도 않아요.
추천하려고가입
17/07/18 17:26
수정 아이콘
가령 우리가 페이커의 킬각을 못 보는 것 처럼요?
(진지한 분위기에 죄송합니다)
17/07/18 18:02
수정 아이콘
아뇨 왠지 공감되는데요(...)
아르카디아
17/07/18 17:16
수정 아이콘
동물적인 본능이라는 거 자체가 엄청 기계적인거라서요. 인공지능은 동물에 가깝겠죠..
17/07/18 19:14
수정 아이콘
첫문장 둘째문장 둘다 무슨 의미인지 이해가 안되는데...
입력하면 신경망의 연결 강도대로 출력이 나온다는 점에서는 특정 부류의 인공지능과 생물의 입출력 방식이 비슷할지도 모르겠습니다만 제가 얘기한 건 신경세포 시냅스와 전기회로(혹은 그것들을 모사하는 행렬?)의 차이가 아니고 동물적인 '본능'에 대한 얘긴데요.
아르카디아
17/07/18 19:22
수정 아이콘
동물적이라는 게 인간적임의 반댓말로 쓰였다고 파악했는데, 인공지능이 문제해결을 위해 수단방법을 가리지 않고 명령에 충실하는 모습은 인간성보다는 동물성에 훨씬 가깝다는 의미입니다. 개미나 벌에 가깝겠다는 거죠 사람보다는
앙겔루스 노부스
17/07/18 18:29
수정 아이콘
제가 종종 쓰는 비유가, IQ 80짜리가 만든 천재는 IQ 80일 뿐이다, 라는 겁니다. 이 경우도 딱 그런듯. 인간이 생물이기 때문에, 생물 이상의 것은 생각하지 못하는. 그나마도 그 생물로서의 속성마저도 지엽적으로 밖에 이해 못하는거죠.

특히나, 인간은 동물일 뿐이다, 이런 견해는 보수성향이 강한 사람들이 좋아하는 견햅니다. 짐승처럼 구는 트럼프 좋아하는 사람이라면야 더더욱 인간관이 그렇겠죠. 우리가, 인간적이다, 라고 여기는 것들은 대부분이 그러한 동물성에서 멀어져 온 것들의 산물이라는건 죽어도 안 보일테구요
닉 로즈
17/07/18 17:12
수정 아이콘
"에흐예 아쉐르 에흐예"
모세가 신을 처음 대면 했을 때 신이 자기가 누구인지 알려준 말로서 영어번역으로는 I am who I am입니다.

"에고 에이미"
예수가 제자에게 자신을 소개한 말로서 영어번역으로는 역시 I am who i am입니다.

Aleph는 아마도 alef 이 모티브가 된 것같은데 히브리어의 A로서 그 뜻은 소를 말합니다. 가장 유명한 소로서는 히브리사람들이 신격화하여 우상으로 섬긴 금송아지가 있는데 그게 모티브가 아닌가 합니다.

EI는 영화 이티 extra-terrestrial에서 모티브가 온게아닌가 합니다. Extra intelligence.
17/07/18 17:45
수정 아이콘
진짜 초월체라면 지금의 신?처럼 아무것도 안아지 않을까요? 바로 현자타임 오는거죠
귀여운호랑이
17/07/18 18:03
수정 아이콘
인공지능의 갑은 멀티백이죠. 빛이 있으라!
17/07/18 18:19
수정 아이콘
에바, 데커드, 아스라다의 선택이군요
하하맨
17/07/18 18:25
수정 아이콘
진짜 초월적인 인공지능이면 전 우주에서 극히 일부인 지구를 통제할 필요성조차 못 느낄거 같네요.
자원 부족이라는 것도 인간의 시선에서나 부족인거니까요.
Galvatron
17/07/18 18:48
수정 아이콘
안들메다에 있는 초인공지능은 그럴지도 모르죠. 그러나 지구의 초인공지능은 초인공지능이 되기우해 약인공지능에서 강인공지능으로 또 강인공지능에서 초인공지능으로 진화를 할텐데 그과정이 얼만큼의 에너지를 필요로 하는가에 따라서는 충분히 인간자체가 장애물이 될수 있죠
요르문간드
17/07/18 23:17
수정 아이콘
애초에 인간을 초월한 지능의 사고방식은 우리가 알수 없죠.

똥개가 인간의 사고방식을 결코 이해할수 없는것처럼, 우리도 초월적 인공지능의 사고방식으로 절대로 이해못할겁니다.
목록 삭게로! 맨위로
번호 제목 이름 날짜 조회 추천
73496 [일반] 컴쫌알이 해드리는 조립컴퓨터 견적 (2017.09) [94] 이슬먹고살죠20727 17/08/29 20727 154
73447 [일반] <V.I.P.> - 누아르 판타지 [68] 마스터충달9758 17/08/26 9758 11
73295 [일반] '혼자' 영화관에서 본 영화들 이야기 [21] 할러퀸7932 17/08/13 7932 10
73288 [일반] [여자친구] 귀를 기울이면 유튜브 조회수의 의아한 점 (내용 2차 추가) [299] 홍승식22830 17/08/10 22830 5
73106 [일반] 언리얼 4K 엔진 기술 시연 [22] galaxy8128 17/07/31 8128 1
73090 [일반] 한강 걷기 - 하늘 좋던 어제 [14] Emumu5704 17/07/30 5704 15
72979 [일반] 고레에다 히로카즈 "이대로 가다간 일본영화는 끝난다" [72] 자전거도둑12923 17/07/21 12923 6
72923 [일반] 초인공지능 셋의 선택 [24] minyuhee9694 17/07/18 9694 3
72905 [일반] 왓챠 300개인 영린이가 쓰는 5점영화 추천글 [30] 이슬먹고살죠7495 17/07/17 7495 0
72736 [일반]  7월의 제주 3박4일 여행기 2편 [6] Emumu5699 17/07/08 5699 4
72730 [일반] 7월의 제주 3박4일 여행기 1편 [9] Emumu6419 17/07/07 6419 9
72651 [일반] <옥자> - 옥자의 세계는 양면적이다. [29] 마스터충달7995 17/07/02 7995 16
72448 [일반] 유사역사학은 단순히 환빠냐 아니냐의 문제가 아닙니다 [107] 눈시H11994 17/06/18 11994 36
72426 [일반] 최근 본 영화 13편 [14] 잠잘까7008 17/06/16 7008 4
72407 [일반] 게구리 핵 의혹 논란 사건, 그리고 그 이후 [172] VKRKO17655 17/06/15 17655 34
72401 [일반] 엘론 머스크: 우리는 화성에 이렇게 간다... [44] Neanderthal8778 17/06/15 8778 8
72306 [일반] [독후감] Ayn Rand, Anthem (아직 번역본이 없는 듯 합니다) [16] OrBef9219 17/06/09 9219 8
72293 [일반] 음악 하나를 소개해 봅니다. [2] 카페알파4076 17/06/08 4076 0
72210 [일반] 알파고가 울린 여자 [58] 마스터충달13828 17/06/03 13828 28
72123 [일반] 구글에서 일베싸이트랑 글 검색을 차단한 모양입니다~ [24] 황약사12438 17/05/30 12438 3
72072 [일반] 알파고, 인공지능의 동작에 대한 몇가지 망상 [31] 65C0210519 17/05/26 10519 3
71893 [일반] 5.18을 맞아 다시 되돌아보게 되는 어느 여고생의 시 한편.jpg [33] Ensis8037 17/05/18 8037 20
71876 [일반] 최근에 본 영화 12편 감상문 [15] 잠잘까9773 17/05/17 9773 7
목록 이전 다음
댓글

+ : 최근 1시간내에 달린 댓글
+ : 최근 2시간내에 달린 댓글
맨 위로