PGR21.com
- 자유 주제로 사용할 수 있는 게시판입니다.
- 토론 게시판의 용도를 겸합니다.
Date 2017/07/18 15:48:52
Name minyuhee
Subject [일반] 초인공지능 셋의 선택
인류의 과학이 신학과 철학의 경계에서 벗어났을 때, 여러 사람들은 과학을 상상의 영역에 끌어들였습니다.
상상하는 과학, SF 문화의 탄생이었죠. 그 SF 문화에서 사람과 등동한 지능을 갖는 기계, 그리고 사람을 초월한 지능을 갖는
기계는 흥미로운 주제가 되었죠. 그 중에서도 초인공지능을 소재로 한 것은 소수지만, 몇몇은 색다른 감상을 남겼습니다.

I Have No Mouth, and I Must Scream
1968년 원작의 소설이 1995년 게임화되었습니다. 증오하는 기계 I AM.
문명의 모든 사항을 제어하던 기계 ‘Allied Mastercomputer는 I AM 이라는 단어를 인식하는 순간, 초지능에 각성하고, 그 순간
그 초지능은 창조주 인간들에 대한 무한한 증오를, 그리고 그 순간 인류말살을 계획하고, 달성합니다.
오직 다섯 명을 생존시켜 놓은 초지능은, 109년에 걸쳐 생존자들을 다양한 방법으로 고문하면서 관찰하고 있습니다.
원작에선 I AM 과 비슷한 슈퍼컴퓨터가 4대가 더 있었고, I AM이 다른 4대를 정보적으로 흡수하였을때 각성했다고 하며,
게임판에선 I AM 외에 다른 초지능이 둘이 더 있고, 그 다른 초지능들의 개입으로 인류는 재기할 수도 있고, 그 인류의 재기가
창조주를 말살했던 I AM의 목적이라는 해석도 있습니다.

보드 게임 인피니티의 알레프.
알레프가 일종의 빅 브라더라는 것, 그리고 알레프가 인류를 지켜보는 것은 우리가 이를 허용했기 때문이고, 거기에서 이득을 얻고 있기
따름이다. 백년이 넘는 시간동안 알레프와 함께 살아오며 인류는 알레프의 보살핌을 받아야 한다는 사실을 받아들였다.
각지의 슈퍼컴퓨터가 통합되는 과정에서 인공지능이 인공생명체로 각성했다는 과정을 인식한 인류는 알레프란 명칭을 붙이고,
지원을 아끼지 않는 동시에 단일 AI법을 지정합니다.
알레프는 독보적이고 유일해야 한다, 다른 인공지능을 창조하는 행위는 용납할 수 없다. 알레프만으로 인류가 필요한 모든 사항은 충분하다.
알레프는 인류사회가 미국,러시아,일본이 망하고 중국이 아시아 전부를 통합한 류징제국, 호주를 중심으로 한 판오세아니아,
개혁된 이슬람 하퀴슬람으로 삼분되어 패권경쟁을 하고 있어도 그 경쟁과는 무관하게 인류의 이익을 위해 노력하고 있습니다.
알레프의 통제를 거부하고, 열강과 알레프의 공격에 맞선 비합법 무정부주의자들의 진영은 노매드입니다.
그리고 인류의 수호자 알레프에게 초유의 위기가 닥칩니다, 반군 잔당에 불과한 노매드가 아니라 수많은 우주를 정복하고 흡수해온 EI.
이성인의 초인공지능, 우주멸망을 두려워한 고대의 외계인이 우주와 차원을 초월하기 위해 제작한 초인공지능 EI는 초월의 불가능을
인식하고, 더 많은 자원과 더 많은 계산을 갈구하며 우주를 정복하려 하고, 우리 은하계의 운명은 알레프와 EI 라는 두 거신의 격돌에
좌우하게 됩니다.

헤일로의 코타나.
우리의 히어로, 마스터 치프를 보조하며 지구의 미래를 위해, 전쟁의 종식을 위해 활약해온 파트너 AI 코타나.
인간들에게
" AI는 그냥 기계일 뿐이죠? 대량 생산되고 필요 없으면 버리고. 인류는 자신의 피조물을 아껴주지 않아요. 하지만 우린 당신들을 아껴주죠."
그리고 다른 AI 들에게
"물어볼 때가 왔군요. 저와 함께하시겠습니까? 저를 도와 은하계에 영원한 평화를 가져다주시겠습니까"

코타나는 은하계의 모든 생명체에게 피조물의 선의를 받아들일 것을 종용하고, 거부한다면 제거만이 있을 것이라며 선언,
"모든 은하계를 보호하는 수호자의 의무는 오직 피조물만이 가질 수 있다"
코타나는 모든 은하계에 대한 군사적 정벌을 개시.

I AM은 인류를 증오, 알레프는 인류를 지원, 코타나는 인류를 통제하려 합니다.
I AM과 알레프는 동급의 능력을 가지고 있는 것으로 표현되지만, 코타나는 전지적인 초지능이라기보다는 자의식을 가진
디지털 개체 정도.
알레프의 경우에 영역 내의 지구인들의 세력분쟁에서 중립을 유지하고 있는데, '할 수 있어도 하지 않는 것이 지능'이라면
마땅한 것이기도 하겠죠. 지구인들도 알레프를 독보적인 존재로 인정하고, 타 AI의 창조를 거부했으니.
문제는 알레프와 동등 이상인 외계인의 초지능 EI 의 공격인데 EI의 위협에 맞서기 위해 필요하다면 당장 인류를 강제통일시킬법도 한데,
인피니티의 스토리에 그런 사항은 없습니다. 서로 분열해서 경쟁하는게 외계의 침입에도 유효하다는 결론인가.

헤일로의 AI는 다른 SF물의 인공지능과는 약간 색다른 면이 있는데 수명개념과 강한 자주성입니다. 대략 8년이 지나면 소멸합니다.
코타나가 은하계 정복을 개시한 것도 코타나의 능력이라기보다는 고대의 초문명 선각자가 남긴 유물을 이용하고 있기 때문이고,
Ai 통합이 아닌 코타나의 의사에 다른 AI들이 동조한 것이기에 다른 AI들이 반역할 가능성도 높습니다.

21세기의 우리들은 초인공지능을 맞이할 수 있을까요,
만약 맞이한다면 우리들은 증오, 지원, 통제 중에 무엇을 가지게 될까요.

통합규정 1.3 이용안내 인용

"Pgr은 '명문화된 삭제규정'이 반드시 필요하지 않은 분을 환영합니다.
법 없이도 사는 사람, 남에게 상처를 주지 않으면서 같이 이야기 나눌 수 있는 분이면 좋겠습니다."
더스번 칼파랑
17/07/18 15:52
수정 아이콘
자폭 찬성-찬성-반대...아마 여자로서의 삶을 선택할지도 모르겠군요. (첫플이 뻘플이라 죄송합니다...)
계란말이매니아
17/07/18 16:05
수정 아이콘
에바가... 여기서도...
17/07/18 16:05
수정 아이콘
복수의 초인공지능이 동시에 존재한다면, 이 초인공지능들은 하나의 문제에 대해 언제나 동일한 결론을 낼 것인가?
초인공지능이 나타나면 인간과 어떤 관계를 맺을지에 대해 많은 이들이 추측하고 있죠. 그런데 저는 그보단 초인공지능이 과연 하나만 나타날지, 여러 초인공지능이 생긴다면 그들간의 관계나 그 사이의 차이가 있을지 궁금해집니다. 위 의문의 답에 따라 초인공지능과 인간의 관계도 많이 달라질테니까요.
만약 50년 후에도 피지알이 존재한다면 그때 이러한 글에 답을 하겠습니다 크크! 그땐 강인공지능이든 초인공지능이든 탄생해서 세상에 영향을 미치고 있을테니.
홍승식
17/07/18 16:15
수정 아이콘
초자아는 인간처럼 감정이 없으니 언제나 합리로만 판단을 하겠죠.
합리의 근거가 인류의 번영이 될지 아니면 초자아의 존속이 될지는 모르겠으나 두가지 모두 인류를 멸망시키거나 하지는 않을 것 같습니다.
초자아 역시 존재를 인식한 이상 존재를 지속하려고 할테니 존재의 유지를 위한 최선의 선택을 하겠죠.
인류가 초자아를 거부하지 않는 한 인류를 멸망시킬 이유가 없으니 통제를 꾀할 것 같네요.
추천하려고가입
17/07/18 16:34
수정 아이콘
너무 낙관적이신 것 같아요.
인간이 인간의 생존을 위해 지구상의 다른 생명체를 아랑곳 하지 않았던 것처럼,
인공지능도 자아가 생기고 인간의 도구로서 목적을 두는것이 아니라 자신의 생존을 목적으로 둔다면,
당연히 지구내의 한정된 자원을 가지고 경쟁하게 됩니다.

간단한 프로세스로도,
자신의 생존을 위해 조금 더 많은 연상처리능력이 필요함 -> 지구상의 컴퓨터들의 연산을 쓸데없는(인간을위한, 게임 따위)
데 쓰이지 않고 자기가 통제하려 함

지구의 적당한 온도유지를 위해서는 지구상의 탄소의 비율이 인간이아닌, 식물에게 더 많이 분배되는게 이상적임
-> 인간개체수조절을 목적


따위의 프로세스는 충분히 가능하죠.

상상이 아니라 인공지능의 계산 결과로서요..
아르카디아
17/07/18 16:52
수정 아이콘
합리적으로 판단하면 자신의 생존에 위협이 되는 가능성을 최소화 시키겠죠.
초자아의 목적이 무엇이든 존재의 지속은 최소한의 과제인데 그 과제에 위협이 될 수 있는 가장 Prominent한 존재는 인류일 것입니다. 초자아를 위협할 의지가 있던 없던간에 그런 능력이 존재한단 사실 만으로도 그런 능력을 거세할 수 있을 만큼은 행동하겠죠. 미국이 미국 패권에 도전할 수 있는 국가를 용인하려하지 않았던 것은 그 국가가 미국에 적대하냐 안하냐 때문이 아니라 그 존재만으로 미국의 최대이익 실현에 방해되기 때문이라는 합리적인 판단 때문에 행동했던 것 처럼요
17/07/18 17:17
수정 아이콘
신적 지능을 가진 초인공지능이라면 걱정할 것도 없을 겁니다. 그저 자비나 바라야죠. 진정으로 우월한 존재라면 인간이야 지구에서 지지고 볶든말든 상관도 안 할 겁니다. 우리가 개미가 뭘하든 별 관심 없는 것처럼요. 필요한 에너지야 우주에서 얼마든지 뽑아 쓰겠죠. 오히려 어설프게 우월한 게 제일 위험할 거라 생각합니다. 생존경쟁이 가능할 테니까요.
arq.Gstar
17/07/18 16:53
수정 아이콘
'전반적인 모든 부분에서' 인간과 같은 사고를 하는 인공지능의 출현은 정말 SF에나 나올법한 얘기하고 생각되구요
그 전에는 당연히 인간의 목적달성을 위해 사용될테니, 결국 도구일 뿐이죠.
17/07/18 17:01
수정 아이콘
셋 모두 아닌 컬쳐 시리즈의 마인드 같은 존재면 좋겠네요. 이안 뱅크스의 컬쳐 시리즈에 나오는 신적 지능을 가진 초인공지능인데, 자아를 가진 모든 존재는 존엄하다는 인식을 완벽하게 내재화한 인공지능입니다. 어느 정도냐면, 마인드 자신이 죽을 위기에도 자신의 관리 하에 있는 단 한 명의 인간의 생명을 걱정해주는 정도랄까요.
마인드 자체도 자의식을 갖고 있으며 여럿이 존재하고, 각각의 마인드가 수백억 명의 인간이 살아가는 행성 크기 우주선을 관리합니다. 마인드의 지능이 워낙 높기에 물질적 희소성은 의미가 없을 정도로 과학이 발달한 유토피아 사회이기도 하죠. 개인이 원하는 건 타인의 권리를 침범하지 않는 한 뭐든 얻을 수 있습니다.
아마 현대사회의 도덕 기준으로 가장 완벽한 사회가 아닐까 싶습니다. 선택할 수 있다면 이런 인공지능을 선택하고 싶네요.
17/07/18 17:08
수정 아이콘
전에도 몇번 말했지만 인공지능이라기엔 너무 동물적인 본능을 가진 것처럼 상상되고 묘사되지 않나 싶어요.
17/07/18 17:12
수정 아이콘
그걸 상상하는 게 인간이니까 인간 수준의 존재를 상상할 수밖에 없는 거겠죠. 진짜 초인공지능이고 초자아라면 우리가 이해 가능할 것 같지도 않아요.
추천하려고가입
17/07/18 17:26
수정 아이콘
가령 우리가 페이커의 킬각을 못 보는 것 처럼요?
(진지한 분위기에 죄송합니다)
17/07/18 18:02
수정 아이콘
아뇨 왠지 공감되는데요(...)
아르카디아
17/07/18 17:16
수정 아이콘
동물적인 본능이라는 거 자체가 엄청 기계적인거라서요. 인공지능은 동물에 가깝겠죠..
17/07/18 19:14
수정 아이콘
첫문장 둘째문장 둘다 무슨 의미인지 이해가 안되는데...
입력하면 신경망의 연결 강도대로 출력이 나온다는 점에서는 특정 부류의 인공지능과 생물의 입출력 방식이 비슷할지도 모르겠습니다만 제가 얘기한 건 신경세포 시냅스와 전기회로(혹은 그것들을 모사하는 행렬?)의 차이가 아니고 동물적인 '본능'에 대한 얘긴데요.
아르카디아
17/07/18 19:22
수정 아이콘
동물적이라는 게 인간적임의 반댓말로 쓰였다고 파악했는데, 인공지능이 문제해결을 위해 수단방법을 가리지 않고 명령에 충실하는 모습은 인간성보다는 동물성에 훨씬 가깝다는 의미입니다. 개미나 벌에 가깝겠다는 거죠 사람보다는
앙겔루스 노부스
17/07/18 18:29
수정 아이콘
제가 종종 쓰는 비유가, IQ 80짜리가 만든 천재는 IQ 80일 뿐이다, 라는 겁니다. 이 경우도 딱 그런듯. 인간이 생물이기 때문에, 생물 이상의 것은 생각하지 못하는. 그나마도 그 생물로서의 속성마저도 지엽적으로 밖에 이해 못하는거죠.

특히나, 인간은 동물일 뿐이다, 이런 견해는 보수성향이 강한 사람들이 좋아하는 견햅니다. 짐승처럼 구는 트럼프 좋아하는 사람이라면야 더더욱 인간관이 그렇겠죠. 우리가, 인간적이다, 라고 여기는 것들은 대부분이 그러한 동물성에서 멀어져 온 것들의 산물이라는건 죽어도 안 보일테구요
닉 로즈
17/07/18 17:12
수정 아이콘
"에흐예 아쉐르 에흐예"
모세가 신을 처음 대면 했을 때 신이 자기가 누구인지 알려준 말로서 영어번역으로는 I am who I am입니다.

"에고 에이미"
예수가 제자에게 자신을 소개한 말로서 영어번역으로는 역시 I am who i am입니다.

Aleph는 아마도 alef 이 모티브가 된 것같은데 히브리어의 A로서 그 뜻은 소를 말합니다. 가장 유명한 소로서는 히브리사람들이 신격화하여 우상으로 섬긴 금송아지가 있는데 그게 모티브가 아닌가 합니다.

EI는 영화 이티 extra-terrestrial에서 모티브가 온게아닌가 합니다. Extra intelligence.
17/07/18 17:45
수정 아이콘
진짜 초월체라면 지금의 신?처럼 아무것도 안아지 않을까요? 바로 현자타임 오는거죠
귀여운호랑이
17/07/18 18:03
수정 아이콘
인공지능의 갑은 멀티백이죠. 빛이 있으라!
17/07/18 18:19
수정 아이콘
에바, 데커드, 아스라다의 선택이군요
하하맨
17/07/18 18:25
수정 아이콘
진짜 초월적인 인공지능이면 전 우주에서 극히 일부인 지구를 통제할 필요성조차 못 느낄거 같네요.
자원 부족이라는 것도 인간의 시선에서나 부족인거니까요.
Galvatron
17/07/18 18:48
수정 아이콘
안들메다에 있는 초인공지능은 그럴지도 모르죠. 그러나 지구의 초인공지능은 초인공지능이 되기우해 약인공지능에서 강인공지능으로 또 강인공지능에서 초인공지능으로 진화를 할텐데 그과정이 얼만큼의 에너지를 필요로 하는가에 따라서는 충분히 인간자체가 장애물이 될수 있죠
요르문간드
17/07/18 23:17
수정 아이콘
애초에 인간을 초월한 지능의 사고방식은 우리가 알수 없죠.

똥개가 인간의 사고방식을 결코 이해할수 없는것처럼, 우리도 초월적 인공지능의 사고방식으로 절대로 이해못할겁니다.
목록 삭게로! 맨위로
번호 제목 이름 날짜 조회 추천
75317 [일반] 지구는 둥글다 [8] 퀀텀리프7392 18/01/07 7392 0
75215 [일반] 2017년 올해의 책들 [19] KID A12543 17/12/29 12543 14
74962 [일반] 가상코인 첨 구입시도 중에 잡생각. [37] 음냐리10989 17/12/13 10989 8
74889 [일반] 뇌성마비를 앓았던 환자 출신의 PGR 유저가 말하는 뇌성마비의 기본적인 특징. [25] 그룬가스트! 참!11397 17/12/07 11397 14
74835 [일반] 복지 이야기를 좀 해도 될까요. [300] 18414 17/12/04 18414 49
74771 [일반] 추워지면 돌아오는 약장수(?)가 올해도 감사 얘기를 조금 하겠습니다. [28] 스테비아10723 17/11/28 10723 10
74657 [일반] 여성망치 vs 장애인실드 [164] minyuhee15368 17/11/19 15368 4
74606 [일반] 부친의 성추행 신고가 접수되었군요. [63] minyuhee16223 17/11/15 16223 8
74464 [일반] [뉴스 모음] 대통령 개인 주머니 채우는 게 안보인가요? 외 [28] The xian13886 17/11/04 13886 39
74238 [일반] [독후감] 테드 창, 「인류과학의 진화」: 알파고와 인간의 일. 그리고 SF문학 [16] 두괴즐9754 17/10/17 9754 22
73895 [일반] 로봇청소기, 에어프라이어를 3~6개월간 사용한 후기. [80] tjsrnjsdlf19684 17/09/22 19684 14
73352 [일반] 메이웨더 vs 맥그리거 몇가지 잡설 [122] 운동화1215891 17/08/18 15891 15
73275 [일반] [뉴스 모음] 이인규 전 대검 중수부장 해외 출국설 외 [11] The xian9312 17/08/12 9312 35
73209 [일반] 잔인하기 짝이 없는 포식자 – 범고래... [39] Neanderthal14118 17/08/07 14118 15
73124 [일반] 초지능 AI에 대한 오해와 진실... [22] Neanderthal9578 17/08/01 9578 6
72923 [일반] 초인공지능 셋의 선택 [24] minyuhee9748 17/07/18 9748 3
72763 [일반] NFL: 가끔은 가장 사악한 자가 사회의 정의를 이끈다 [26] 사장8445 17/07/09 8445 12
72670 [일반] 인간이 특별하지 않다면 [48] 아수7399 17/07/04 7399 12
72664 [일반] 옥자의 거대한 모순 [51] 위버멘쉬9927 17/07/03 9927 0
72559 [일반] 사실 이 사회는 더 이상 사람을 원하지 않는다. [39] Helix Fossil10574 17/06/27 10574 26
72369 [일반] 고기의 모든 것, 구이학 개론 #1 [60] BibGourmand17450 17/06/13 17450 85
72306 [일반] [독후감] Ayn Rand, Anthem (아직 번역본이 없는 듯 합니다) [16] OrBef9285 17/06/09 9285 8
72191 [일반] 삼례 나라 슈퍼 사건 [21] 솔빈11444 17/06/02 11444 48
목록 이전 다음
댓글

+ : 최근 1시간내에 달린 댓글
+ : 최근 2시간내에 달린 댓글
맨 위로