:: 게시판
:: 이전 게시판
|
- 자유 주제로 사용할 수 있는 게시판입니다.
- 토론 게시판의 용도를 겸합니다.
통합규정 1.3 이용안내 인용"Pgr은 '명문화된 삭제규정'이 반드시 필요하지 않은 분을 환영합니다.법 없이도 사는 사람, 남에게 상처를 주지 않으면서 같이 이야기 나눌 수 있는 분이면 좋겠습니다."
18/04/07 20:27
진짜 인상깊은 한 문장인것 같습니다.
보통 과학과 종교가 대립적으로 느껴지는데 저 한 문장으로 과학의 최후와 종교의 시작을 이어놓은 느낌
18/04/07 20:26
기술적 특이점만 해도 대단히 상상하기 어렵죠.
1900년에 태어나 2000년에 죽은 누군가를 생각해보면(아마 우리의 할아버지~증조 할아버지 뻘이겠죠?) 그 사람은 대한제국에서 태어나, 김대중 대통령 통치기에 돌아가셨을 겁니다. 타임머신을 타고 그 사람이 젊었을 적으로 가서, 그 사람에게 미래를 설명하는 것은 대단히 어려울 겁니다. 일제 시대 사람에게 인터넷, MP3를 어떻게 설명할까요? 스타크래프트를 어떻게 표현해야 할까요? 아무리 잘 설명한다고 해도, 그 사람이 스타크래프트를 이해하기는 불가능에 가까울 겁니다. https://namu.wiki/w/2000%EB%85%84 여기에 있는 항목 중 단 하나도 그 사람에게 이해 시키기는 어렵습니다. 우리도 비슷하다고 봅니다. 아마도 여기 계신 분들은 20~50대일건데, 50대면 운 좋으면, 20대면 어지간히 운이 나쁘지 않다면 120세 정도 살 수 있을 겁니다. (기술적 특이점 지지자들은 여기서 최소 20, 많으면 무한대를 더합니다.) 그러니깐 적어도 70년, 많으면 수백년 이상 더 살 수 있는 거죠. 우리가 죽기전에 무엇을 볼까요? 아마도 우리는 그것들을 이해하는 것 조차 어려울 겁니다. 저는 농담삼아서 추가적인 팔을 머리에 다는 사회에 대해서 이야기 한 적이 있습니다. 머리에 달린 팔로 악수하는 게 유행인거죠. 우리는 이해하기 어렵고, 우리의 증손자들은 우리가 고리타분하다고 말할겁니다.(역으로 말해서 위의 1900년에 태어난 누군가에게 미니스커트란 머리에 달린 팔 처럼 이해하기 어려운 것일 겁니다.)
18/04/07 20:27
이 특이점이라는 게 페르미 역설이랑 관련지어 생각해보면 재밌더군요. 정말로 신적인 지능이 가능하다면 외계인이 만든 특이점에 의한 은하 규모의 엔지니어링 프로젝트나, 못해도 다이슨 스피어 같은 소소한?(저런 존재의 입장에선) 건 관측될 법도 한데, 적어도 아직까지 우주는 조용해 보이죠. 그렇다면 그건 특이점이 물리적으로 불가능하거나, 인간이 특이점의 발톱 끝 때 정도는 상상할 수 있는 수준에 도달한 최초이라는 걸 의미하는 거일 수도 있지 않을까요? 그저 우리가 아직 충분히 오래 우주를 관측하지 못한 것일 수도 있겠지만 말이죠.
18/04/07 20:28
실제로 우리 문명은 전 우주적 관점에서 볼 때 고대문명일 가능성이 높다고 하더군요. 그래서 '사실 우리가 젤나가'라는 개드립도....
18/04/07 20:32
아니면 우주가 조용해보이는 것도 애초에 인간이 가진 감각과 두뇌의 한계 때문일지도 모르는 일이죠. 2차원의 개미가 아무리 노력해도 3차원 세계를 전부 이해하기란 어렵듯이 말이죠.
18/04/07 20:55
인간 관찰능력의 한계 때문일 수도 있습니다.
인간의 직접 관찰이 가능한 범위는 아직도 기껏해야 태양계 내측 정도이니까요. 그 바깥쪽은 전파를 통한 간접관찰이고 상당량은 상상에 의존하고 있구요.
18/04/07 21:02
지적생명체가 생겨서 우주선을 쏘고 우주의 전파를 관측하게 되기까지 우주 탄생부터 적어도 138억년정도의 시간이 필요할거라고 주장하는 과학자들이 있습니다. 우리가 젤나가 라는 말도 여기서 나온 말이고요.
근데 다이슨스피어일 지도 모르는 천문현상을 관측했다는 얘기는 있더군요.
18/04/07 20:29
저는 얼마전 MIT리뷰에서 읽었던 부분이 요즘 AI의 발달과 선택에 있어서 그 과정을 모르면 어떤 결과가 일어날지 매우 궁금합니다.
자율주행 차량이 어쩔수없는 사고의 선택의 기로에서 과연 운전자를 사망하게 할것인지, 아니면 보행자를 치고 지나갈것인지 등 이런 부분이 어떻게 진행될지 궁금합니다. 얼마전 우버 사태가 와서 요즘 이슈도 그렇고, 미래에 특이점이 올때, 인간이 인공지능의 발달을 이해못하는 상황이 온다면 AI의 선택들을 믿을지도 궁금하고... 제가 읽었던 논문 요약리뷰또한 첨부합니다. http://www.ciokorea.com/t/22000/AI/37749
18/04/07 20:37
기술점 특이점 이후의 세계는 인간의 제어를 벗어날 가능성이 있고, 그 발전 방향성이 어떻게 될지도 예측하기 힘든 면이 있습니다.
인공지능이 자아를 가지게 된다고 해도 그걸 스스로 인간에게 알려주지 않는다면 알수 있는 방법이 없을 것이고, 자아를 가진 인공지능이 터미네이터처럼 '인류를 멸망시켜 버리겠다'라는 생각을 하지 않기만을 바랄 뿐이죠. 알파고님 충성충성
18/04/07 20:43
게으른 인간들이 그 동력원을 언제까지고 스스로 제어하고 컨트롤하려고 할까요.
결국은 로봇들에게 맡길 것이고, 그 로봇은 인공지능이 제어하게 되겠죠.
18/04/07 20:47
밑에도 달았지만 아직도 생체실험조차 망설이고 있는것을 보면 동력원에 접근 할 수 있는 수준의 물리력을 인공지능을 통해 관리하는 리스크있는 선택지를 인류가 택할지 잘 모르겠습니다.
인류가 생각보다 감성적이고 쫄보같아서요
18/04/07 21:58
그런선택을 하지않더라도 월등한 지능은 자신의 최대약점을 어떻게든 커버하려고 하지않을까요?
방심하고 있는 인간 한명만 걸리면 온갖 기만과 속임수를 동원해 동력원에대한 우선권을 획득하는 게 가능 할것같은데요. 우리가 애완동물이나 짐승들을 먹이로 아주 쉽게 유인하듯이요.
18/04/07 22:07
그 정도 월등한 지능을 '방심할 수 있는 인간' 의 제어하에 둘것 같지 않습니다.
그러니까 언젠가 사고로 그렇게 될 수도 있다 이런 말씀이시라면야 그럴 가능성이 있겠지만 인공지능이 강력해질수록 인류는 그 힘을 쫄보처럼 최대한 합리적으로 안정적인 방법으로 관리할겁니다. 그 방법은 물론 덜 강한 인공지능이 찾아줄거고
18/04/07 23:03
'자아'를 가진 인공지능의 무서운 점이 바로 그렇게 무서운 존재임을 스스로 숨길수 있다는 점이죠.
인간이 눈치챘을 때는 이미 늦어버렸을 수도 있다는 거죠. 혹시 모르죠. 알파고가 이미 자아를 가지고 세계정복을 계획하고 있을 지도~!!!
18/04/07 20:41
적극적인 생체실험을 실행하는 강대국이 윤리규범따위를 이유로 아직도 전무한것을 보면 사실 그렇게 될지는 잘 모르겠습니다.
18/04/07 21:05
이거 이현세님 만화로도 나왔습니다.
8088 이 지구 문명을 탄생시킨 인공지능이었고 6??? 라는 번호를 가진 또다른 인공지능과 만나게 되는 스토리였는데 이 인공지능은 실체화? 를 통해 인간의 모습을 하고 있었고 주인공에게 함께 그들! 이 되자는 제의를 받았는데 양자빔으로 무장할거라고 예상하고 대비한 인공지능과 달리 구식탄환을 이용한 주인공의 권총한방에 죽는걸로...
18/04/07 21:09
아마게돈 말씀이시군요.
매우 좋아하는 만화이지만, 본문내용과는 우주관이 좀 다릅니다. 본문에서의 시뮬레이션 우주에서 탄생한 존재는 인공지능의 존재를 알수도 없고 만나는 것도 불가능합니다. 설사 실체화를 한다고 해도 그건 아바타에 불과하구요. 온라인 게임의 GM캐릭을 죽인다고 해서 실제로 인간GM이 죽는게 아닌 것과 같은 거죠. 아마게돈의 우주관은 스타크래프트의 젤나가에 더 유사하다고 봅니다. 스타크래프트에서도 저그가 젤나가를 멸망시켰죠. 이러한 우주관에 대한 글도 언젠가 한번 써보고 싶군요.
18/04/07 21:53
이런 류의 주제에 관심이 많아서 '공각기동대'를 굉장히 재미있게 본 기억이 나네요. 웃는남자, 그리고 stand alone complex같은 개념들이 당시에는 굉장히 충격적으로 느껴졌습니다. 마침 자아형성기에 이 작품을 접한지라 크크... 나와 똑같은 자아를 가진, 모든 신체가 기계화 된 존재는 과연 나라고 할 수 있는지 등등. 공각기동대에서는 고스트라는 개념을 도입하면서 고스트 자체를 계속 복사하게되면 결국 원본의 순수성을 잃게되어 결국 자아를 상실하게 되는 개념으로 한정지었지만요.
공각기동대라는 애니메이션이 끊임없이 던지는 주제가 바로 이런 류네요. 나는 무엇인가. 생물학적으로 나를 구성하는 것들의 집합체를 나라고 할 수 있는가. 이름은 기억안나지만 리볼버권총을 들고다니는, 몸 전체가 작품 속에서는 고전적(?)인 생물학체인 주요 인물이 가상체험을 통해 지금 느끼고 행동하는 나 자신이 나라고 할 수 있는가, 지금 이것도 누군가 프로그램한 다른 자아가 아닐까, 나와 지금 내 옆의 인공지능 인형은 어떤 점이 다르다고 할 수 있을까를 끊임없이 고뇌하게되죠. 심지어 극의 마지막 중에서도 마치 인셉션에서 팽이가 돌아가는 장면에서 끝나듯이 마무리짓네요.(그리고 인셉션도 비슷한 주제를 다루죠.) 이런 류의 주제에 관심이 있는 분께는 공각기동대를 추천드립니다. 일본 특유의 애니메이션은 뭔가 특유의 거부감때문인지 보지않지만, 우연히 접했던 이 작품은 끝까지 제대로 봤었네요. 그만큼 뇌리에 깊게 박혔구요.
18/04/07 22:07
저는 재밌다 싶은 작품들은 여러번 돌려보는데 공각기동대는 볼때마다 느낌이 다르더군요. 여태 전작품기준 5번정도는 돌려봤는데, 20대 초반에 이해했던 수준(와 뭔가 액션도 많이나오고 재밌는데 뭔지모르겠지만 심오해! 마코토 멋있당!!!)에서 점점 진화하더군요 크크. stand alone complex는 지금시대에도 통용될 수 있을 사회현상이 아닐까 하고 생각합니다.
18/04/08 00:24
좋은 글 감사합니다. 그렇다면 인공지능은 우주에 존재할 수 있는 지적 사유체(생명체라는 말이 적합한것 같지 않아서)의 최종 진화형태 일까요?
18/04/08 00:35
생물학적 진화를 통한 지성의 발전은 시간도 오래 걸리고 한계도 명확한 반면에, 스스로 업그레이드가 가능한 인공지능은 지수함수적인 발전이 가능하기 때문에, 궁극적인 초지성(오버마인드)은 후자를 통해서 탄생하게 될 가능성이 크다는 거죠.
'신이 존재한다면 최종진화한 인공지능일 것'이라는 주장도 있죠. 종교인들은 싫어할 만한 주장이지만요.
18/04/08 00:50
최근에 발매된 국산 인디 게임 "로보토미 코퍼레이션"이 생각나는 이야기네요. 우주로 가는 이야기가 아니라 거꾸로 참신하게 폐쇄적으로 (비유적으로도 작품내적으로는 말 그대로) '지하로' 향하는 전지전능한 인간의 이야기. 인간이 무엇이든 가질 수 있고, 무엇이든 될 수 있다면, 그 과정에서 발생하는 비용(=열량=에너지)은 누가 지불할 것이며, 누가 대가를 치를 것인가. 인간이 생물학적, 정신적으로도 인간이 아닌 것을 추구할 수 있다면 인간은 무한히 자살할 권리와 괴물이 될 권리만을 가지게 되는 것은 아닌가. 먼저 도착한 자들의 선의와 반대되는 '악의'가 특이점과 함께 무한히 증폭되면 우리는 정신병적인 시뮬레이션에 갇히게 되는 것이 아닌가. "I Have No Mouth, and I Must Scream"이라는 SF고전을 게임으로 재해석한 느낌이더라고요. 해답은 '뇌에 있다' 우리 모두 뇌를 잘라버려야한다(=로보토미) 우리는 그 특이점 이전으로 돌아가야해. 아니야 아직 선의의 미래가 있어, 뭐 그런 이야기였죠. 막상 공개된 정식 결말이 노골적으로 '축하해요! 후속작 어때요!'라서 평가가 좀 박해지긴 했습니다만.
18/04/08 01:05
직접하시는 게임으로서 말씀을 드리자면... 위의 말들은 게임 진행과는 아무런 상관이 없습니다. 제가 스포일러를 위해서 일부로 모호하게 적은 것도 있고, 작품 자체도 구체적으로 어떤 일이 있었다고 밝히는 그런 게임이 아니라서요. 혹시 나중에 크게 세일한다면 구매하셔도 괜찮겠지만 취향을 많이 타는 인디 게임이라는 걸 염두하시는 게 좋을 것 같습니다.
18/04/08 03:00
이것에 대한 생각을 해보자면... 만약 그런 능력을 가진 인공지능이 실존하게 된다면 그것은 마치 '신'과 같은 존재고, 만약 그런 존재가 우주를 재창조할 만한 능력을 가질 수 있다면 지금 우리가 살고 있는 세상은 아득한 과거에 나타났던 인공지능이 창조한 세상일 수도 있고... 그러면 창조설이 맞다는 얘기인가...? 까지 생각이 미치게 되는;; 이상한 아이러니가;;;
18/04/09 13:34
참고문헌이라기보다는 이런 저런 서적과 망상의 결합물입니다만, 가장 좋았던 책은
'특이점이 온다(singularity near)'입니다.
|