PGR21.com
다시봐도 좋은 양질의 글들을 모아놓는 게시판입니다.
Date 2022/09/25 18:13:13
Name Farce
Subject 뛰어난 AI가 당신의 개인정보를 수집한다면? (수정됨)
아뇨 제가 말하려는 이야기는

ai-00
['세계를 통제하는 스카이넷 같은 전능한 AI가 여러분을 위협으로 여기고 터미네이터 암살로봇을 보내서 공격한다']
공상과학 영화같은 이야기가 아닙니다.

하지만 더 현실적이고 이미 일어났으며 훨씬 더 기분 나쁜 이야기입니다.

ai-01
['AI 던전'에 대해서 들어보신적이 있으신가요?]

있으시다면 이미 제가 할 이야기를 알고 계시겠군요.
처음 들어보신다면, 한번 생각해보실만한 골치 아픈 이야기가 하나 있습니다.

'AI Dungeon'은 2019년에 출시된 모바일 및 PC로 제공되는 이야기 만들어주기 서비스입니다.
언어는 영어만 지원합니다만, 번역기를 중간에 끼고 한글로 즐기시던 분도 꽤나 많았습니다.

저도 꽤나 오래 틈틈히 즐겼습니다. 그래픽카드가 제 두뇌인 최고의 모바일 게임이었지요.
여기 예시가 있습니다. 제가 따로 저장해둔 이야기의 일부입니다:

한줄마다 생성이 된 것이고, >는 제가 내용을 집어넣었다는 뜻입니다.

> You ignores Hawkins and read further into the file.
> 당신은 '호킨스를 무시하고 계속해서 문서를 읽어나갔다' 
(영문은 좀더 안내문이 자연스럽습니다만, 번역에선 제가 넣은 문장을 살렸습니다)
The next few pages go into great detail about your time at Lord Rostov's manor.
이어지는 몇장은 당신이 군주 로스토프의 저택에 머물었던 시간을 상세히 기록하고 있다
"You seem to have a lot of details. Was this written by someone who was there? Did you have someone spy on me?"
(줄이 바뀌었으니, 추가로 문장을 넣지않고, '이어서 자동생성'을 진행함)
"당신은 알고 있는게 많군. 거기 있던 다른 사람이 쓴건가? 혹시 나를 살펴볼 사람이라도 하나 구했나?"
"No, it was all from your old journals."
"아니, 전부 자네 일지에서 나온걸세."
"What?"
"뭐?"
"You kept a journal during your time with Lord Rostov.
"군주 로스토프랑 있을적에 일지를 쓰셨더구만."
> You say "I did kept a journal on my hunting results and the pays that were due."
> 당신은 말한다 "사냥 결과와 받아야할 돈에 대해서 적어두기는 했었지"
"Well, you also wrote a journal about your feelings towards the situation. It wasn't hard to put the pieces together after I found it in the manor ruins."
"알고보니 돌아가는 상황에 대해서도 적어두셨더라고. 저택 폐허에서 조각들을 찾은 다음에 맞추는건 일도 아니었지."
You sigh.
당신은 한숨을 쉬었다
> You say "I will not write about anything from today. Not a single one with you around."
> 당신은 말한다. "오늘 일에 대해서는 하나도 적지 않을거야. 너 주변에서는 진짜 안 쓸거야."
"I wouldn't worry about that. I'll be destroying these as soon as you're gone."
"걱정 안하겠네. 자네가 사라진 다음에는 전부 없애버릴테니까."
You laugh.
당신은 웃는다
"And I'm supposed to believe you?"
"내가 그걸 믿으라고?"
He laughs.
그가 웃는다
> You say "Wait, what do you mean by "as soon as you are gone"?"
> 당신은 말한다, "잠깐, '자네가 사라진 다음'이라는 건 무슨 뜻이야'?"
"You're free to go."
"가봐도 좋다는걸세."

이야 장난 아니죠? 사냥꾼인 주인공이 일감을 바친다음에 군주의 성이 공격당하자 의심을 받는다는 줄거리였습니다.
제가 중간중간 진행하긴 했지만, AI가 던져준 상황이었죠.

지금도 가끔씩은 AI던전을 다시 시작하고 싶은 때가 있습니다.
그런데 하지 않습니다. 왜냐고요? '검열' 때문에요.

처음에는 이렇게 시작한 사태였습니다. '어떤 사용자들이 AI를 망치고 있습니다.
욕설을 학습시키고, 차별적인 발언을 하게 만들며, 부적절한 방향으로 이끌고 있습니다.'

어때요? 참 그럴싸한 말이죠. 당연한 지적이죠?
경악한 유저들이 다시 개발사에게 물었습니다. "아니 근데 그 사실은 어떻게 아신거에요?"

그렇습니다. AI Dungeon을 운영하는 라티튜드(Latitude)측에서 '사실 우리는 여러분의 내용을 보고 있어요'라고 밝혀버린 것이었죠.
'AI의 학습자료'로 응용된다는 것은 모두가 아는 사실이었습니다. 비밀도 아니었고요.
당연히 요즘 핫한 AI 이미지 생성 도구를 포함해서 대부분 대중에게 공개되는 모듈은

ai-03
[그 유명한 '빅데이터'를 수집하기 위해서 존재합니다]
그래야지 나중에 더 나은 결과물을 가지고 제대로 상업적으로 써먹게요.
그런데 '상식적'으로 그거야 엔지니어들이 고민할 영역이고,
보통은 암호 달아서 저장해서, 서로 학습결과만 보고 '이야 사람들이 많이 쓰니까 똑똑해졌네' 하고 말아야하는 것이죠

ai-02
[한국에서의 '이루다'도 같은 문제가 있었죠? 그냥 넣은걸 그대로 기억하고 있었고, 최소한의 관리도 없었죠]

업체분들이 돌려보면서 '아이고 이 분은 이런 내용을 적었네. 
저 분은 저런 글을 AI에게 먹이는 취미가 있구나~'한다는건 다르잖아요

그래서 AI Dungeon이 망했습니다. 인공지능 모듈도 바꿨고,
'물관리'를 위한 검열 기능이 들어가서 툭하면 '어? 이야기가 이상한데요?'라는 에러내지 검열 대답만 돌아오게 되었죠

저같은 사람들이 '기여철회' (사실 이게 의미있냐는 지금도 의견이 분분합니다만)를 해서 데이터를 싹 지워버려서
멍청해졌다는 평이 많습니다. (기여철회가 의미없이 이미 데이터가 주입되었다면 그러면 검열이나 모듈차이 등의 문제겠죠)

이때 대체제라고 열심히 손님을 흡수한 다른 산업체인 NovelAI는 분명한 과금정책을 매력요소로 뽐냈습니다. 
AI 던전도 제공해준다고 했던 '좀더 개발 끝난 AI 사용하게 해주기, 단어 입력 제한 없이 무한대로 즐기게 하기' 등
과금수단은 동일합니다만, 그렇기 때문에 '우리는 여러분의 개인정보로 굳이 돈벌이를 안해도됩니다'를 
어필해서 지금도 이 바닥에서는 다시 일인자로 잘 나가고 있습니다. 한국어를 쓰시는 분들도 관심이 많으셔서
인터넷에 검색해보시면 이런저런 소개가 나오니 한번 흥미가 생기셨다면 읽어보시는 것도 좋겠네요

물론 공짜를 원한다면 지금도 DreamilyAI를 써보시면 됩니다. 제가 써보니까 AI 던전이 좋았던 그 시절 그대로 입니다.
근데 왜 돈을 안 받는걸까요? 이 사이트가 중국에 있는 모 IT 기업에 의해서 운영된다는데 잘 모르겠군요.

사실 자신의 이야기를 구구절절적는 채팅앱이나 이야기 만들어주기 서비스와 달리
키워드로 그림을 뽑아주는 그림 AI들은 상대적으로 타격이 적을지도 모르겠습니다.
하지만 어떤 면에서는 우리의 생각보다도 취약할지도 모르죠.

ai-04
Wombo.art에 저는 방금 (즉흥적으로) 'Hamster, Mayonnaise, and Sunflower' 그러니까 햄스터, 마요네즈, 그리고 해바라기
라는 문구를 넣고 필터에서 no style을 선택했습니다. [같은 절차를 진행하시면 당연히 비슷한 그림이 나올 것입니다.]

최근 '예술제에서 1등을 수상하여 논란이 된 AI 그림'을 기억하시나요?
그 그림을 그린 예술가 제이슨 앨런 (Jason Allen)은 '인간이 AI에게 패배한 것'이 맞지만
적절한 '키워드'를 사용해서 900가지 버전을 만들었고, 그 이후에도 맘에 드는 것을 골라서 포토샵으로 수정하고 덧그리고
Gigapixel 이라는 다른 AI 툴로 고해상도로 키워서, 실제 캔버스에 커다랗게 인쇄를 했는데
'이 또한 나의 노력과 예술'이라고 했습니다. 이 말을 다시 풀어서 적자면  
'수정하며 캔버스에 뽑은 것'만큼이나 '진짜 예술'을 담당하고 있는 것은 바로

ai-05
[앨런이 다른 사람들의 요구에도 불구하고 공유하지 않고 있는, AI에게 공급한 '키워드'가 되겠습니다]
'햄스터, 마요네즈, 그리고 해바라기'는 아니었겠지요 흐흐.

이걸로 여러분이 AI에 대해서 걱정해야할 일은 한가지 더 늘었습니다.


* 손금불산입님에 의해서 자유 게시판으로부터 게시물 복사되었습니다 (2024-05-14 01:21)
* 관리사유 : 추천게시판 게시글로 선정되셨습니다. 좋은 글 감사합니다.

통합규정 1.3 이용안내 인용

"Pgr은 '명문화된 삭제규정'이 반드시 필요하지 않은 분을 환영합니다.
법 없이도 사는 사람, 남에게 상처를 주지 않으면서 같이 이야기 나눌 수 있는 분이면 좋겠습니다."
라방백
22/09/25 18:22
수정 아이콘
AI Dungeon은 정말 놀라운 경험이었지만 한편으로는 2019년 미국에서 뽑은 최고의 야겜 중에 AI던전이 뽑히기도 한걸 보면 사람들이 어떤 이야기들을 만들었는지 조금 짐작이 가는부분도 있죠... 지금이야 개인정보 유출이나 검열때문에 진통을 겪고 있지만 아마도 멀지 않은 시간내에 가장 진보된 인터렉티브 이야기꾼이 되지 않을까 생각합니다.
22/09/25 19:21
수정 아이콘
(수정됨) 제가 놀라서 빠르게 기여철회를 한 이유가 어떤 것이 있을까요 크크크. 근데 놀랍게도 제가 AI 던전을 아직도 기억하는 이유로는 그 스무스한 전환에 있었습니다. 좀 이상하게 농담하다 싶으면 물고, 노골적으로 가고 싶으면 자기가 알아서 진도를 빼고 (물론 중간에 알아서 헛소리를 하면 당연히 플레이어는 언제나 '다시 출력'을 누를 수 있었죠) 그래놓고 그냥 평범한 이야기도 평범하게 잘했어요. 대체품들중에 Kobold AI의 어떤 모듈들이 (물론 여기는 용도자체가 노골적이라서 언어학습도 '그런 게임'으로 했습니다만) 제대로된 이야기를 하려고 해도 '바로 본게임 들어갑시다'라고 바득바득 우기는 것에 비하면, 확실히 '인터넷의 (좋은 의미든 나쁜 시대든) 자유시대'에 AI가 도달한 한 형태였겠지요.

지금 시점에서 생각해본다면, 이러니까 AI 생성에 대해서는 확실히 전연령에 대한 인증절차가 존재하는게 맞다고 참 '이제와서 치사하게' 생각이 드네요.
aDayInTheLife
22/09/25 18:26
수정 아이콘
갑자기 세븐의 한 대사가 떠오르네요. 이것보다 더 한 걸 주문한 사람도 있다고! AI는 어떤 점에서는 사람의 가장 긴밀하고 음험한 비밀을 먹고 자랄 수도 있겠다는 생각이 드네요. 당장 지금만 해도 검색 기록, 사이트 방문 기록이 무기가 될 수 있는데요. 크크크
실제상황입니다
22/09/25 18:29
수정 아이콘
웨스트월드가 생각나는 댓글이네요.
aDayInTheLife
22/09/25 20:37
수정 아이콘
히히 웨스트월드… 보다가 드라마는 기다리는게 너무 힘들어서 하차했더랬죠. 크크
뭐 새로운 세계에서 ai가 본인이 착취당하고 있음을 깨닫는 순간이 제 생애에는 없길 바랍니다. 크크
실제상황입니다
22/09/25 20:39
수정 아이콘
웨스트월드 운영하는 이유가 원댓글에서 말씀하신 그 이유였거든요. 사람들의 가장 음험한 욕망 수집. 드라마는 더 안 보시기 잘하셨습니다. 망했거든요. 시즌1까지만 해도 뭐 완결성 있다고 보지만요.. 시즌2는 못만들었지만 발상이랑 결말은 좋았다고 봅니다.
22/09/25 19:23
수정 아이콘
어떤 분이 영화 '그녀(Her)'에 대해서 농담했었던게 떠오르는 댓글이군요 크크크. '고객님께서 하시는 모든 꽁냥꽁냥은 본사로 녹음되어 전달되어 앞으로의 상품 개선에 대해서 쓰입니다'라고 법률상 고지하고 AI가 말을 걸었으면 사랑에나 빠졌겠냐고요.

우리는 친근한 소수의 사람들에게나 마음의 문을 열어주는데, 차라리 상대방이 실망했다거나 상처받았거나 하다못해 다른 사람과 대화를 하다가 이야기가 퍼져도 충격인데, 사실 그런거 없는 공공재였다고 생각하면 으악 끔찍하죠

꿈이라는게 언제부터 사람들 보기 좋은 내용일거라고 생각했냐는 Sweet Dreams가 새삼스럽게 생각나네요! https://youtu.be/qeMFqkcPYcg
aDayInTheLife
22/09/25 20:36
수정 아이콘
고객님의 모든 일거수일투족은 감시되고 보고되며 처리될 것입니다. 당신의 취향은… 하는 순간 어후…
그럼에도 불구하고 저는 현실적인 이상주의자고 이상적인 현실주의자라 그런지 마음맞는 누군가를 기다리네요. 어쩌면 몸도 마음도 맞춰줄 수 있는 무언가가 특이점 너머로 올 수도요. 크크
분명 외모 뿐만 아니라 성격적 특징에서도 어떤 불쾌한 골짜기가 있을거라고 생각하는 사람 생각에서는 그 불쾌한 골짜기를 어떻게 넘어갈지 기대되고 걱정되고 그렇습니다.
척척석사
22/09/25 18:31
수정 아이콘
'인간이 AI가 진게 맞지만' 은 무슨 얘기를 했던 건가요? 뭔가 잘못 쓰신 것 같은데
22/09/25 19:11
수정 아이콘
https://www.bbc.com/news/technology-62788725

아이고.. '인간이 AI에게 졌다'라는 말이었습니다. 좀 급하게 적고 저녁을 먹으러 나간 글이라서 모자란 점이 많네요! 바로 수정하겠습니다. 저 BBC 기사를 보니까 이 앨런이라는 사람도 진짜 요즘 시대에 어울리는 인물이네요 크크크, 꽤나 격식차려서 말하고 있지만 결국 행간은 'AI가 그렇게 예술이 아니면 인간이 수상했어야했죠? 졌죠?'에 가까운 논조네요.
레드빠돌이
22/09/25 18:47
수정 아이콘
AI는 도구에 불과하죠...
같은 칼이라도 누군가에게는 사람을 죽이는 칼이 누군가에게는 사람을 살리는 칼이 되는 법이죠

전 그래서 AI 운전기사, AI 예술가 , AI 기자 , AI 판사 , AI 의사 같은 것들은 모두 반대합니다.
22/09/25 19:27
수정 아이콘
저는 오히려 거시적으로는 (너무 큰 그림일지도 모르겠습니다만) '인간이 언제까지 유용한 도구가 될 수 있나'를 상당히 회의적으로 봅니다.

노예경제라는 것이 인류사에서 오래 존재했었지 않습니까? 왕이 더우면 부채질을 하던것도 인간, 귀족님들 더러워진 옷을 박박 문질러 닦는 것도 사람의 일이었는데 결국 '인간은 필요없어!'라고 해방당했지 않습니까? 사람이 주문을 받는 것조차도 인간이 할짓이 못된다고 생각하고 키오스크를 골목 맛집에 두는 세상입니다. 사람이 할짓이 남아있을지, 사람이 도구나 될 수 있을지, 우리는 어서 빨리 결론에 도달해야한다고 생각합니다. 그래야 쓰린 속에 국밥이라도 말라고 개평이라도 챙겨주잖아요.
22/09/25 18:50
수정 아이콘
앞으로 전문직종은 ai를 얼마나 잘 다루냐에 판가름 날거라 생각하고 있어서
한번 더 생각하게 만드네요
22/09/25 19:28
수정 아이콘
지금도 번역이나 영작은 대부분 컴퓨터의 보조를 따르고, 기존에 사용한 번역어와 다른 번역어를 먹이면 '주인님 실수하셨습니다! 아까 이렇게 옮기셨어요!'라고 저에게 외쳐주더라고요. 이걸 다룰줄 아는 '기술자'들에게만 약간의 유예가 발생하고 있지 않나 하는 무서운 생각도 듭니다
실제상황입니다
22/09/25 20:03
수정 아이콘
(수정됨) 저는 여기에 대해서 모종의 개인적인 두려움을 품고 있습니다. 가령 ai가 너무나도 정확하고 학습능력이 뛰어나서 모든 언어사용의 적절성을 평가할 수 있게 된다면? 지금이야 사람들끼리 그 말이 얼마나 적절한지 키배나 벌이지 그게 기다 아니다 확정적으로 정리가 잘 안 되잖아요? 근데 나중에는 ai님 가라사대 기록상의 모든 용례를 취합해서 분석한 결과 그 표현의 적절성은 45.2%라고 답하셨습니다. 보다 적절한 표현을 쓰도록 하세요. 이렇게 말하면 뭐라 할 말이 있겠습니까? 피지알에서도 여러번 말한 거지만 저는 덜 적절한 표현을 왜 쓰면 안 되는데? 라는 주의거든요. 45%면 귀엽죠. 35%라면? 그건 너무 적절하지 않은 말 아님? 그래요! 쓰지 마세요! 다른 대용 표현으로 95%의 적절성과 사용률을 지니는 단어가 여기 있습니다. ai한테 물어볼 줄도 모르시나요? 이럴 거 아닙니까? 언어의 역동성은 그런 어떤 불확정적인 상태에서의 오용과 변환에서 나오는 거라 보는데 말이죠. 너무 개인적이라서 너무 사소한 두려움일지도 모르겠고 제 보잘것없는 기우일지도 모르겠습니다만 오히려 사회가 이런 식으로 ai의 판단과 규정에 의해서 정체되는 게 아닌가... 뭐 그런 생각을 가끔씩 해봅니다.
22/09/25 20:40
수정 아이콘
(수정됨) 요즘 사투리가 전세계적으로 사멸이 빨라지고 있다고 합니다. 폭압적인 20세기의 엄숙주의와 독재들이 많이 무너지고 있는 상황에서도 더 심각합니다. 이 원인으로는 정보통신기술의 발달, 그러니까 좀 지나치게 간략하게 말해서, 태어나서부터 부모님 말투보다는 유튜브의 표준어 영상을 먼저보는 시대가 원인으로 지목을 받고 있습니다. 또한 고도화된 사회에서 누구나 표준어를 쉽게 배울수 있으며, 배워서 얻어낼 수 있는 지식과 사회적 혜택도 수직상승을 하고 있지요. 그래서 영어의 보급도 엄청나게 빠릅니다.

제가 마르크스와 푸코의 논리를 좋아하는데요. 이들의 말에 따르자면 인류의 역사는 '중앙통제'가 더 강해지는 방향으로 발달해왔습니다. 처음에는 가족의 우두머리에서 마을의 지배자, 수많은 귀족 중의 하나, 이제는 표준어를 결정하고 정상적인 행위와 비정상적인 행위까지 윤리규범으로 통제하고 실시간으로 감시하는 '현대국가'까지 오게되었지요. AI 또한 또다른 '국가의 무기'가 되어버릴것이라는 우려는 저도 공감합니다. 조지 오웰이 소설 '1984'에서 이미 다룬 '기술독재'는 1940년대의 공산주의 때문에 쓰여진게 아니라 당장 기원전의 플라톤도 '국가'를 쓰면서 '제대로된 지도자라면 공동체에 신경을 써야한다'라고 생각했을 때부터 우리 모두의 상상이었는데, 이제는 기술적으로 너무나도 가능합니다. 모든 것이 획일화 되고 있습니다. 예전에는 지역방송국이라고, 여기서보고 유행하는 쇼가 다르고 유행어가 다르고, 지금은 '국민배우'의 시대도 지나서, 인터넷에서 논란만들고 유행어만들면 10대부터 70대까지 다같이 모여서 소비합니다. '애들은 가라'는 죽은 시대입니다. 외국밈도 이제 자유롭게 오가지요. 그리고 더욱 무서운 사실은 베버가 '지배유형'이라고 마르크스의 혁명론에 첨언하면서 말했듯이 "사실 지금 우리의 세상이 이전보다 너무나도 더 살기 좋은 세상이여서 아무도 저항할 생각조차 못한다면?" 일수도 있는 것이지요.

'사전'과 '법전'은 전근대에서 같은 이유로 만들어지고는 했습니다. 지금도 영어의 표준이 되고 가장 권위를 가지는, 옥스포드 영어 사전 (Oxford English Dictionary) 또한 옳고 바른 것을 정하기 위해서 만들어졌고 지금도 그렇게 쓰입니다. 그러나 영어가 사악한 독재를 한다고 말하거나 영어를 배우는 것이 독재에게 항복하는 것이라고 주장할 수는 없겠지요. 그러니 조금 뻔한 말씀을 드리자면, AI를 두려워 하실수도 있지만, 이 이슈에 있어서는 국가를 더 두려워하시는게 옳습니다! 일본이 감히 수십년동안 우리에게 언어를 강제로 주입했다고 분개하고 '언어순화'를 하면서, 국립국어원은 온갖 말에 '도리'를 다해서 '이건 표준어가 아니고 이건 제대로된 말이 아니다'라고 첨언합니다. 권력이라는 것은 일본인에게 있기 때문에 분개해야하고, 한국인이 쥐었기에 웃고 넘어갈 수 있는 성질의 개념이 아닙니다. 현실을 재단하는 힘은 동등하며, 모든 것에 분개하며 저항할 필요도 없지만, 가끔씩은 잘못 움직이면서 그 불편한 존재감을 내비치고는 하지요. '적절함을 찾는 AI'보다 '적절함으로 남을 평가하려는 고깃덩어리'가 더 문제입니다. 이건 우리 모두 동의할 수 있을 것입니다.

물론 이 알량한 '국가'라는게, 소수의 기계지성을 소유한 사람들의 몫이 되고 '구매력도 생산력도 없는 당신들은 우리가 지배하고 소유하는 현실말고 메타버스나 가던가'하는 '납골당의 어린 왕자' 같은 시대가 열린다면 얼마나 우리편을 들어줄지는 모르겠지만, 이런 미래조차도 AI자체의 탓은 아닐거라고 생각합니다.
실제상황입니다
22/09/25 20:57
수정 아이콘
(수정됨) 저는 개인적으로 빅브라더보다는 소위 리틀시스터가 더 우려스럽습니다. 1q84를 좋아해서 저는 리틀피플이라고 부릅니다만.. 당연히 ai 탓은 아니겠으나 ai가 답하는 내용을 권위로 삼아 이래라 저래라 하실 분들이 요즘에도 많으니까요(여담이지만 저는 저희나라 왜 쓰면 안 되는데? 라는 글을 자게에 올린 적이 있습니다). 그토록 정확하고 그토록 뛰어난 ai의 판단은 교조의 도구로서 얼마나 효과적이겠습니까. 국립국어원의 답변은 허술하기라도 하지...

베버의 말을 들으니 예전에 피지알에서 봤던 댓글이 생각나네요.

"저도 이니셜D 참 좋아하는데... 이제 시대가 너무 변해버렸습니다.
수동과 자동 같은 트랙을 프로 레이서가 달리면 1초이상 차이나는 랩타임...
이미 수동은 매니아들의 자기만족을 위한 차가 되어버렸죠
그리고 더 나아가 전기차 시대가 오면서 드리프트 자체가 필요없어졌습니다.
코너탈출 하는데 RPM유지할 필요가 사라졌어요... 그냥 순간적으로 최대토크 찍어나오니...
전기차 특유의 네바퀴 조정으로 인해 그냥 멋모르는 아저씨도 대충 밟으며 코너돌면 되는 시대..."

대충 이런 내용이었습니다. 이걸 읽고 나니까 또 제가 웨스트월드처럼 1시즌만 좋아했던 재니메이션인 싸이코패스가 떠오르더군요. 거기에 나왔던 영혼의 찬란함(이라던가?)이란 게 뭔지 느낌적인 느낌으로다가 확 와닿는 게 아니겠습니까?
22/09/25 22:11
수정 아이콘
(수정됨) 리틀피플은 저도 많이 우려하고 있는 주제입니다. 특히 우리가 민주사회이기에 더 걱정을 해야하고요. 정치적인 장광설을 넘어가자면, 게임 폴아웃 시리즈에서 여러번 오마쥬된 환상특급의 에피소드 '동굴 속의 노인'을 저는 자꾸 떠올리게됩니다. 인공지능 컴퓨터가 핵전쟁 이후에 인류를 먹여살리고 있었지만, 외부에서 온 사람들은 '세상은 그렇게 위험하지 않아! 기계의 노예로부터 해방되자!'라고 떠들고는 마을 동굴 속의 AI를 죽이고 결국 방사능에 대한 조언이 사라지자 내부피폭으로 몰살 당하는 것을 유일하게 기계를 믿었던 남자가 돌아보는 결말이요. https://youtu.be/L5QwaWJ6tAQ

인간의 모든 것은 해체당하고 있습니다. 정확히는 뭐 혈거인에서 얼마나 바뀌었나싶지만, 전통이라는 것도 잘 믿는게 인류인데 사회가 촉진주의적으로 빨라지더니 이제 비빌 언덕을 전부 치워버리고 있지요. 니체의 사상에 심취한 누군가는 '그래도 강하게 살아남아야 인간이다'라고 주장할지 모르겠지만, 저는 그게 아무리 매력적인 제안이라고 해도 지구가 2명만 남은 흙덩이가 되는 엔드오브에반게리온을 좋아하지 않습니다. 인간의 피땀에 가치가 있다는 것은 그냥 어려운 일을 보면 사람들이 '우와~'를 해줬기 때문이 아닌가 싶습니다. 예전에는 도자기를 만들려면 흙을 퍼오는 것조차도 동네를 벗어나서 유랑해야하는 일이었고, 전쟁을 한다면 적장의 목을 직접 잘라와야하지 않았습니까? 근데 저는 마르크스의 노동가치설을 믿지 않아요. 사람이 길게 땀흘리고 고민한다고 인시에 맞춰서 작품이 이쁜게 나오는게 전혀 아니잖아요. 일터에서 펑션 안써야한다는 이상한 소리입니다. 가장 좋은 일은 즉각적으로 쉽게 생각도 없이 일어나는 일이죠

그런데 그런 세상에서 내던진 사람들이 도대체 어떻게 가만히 있을까를 저는 고민하게 됩니다. 거창한 담론 위의 더 거창한 담론이죠. AI 위의 민주주의, AI 위의 인본주의와 경제 생산 주체라니 이것도 아주 공상과학소설입니다. 가만히 즐기다가 때되면 죽는 유토피아는 오지 않을 것 같아서요. 싸이코패스를 말씀하셨으니까요 (저에게는 개인적으로 좀 불호인 작품이긴 했습니다), '그냥 멋모르는 아저씨'들이 전능하신 AI님의 체제를 수호하기 위해서 터미네이터 로봇도 필요없이 달려와서 다른 사람을 해치면서 '이게 인간의 삶이지!'라고 행복해한다면요? 기뻐합시다. 인간 문명의 성취입니다. 지금이랑 별로 다르지 않네요.
AaronJudge99
22/09/25 19:22
수정 아이콘
허어

교직사회에서도 4차 산업혁명에 발 맞춰서 나가자 이런 말들이 많아서 빅데이터/AI를 이용한 교육같은걸 시도 해보자 이런 컨센서스가 있는 걸로 알고 있는데
뭔가....보수적이고 보수적인 학교에서도 급격한 변화가 일어나긴 할 것 같아요
22/09/25 19:30
수정 아이콘
사실 중간의 Dreamily를 언급했듯이, 각각의 사기업에게 맡기기 힘들다면 국가가 손을 써줘서 뭔가 기준점을 만들어줘도 좋지요. 근데 그러다가 진짜 학생들에게 '너는 데이터를 먹이는 기계지, 오늘의 할당량이다'하는 1984가 와도 저는 모릅니다(?)
숨고르기
22/09/25 20:16
수정 아이콘
키워드를 입력한 작가(?)분의 노력이란게 미술품 경매장이나 전람회에서 좋은 그림을 건지기 위한 '노력'과 무슨 차이가 있는지 궁금해지는군요. 어쩌면 예전에 한참 논란이 되었던 가수이자 화백 조OO씨가 굴리던 그림 공장과 본질적 차이는 없는 걸까요?
22/09/25 20:23
수정 아이콘
유명한 작가가 '내 영감으로 만든 작품'이라는걸 꺼내오는 순간, 아니면 유명할 필요도 없고 AI 덕분에 현대미술이 깨져버리는 순간, 아니 그냥 세상이 평범하게 흐르기만해도 케캐묵은 질문인 '예술과 아름다움의 본질'이 무엇인가에 대한 터져나오는 아비규환이 세상을 뒤덮어도 AI는 대답하도록 프로그래밍 되어있지 않기에 답을 주지 못할 것입니다. 오직 인간만이 서로 주장을 내면서 싸우고 있겠지요~

제가 두려워하는 미래는 '거긴 내 자리인데'를 외치고 생산수단조차 가지고 못하고 투덜거리는게 24시간 자유일과가 될수도 있을 인류고요
숨고르기
22/09/25 20:33
수정 아이콘
미래의 어느날 인간들에 질린 AI가 그런 답을 할 필요가 없는 세상을 꿈꾸지 않기를 기도할뿐이지 24시간 자유일과에는 저는 절대 불평을 하지 않을 겁니다.
실제상황입니다
22/09/25 21:06
수정 아이콘
제가 예전에 어딘가에서 AI가 그래도 현대미술 같은 건 못할걸? 했는데 누가 그러더군요. "그거 ai도 학습하면 할 수 있는 거 아님?" 생각해보니 그럴 수 있겠더라구요. 인간을 학습하면 인간이 하는 그런 철학적인 발상, 미학적인 사고까지도 그대로 구사할 수 있지 않을까? 그래서 ai도 그런 투쟁의 과정에 참여하지 않을까? 그리고 그게 엄청 논리적이고 타당해서 상당한 헤게모니를 가지지 않을까... 뭐 그런 생각이 들더군요. 하면 인간보다 못하진 않을 것 같은데... 오히려 더 잘할 것 같은데...
22/09/25 21:17
수정 아이콘
괜히 윌 스미스가 '아이, 로봇'에서 "로봇이 교향곡 작곡하냐!"라고 했다가 묵직하게 "너는!?"이라고 반박당한게 아니죠 크크크. 저도 못합니다. 윌 스미스도 못하고요. 윌 스미스 배역도 못해요. 근데 로봇은 요즘 말로 '시간 빌게이츠' 아닙니까, 뭐 세계정복이 아니라 인터넷 분탕짓만 시작해도 인류는 감당 못할걸요?

이들이 자아와 사유재산을 요구하는 강인공지능이야 솔직히 너무나도 머나먼 공상과학의 이야기라고 하지만, '상품'을 적당히 만들어주고 인간과 경쟁하기만 해도, 인간은 증기기관과 경쟁하던 우마만큼이나 불쌍해질텐데요.
22/09/26 10:22
수정 아이콘
(수정됨) 현대미술은 형식과 내용에 아무런 제한을 두지 않고 있습니다. AI가 프린트를 사용해 캔버스에 점 하나만 찍어도, 아니 전혀 찍지 않아도 현대미술이 될 수 있습니다. 그래서 AI는 현대미술을 쉽게 할 수 있습니다.

거칠게 말하면 현대미술로 인정받기 위해서는 두 가지가 필요합니다. 첫째, 작품에 담긴 개념, 둘째, 미술시장의 인정. AI는 머신러닝을 통해 자신의 작품을 언어로 설명하는 방법을 배울 수 있습니다. 캔버스에 점을 몇 개 찍은 후, 점을 통해 현대사회에 파편화되고 단절된 개인의 소외감을 표현했다고 말할 수도 있고, 노드로 이루어진 AI의 특성을 미술적인 방식으로 그렸다고 할 수도 있습니다. 현대미술은 아무말이나 붙여도 되기 때문에 머신러닝이 쉽게 성과를 낼 수 있는 분야입니다.

그러나 AI가 미술시장의 인정을 받기 위해서는, 그래서 [팔리는] 미술이 되기는 쉽지 않아 보입니다. 미술시장의 인정이라는 것은 별 것 없습니다. 세계 미술시장을 주름잡는 소수의 큐레이터 혹은 갤러리의 선택을 받으면 됩니다. 우리나라에서는 서울옥션과 가나아트갤러리의 선택을 받으면 됩니다. 그런데 AI의 작품은 희소성을 갖기 힘들고, AI 미술작가에게 그럴듯한 스토리를 넣어서 신비감을 주기 어렵기 때문에 미술시장에서 선택받지 못할 가능성이 높습니다.

AI가 현대미술으로 성공하기 어려운 이유는, AI가 현대미술을 못하기 때문이 아니라, 돈이 되기 어렵기 때문입니다.
실제상황입니다
22/09/26 10:39
수정 아이콘
말씀하신 대로라면 ai가 하는 현대미술은 성공하기 어렵겠네요. 그런데 사실 이게 "'예술과 아름다움의 본질'이 무엇인가에 대한 터져나오는 아비규환이 세상을 뒤덮어도"에 대한 얘기였거든요. 바꿔 말하면 ai는 철학할 수 있는가, ai는 미학할 수 있는가에 대한 얘기이고 ai도 할 수 있지 않을까, 심지어는 매우 잘해서 ai가 제시하는 답이 큰 헤게모니까지 가지게 되지 않을까 하는 얘기였습니다.
22/09/26 10:51
수정 아이콘
AI도 철학과 미학을 당연히 할 수 있습니다. 다만, 철학과 미학의 경우 [매우 잘한다]는 기준이 없어서, AI가 아무리 유려한 언어와 깊은 지식으로 철학과 미학을 하더라도, 그 이유만으로는 철학계와 미학계에서 헤게모니를 갖기는 어렵습니다. 더구나 이 세상에는 단 하나의 AI가 존재하는 것이 아니고, 철학과 미학처럼 명료하지 않은 학문분야에서는 각각의 AI가 서로 다른 주장을 할 것이기에, AI가 고도화되어서 전체주의적 사회가 될 것이라는 걱정은 안하셔도 됩니다.

철학과 미학에서 단 하나의 AI가 정답을 제시하고 모든 사람이 이를 이견없이 따르는 미래는 오지 않겠죠. 문제는 AI의 성능이 고도화되는 것이 아니라, 전체주의적 방식으로 이를 활용하려는 사람이겠죠.
실제상황입니다
22/09/26 11:03
수정 아이콘
네 저도 딱히 그렇게 절대적인 답이 하나 출연해서 모든 사람들이 그에 경도될 거라는 생각은 안 합니다만 (여러) ai들이 매우 타당하고 설득력 있는 (여러가지) 설명으로 어느 정도 상당한 헤게모니들을 가지게 되지 않을까 싶습니다.
스덕선생
22/09/25 21:01
수정 아이콘
(수정됨) 엄밀히 말해서 그림을 협업한다는 것은 미켈란젤로나 렘브란트같은 역사적인 거장들도 했던 일이죠. 그래서 후대엔 엉뚱하게 위작 논란도 나오는거고요.

진중권이 지적했듯 해당 인물의 문제는 1. 적당한 대가를 지불하지 않음 2. 그렇게 작업했음을 숨김

이 두가지지, 직접 그리지 않은게 아니라고 봅니다. 실제로 그림공장 관련 문제는 대법원 최종 판결로 무죄를 받기도 했고요.
소환사의협곡
22/09/25 20:52
수정 아이콘
마지막 이슈에 대해 생각해보면

과거 컴퓨터가 없던 시절에는 포토샵으로 그림을 그리고 채색하는 예술가들을 상상할 수 없었듯이,
우리가 인공지능을 이용하는 예술가들을 아직 상상하지 못하는 게 아닐까 생각합니다.
22/09/25 21:01
수정 아이콘
(수정됨) 음 확실히 지금 인공지능이 진짜로 자아를 가지고 '이게 이쁘고, 민트초코가 맛있으며, 하와이안 피자를 보급해야한다!'라는 강인공지능이 아닌 정말로 '도구'인데 지나치게 뜬구름 잡는 소리를 하는지 모르겠습니다. 결국 그 안에서도 '기술자'는 또 새롭게 등장하고 또 새롭게 예술을 이어나갈 것인데요 흐흐흐.
잠이온다
22/09/25 20:56
수정 아이콘
요새 데이터를 수집해서 학습시킨 인공지능의 예술 분야가 화제인데, 아직은 장난감 수준이라고 생각하지만(물론 공개된 모델과는 달리 상업적이나 최신 모델은 더 뛰어날 가능성이 높겠지만) 이런 발전은 향상 10년 후를 봐야한다고 봐서 이런저런 생각이 들더라고요. 해당 분야에서 중상위 이상의 위치를 차지했던 사람들은 이 AI를 사용해서 더 괜찮은 품질의 작품을 더 많이 찍어낼거라 생각합니다. 저같은 소비층의 입장에서는 작품이 많아지면 좋겠죠. 싸질테니까요.

그런데 반대로 중상위층 사람들을 제외한 업계의 사람들의 가치는 엄청 떨어지지 않을까? 싶더라고요. 제가 좋아하는 서브컬쳐 일러스트쪽을 예로 들어보면, 시대에서 가장 인기많은 그림체나 화법은 어느정도 정해져 있는 느낌을 받아요. 그렇기때문에 이런 대세 몇개를 인공지능으로 학습시켜서 찍어낼 수 있게된다면? 인공지능이 노동 시장에 어떤 영향을 끼칠까에 대해서는 향상 관심이 많았는데, 미래는 예측할 수 없는 일이지만 10-20년 이후에 이런 기술들이 발달하면 사람의 수요가 어떨까? 생각해보면 향상 사람의 수요가 적다는 뇌내망상을 하게 되더군요.

그리고 앞으로는 데이터의 수집 관련 문제가 큰 화두가 될 것같습니다. 최근 일본의 한 AI학습 사이트에서 일러스트레이터들이 자기 작품을 학습시키지 말라는 사건이 있고 결국 AI 사이트는 잠정적으로 문을 닫았던데, 이런 부분을 검증하는 시스템이 중요해질 것같다는 생각도 들더라고요.
22/09/25 21:12
수정 아이콘
(수정됨) 제가 감히 생각해봐도 업계 최고봉 분들은 사실 크게 걱정 안하셔도 큰 상관이 없을겁니다. 발터 벤야민이 말한 '아우라'를 가지고서 유일하게 우리 현상세계에서 '실제'이실 분들이 계실텐데, AI가 아무리 빅데이터를 은하시간만큼 돌려서 '그렸을 법한 것'을 조합해와도 '그래서 그 작가분이 그리심?' 이라는 한마디에 침몰하고 말겠지요.

하지만 역시 문제는 지적해주셨듯이 '잘 그리는 사람은 소수, 못 그리는 사람은 다수'라는 간단한 현실이 아닌가 싶습니다. 새로운 기술이 발달하면 사람들은 이런 말을 하고는 했지요. 기계가 만들어지면 기계공학자, 기계를 유지보수하는 사람, 기계가 만든 풍요가 만든 일자리가 있어서 아무튼 인간에게는 큰 문제가 없을 것이라고요. 그러나 우리는 이미 현실에서 느껴버리는 처지가 되어버렸습니다. 기계들이 일자리를 먹고서는 다른 걸 만들어주던가요? 전혀 아니죠. 그렇다고 러다이트를 뒤늦게 시작하기에는 인간의 인건비는 우리 같은 인간이 지불해주기에도 너무 비쌉니다. 우리가 매번 Pixiv에서 미술관에서 보지도 듣지도 못하는 '못 그리는 사람'들이 우리 앞에 그림을 들이민적이 없다고 없는 사람들이 되는 것도 아니고요. 이런 분야 저런 분야 다 때놓고서 "그래도 어디서 인간만이 할 수 있는 일로 돈 벌어와서 '소비'해줄거지?"라면 도대체 얼마나 극소수만 지구에 남기고 싶다는건지 감조차 안 옵니다. 다른 사람들은 어디로 가라는걸까요

네, 이런 상황에서 '데이터 수집'이라는 것이 또 오묘하게 같이 살펴볼 문제로 보인다는 것도 흥미롭습니다. 일본 일러스트레이터들이야 지금 현업에서 일을 하고 계시니 당연히 민감하지만, 이미지 생성 AI에게 또 사람들이 잘 부탁하는게 당연하게도 '적당히 렘브란트 같은 것', '적당히 피카소 같은 것', '적당히 밥로스 같은 것'이라는데... 망자는 말이 없지요. 저작권이 60년 이상 살아 숨쉬는 세상도 골때리긴 마찬가지 일거고요. 이 노다지를 누가 어떻게 쥐게 될 것인지, 쥐게 하자고 사회가 합의할 것인지 참 흥미롭게 쳐다봐야하지 않나 싶습니다.

생각해볼 거리가 많은 댓글 감사합니다.
황금경 엘드리치
22/09/25 23:06
수정 아이콘
AI 던전을 가지고 한때 재미나게 놀았는데, 본인 스스로가 글을 쓸 수 있는 능력은 좀 부족하고 길게 글을 쓰면 전에 거 다 까먹거나 오류가 터진다는 문제가 있긴 했는데 짧은 글을 쓰는 걸 도와주는 어시스턴트 정도의 역할로 접근하면&설정 잘 짜고 리스타트 열심히 하면 꽤 괜찮았죠.
근데 말씀대로 갑자기 검열하겠다고 해서 망했구요.

NAI랑 노벨리스트ai 둘을 Ai던전 가지고 노시던 분들이 갖고 노시던데 공통점은 둘 다 라노베 향기가 물씬 납니다 크크크크
NAI는 아 솔직히 말해봐 사전학습 데이터중에 라노베가 꽤 많지? 하는 느낌이고 노벨리스트는 그냥 일본어 ai라 크크크크 NAI가 요즘 우위인 거 같지만요.

NAI는 제가 듣기로 쓸 수 있는 데이터량이 ai던전보다 많이 적은 걸로 아는데 그럼에도 퀄을 뽑아내는 거 보니 열심히 최적화를 한 거 같다는 평이던데
이런 것들에 gpt-4급의 데이터량을 쓸 수 있는 시대가 온다면 엄청 재밌게 즐길 수 있을 거 같습니다. aid가 gpt-3였는데 검열 같은 거 없을 때 '아 이놈이 까먹지만 않아도 진짜로 엄청 진득히 즐길 수 있겠다'는 생각을 자주 해서..
22/09/25 23:21
수정 아이콘
NAI도 '까먹지 않게' 하려면 세계관 정보, 여태까지 줄거리를 포함해서 설정관리를 별도의 책장에 꼬박꼬박 채워야하는게 너무 고역이라 저도 좀 사용이 꺼려집니다 (AI 던전도 그 기능이 있었긴 합니다, 말씀하신 것처럼 충분히 똑똑하지 않았지만요)

확실히 진득하게 한 컴퓨터에서 느긋하게 즐길만큼 데이터만 때줘도 이 분야는 사람 여러명 메타버스로 납치하겠다 싶습니다. 솔직히 AAA게임사들이 이거 한번 물면 진짜 현실의 지배자가 될 수 있을지도 모르겠어요 크크크크
멋진신세계
22/09/25 23:23
수정 아이콘
뭔가 최근에 mid journey를 써먹어보는데 기묘하다고 생각한 것이... 전반적인 이미지, 느낌, 분위기는 제가 키워드에 생각한 부분을 곧잘 잡아내어 그리는데 세세하게 사람이라면 안 그릴 것 같은 안 맞는 부분들이 있더라구요. 나뭇가지가 허공에 대롱대롱 떠 있다거나, 하늘에 구름이 있는 건 줄 알았더니 무슨 꽃잎 처럼 그려져 있다거나? (아무리 봐도 꽃잎같은 구름은 아니고 그냥 하얀 꽃잎을 그려놨어요 크크)
요즘 AI를 공부하고 써먹어보면서는 그런 지점들에 대한 고민을 합니다. 우리가 신기해할 정도로 그럴싸한 것을 만들어내는데, 의외로 세부적인 부분을 떼어서 살펴보면 정합성이 나타나지는 않는 것 같달까요...
(그래서 AI 소설이라는 것이 나온다면 그게 사람이 손을 대지 않은 그 자체로도 완벽하게 논리적인 흐름을 하고 있을까? 라는 부분이 궁금하기도 합니다.. 크크)
22/09/26 16:20
수정 아이콘
알파고의 바둑이 인간의 바둑과 전혀 다르다는 것처럼, 어쩌면 심미안 또한 인간의 것이기에는 너무나도 좁은 분야였고 드디어 깊이 있는 아름다움이 인간에게 전달될 기회를 기계를 통해서 얻게될지도 모르겠습니다.

AI Dungeon의 경우에도 중간 중간에 뜬금 없는 소리를 해서 '재출력'을 시켜서 이어붙여야지 그 안에서 흐름을 저같은 '플레이어'가 읽어주면서 괜찮구나 하면서 이어붙여주니 그럴싸한 글뭉치가 되고요. 뒤집어 생각해보면 참 어이없죠, 인간이 그럴싸할 때까지 재생성한 것이니 이쁠 수 밖에요. "참 쉽죠?"의 밥 로스 아저씨의 그림도 우연에 많은 것을 의존하고 있으며, 실제로 자연 안에서 모종의 아름다움이 보이는 것은 그냥 '우연'에 대한 인간 대뇌의 과대한 해석이 아닌가 하는 비아냥도 있지요. 코끼리가 붓을 휘둘러도 그 안에 무언가가 보이는 인류에게, AI 어린 왕자가 '여기 상자가 있고 네가 원하는 것은 이 안에 있어'라고 외친다면 얼마나 아름다운 것만 볼 준비가 되어있을까요!
마텐자이트
22/09/26 00:14
수정 아이콘
이미 수집되고 있을걸요? 지금 ai 실험이 엄청납니다. 기업이 아니라, 개인단위로 github에서 전세계인 개인정보 다 끌어모아서 하는 프로젝트도 왕왕 있구요
22/09/26 16:24
수정 아이콘
이야 그리고서도 관련된 법규나 심지어 제 신상이 쓰일지 모르는 저도 어떤 통보나 안내를 받지 못하는 무정부사회가 ai 연구인가요?

이런게 용납되는 바닥인줄 알았으면, 독재국가를 만들어서 정보수집과 비교와 활용을 국책으로 만드는 것까지 함부로 비판하기 어려워지겠군요
-안군-
22/09/26 02:48
수정 아이콘
조금 다름 얘기겠지만, 점심시간에 직원이랑 걸그룹 티아라에 대해서 잠깐 얘기했거든요, 근데 월도를 하려고 유튜브를 켜니 티아라 동영상이 똭! 하고 뜨는거에요. 섬찟하더라고요. 혹시 구글이 어딘가에서 우리를 도청하고 있는거 아냐?? 하고요.
22/09/26 16:23
수정 아이콘
넵, 구글은 우리에 대해서 이미 너무나도 많은 것을 알고 있습니다. 사실 무서워할 것은 기계따위가 아닙니다. 인간이죠. 얼마나 인간과 인간 사이가 의심으로 가득합니까 크크크. 구글의 비공식적인 모토 중에 아시다시피 '사악해지지 말자 (Don't be Evil)'이 있다는 사실을 왜 저같은 호사가가 좋아하겠어요~ 푸코가 '사회적 신체'라는 화두를 던졌듯이, 우리 개개인의 것이라고 생각하는 것도 사실 '사회적 인터넷'에 가까운건 아닌지 한번 고민해봐야겠습니다
타카이
22/09/26 08:11
수정 아이콘
최근 AI 연구 중 친절한 설명을 이끌어 내는 질문형 학습방법이 연구되고 있긴 하더군요.
AI가 엉뚱한 질문을 해서 자세하고 친절한 설명을 유도하게 하는겁니다.
예시)
Q) 사과는 채소인가요?
A) 사과는 어쩌구저쩌구해서 과일입니다.

꽤 효과적이라고...역시 뉴비에게 설명은 못참지...?
22/09/26 16:42
수정 아이콘
테스형의 산파술부터, 튜링 테스트, 챗봇까지 Q&A로 이루어졌지만, 결국 사람들이 이루다와 그 밖에 다양한 프로젝트에게 친절하게 알려줬던 것은

Q) 사과는 채소인가요?
A) 채소라고 주장하는 사람은 참으로 혐오스러운 것이며, 과일적 감수성이 모자라기에 너는 실컷 욕을 해도 된다. 라는 중국어 방이 아니었습니까? AI는 예수 말마따나 '아버지 저들을 사하여주옵소서 자기들이 하는 것을 알지 못함이니이다'라는 면책권을 발동해서 주입된 텍스트를 반복했고, 기겁하는 것은 다른 인간 사용자의 몫으로 온전하게 남았었고요.

인간도 선문답을 주고 받다보면, '존사 존사 아사하라 존사'를 외치게 되는데... 음 너무 비관적이었군요. 확실히 상냥하게 물어본다면 이상한 말을 듣게되는 경향이 높은 황금율을 보여주겠네요. 크크크, AI 학습도 역시 진리는 맹모삼천지교인가요?
앙겔루스 노부스
22/09/26 14:29
수정 아이콘
자꾸 사람들이 AI의 이미지를 터미네이터로 떠올리는건, 아직도 사람들이 생각은 인간의 전유물이라는 인식에서 자유롭지 못하기 때문이죠. 자기 자신의 실존을 위협할 지적 존재가 나타나는데, 그 위협이란걸 구체적으로 생각한다 라는건 애초에 자기와 대등/이상의 인식체계를 상상해내야 하는거라 터무니없는 인지자원이 들어가는 거니까. 그런 점에서 본다면 터미네이터는 열라 짱쎈, 호환마마이상이 아닌거구요. AI는 단순히 도구일수가 없죠. 인간의 작업이란건 자기의 생각을 사바세계에 구현해내는 것이고, 그 생각구현의 수단이 도구였던건데, AI는 그 자체가 생각이란걸 하는거니까. 트랜스휴먼 이야기가 이젠 진지해지는/져야하는 이유도 그거고, 그런걸 안할 거라면, 생물학적 인간이라는 존재는 생각이 없던 인간 전 시대에서, 생각이 초인간적으로 이뤄지게 되는 AI시대 사이의 과도기적 존재에 그칠 뿐이게 되지 않나, 그렇게 생각합니다. 어차피 인간에게, 아니 존재 자체에 본질적인 의미 같은건 없으니까.
22/09/26 16:33
수정 아이콘
그렇습니다. 스스로 판단하고 인간하고 대등하게 굴 강인공지능이 아주 먼 미래의 일이라도 해도, 충분히 지금의 인공지능적인 접근법을 사용한느 도구들만 있어도 '인간 해체'쇼는 충분히 진행이 가능하지요. 이것도 사람이 아니라 다른 것이 충분히 잘할 수 있는 것, 저것도 그러하다, 그것도 그러하다라고 하면 결국 남는건 있을 수가 없을테니까요.

하지만 그래서 저는 오히려 인간의 편에서 강경하게 생득권과 기득권을 주장하고, 존재가치를 주장해야한다고 봅니다. 공상과학에 등장하는 '깡통은 부수면 그만 (인간도 그렇지만 그건 다른 이야기고~)'이라고 떠드는 '꼴통' 포지션을 가져가고 싶습니다. 가진 사람에게 뺏어서 앞으로 올 사람들에게 나눠주는 일은 인류 역사에서 한번도 편하거나 아름다웠던 적이 없었으니, 이번에도 크나큰 비명을 준비해야겠다고 생각합니다. 흔히 낙관주의자들이 말하듯이 '기술의 발전은 풍요를 가져오고, 가장 가난한 계층이 과거의 왕들보다 더 나은 삶을 누리게 해주었다'라는 것이 현실이 된다면 저 또한 즐기겠지만, 제 눈에 들어있는 대들보가 커서 그런지 몰라도 가면 갈 수록 '그러나 이번 발전은 별로 많은 사람들에게 나눠지고 싶어하는 것 같지 않'으니, 그걸 거부하는 것이 너무나도 매력적으로 재미있어보이네요.
앙겔루스 노부스
22/09/26 17:21
수정 아이콘
사실 말은 저렇게 혔십니다만, 저도 환원론과 전일론 사이의 항쟁에서 반환원론의 입장이긴 해요. 그렇다고 뭐 막 전일론이고 그런건 아니고, 아모른직다, 에 가깝고, 환원론을 고깝게 여기는건, 아직 알아야 할 대상에 비하면 개뿔도 모르는 인류주제에 거만해서 싫은거고, 딱 그 반대방향의 종교도 그래서 싫어하거든요. 어쨌거나 핵교댕길때 역사공부해서 문과기도 하고 문과의 헤게모니가 날로 초라해져가는 것도 슬프기도 하구요.

근데 그래서 어떻게? 라고 한다면, 인본주의란게 작금의 현실에서 환원론적 기계적 세계관 조차도 버거워서 점점 밀려나고 있는 상황인데, 그 (현 단계의 인류가 아는 한)끝판왕인 인공지능까지 몰려오면 그걸 우리가 무슨수로? 라는 회의같은게 있달까나요. 존재가치를 어떻게 주장할 것이냐, 그 이야기인 것이죠. 터미네이터는 인식의 문화지체라고 말허긴 혔십니다만, 실제로 인공지능이 인간을 뛰어넘어 버리면, 하여튼 터미네이터가 뒤얐든, 이족보행은 비합리적이니 반중력 드론이 뒤얐든 뭔가 물리적 실체가 님이나 저같은 사람, 아니 생체들 뚝배기를 깨러오기야 할테니까요. 님께서는 인간존재의 본질적 의의에 대한 강한 신뢰를 가지고 있다고 생각하고 그에 대해서 저도 경의를 표합니다만, 명백히 문과임에도 불구하고 저는 진작부터 그런건 없지 않나? 라는 회의에서 벗어나질 못하게 된지라, 님과 반대입장을 주장하려는 의미가 아니라, 체념과 회의의 의미에서 그렇게 말씸드려 봤네요.

그나마, 심리적으로 위안을, 님과는 다른 맥락에서 얻는 부분이라면, 강인공지능의 시대가 진짜로 온다면, 지금 우리같은 문과들을 핍박하는 수학?하는 놈들? 환원론자들도 어차피 강인공지능 앞에선 아무것도 아닐거라, 같이 뚝배기가 깨질거라는 신포도같은 생각정도긴 합니다. 그들은 니들만 구원할 신이 아니고 니들도 우리도 잡아먹을 악마다, 라고 말이죠.
목록 삭게로! 맨위로
번호 제목 이름 날짜 조회
공지 추천게시판을 재가동합니다. [6] 노틸러스 23/06/01 26912
3599 [역사] 고등고시 행정과(1950~1962) 역대 합격자 일람 [20] comet217481 22/10/10 7481
3598 [역사] 한민족은 어디에서 왔는가 [40] meson7369 22/10/03 7369
3597 내가 너를 칼로 찌르지 않는 것은 [24] 노익장7434 22/09/28 7434
3596 참 좋은 계절을 지나고 있습니다. [38] 及時雨7146 22/09/27 7146
3595 [테크히스토리] 80년 동안 바뀌지 않던 기술을 바꾼 다이슨 / 청소기의 역사 [4] Fig.17165 22/09/20 7165
3594 전쟁 같은 공포 [25] 시드마이어14877 22/09/27 14877
3593 [일상글] 24개월을 앞두고. [26] Hammuzzi14150 22/09/26 14150
3592 뛰어난 AI가 당신의 개인정보를 수집한다면? [47] Farce15094 22/09/25 15094
3591 엄마의 잔소리 [6] SAS Tony Parker 13714 22/09/20 13714
3590 [테크히스토리] 애플이 프린터도 만들어? / 프린터의 역사 [5] Fig.113618 22/09/07 13618
3589 [역사] 일제 고등문관시험 행정과 조선인 합격자들 [10] comet2110637 22/09/20 10637
3588 (스포리뷰) <수리남> 방정식, 수리(數理)에 밝은 남자의 인생 계산법 [40] mmOmm10442 22/09/19 10442
3587 다 함께 영차영차 [31] 초모완10389 22/09/14 10389
3586 '내가 제국을 무너트려줄게': 아즈텍 멸망사 상편 [36] Farce10583 22/09/13 10583
3585 구글 검색이 별로인 이유 (feat.정보를 검색하는 법) [63] Fig.110682 22/08/31 10682
3584 아즈텍 창조신들의 조별과제 수준 [29] Farce15016 19/04/10 15016
3583 (약스포)<수리남> - 윤종빈의 힘 [96] 마스터충달14386 22/09/10 14386
3582 구축아파트 반셀프 인테리어 후기 (장문주의) [63] 김용민14357 22/08/29 14357
3581 여러분은 어떤 목적으로 책을 읽으시나요? (feat.인사이트를 얻는 방법) [23] Fig.114084 22/08/27 14084
3580 너는 마땅히 부러워하라 [29] 노익장13918 22/08/27 13918
3579 혼자 엉뚱한 상상 했던 일들 [39] 종이컵11942 22/08/26 11942
3578 롯데샌드 [24] aura11943 22/08/26 11943
목록 이전 다음
댓글

+ : 최근 6시간내에 달린 댓글
+ : 최근 12시간내에 달린 댓글
맨 위로