PGR21.com
- 자유 주제로 사용할 수 있는 게시판입니다.
- 토론 게시판의 용도를 겸합니다.
Date 2019/12/12 20:11:47
Name 아난
Subject 도덕적 판단들의 상대성 또는 인공지능의 윤리

https://www.technologyreview.com/s/612341/a-global-ethics-study-aims-to-help-ai-solve-the-self-driving-trolley-problem/

조금 내려가면 나오는 그림을 눈여겨 보세요. 자율주행차 사고가 날 수밖에 없는 상황이에요. 자율주행차 운전 시스템에는 이런 상황에 직면했을 경우 자동적으로 어떤 선택을 하도록 하는 프로그램이 내장되어 있어야 할것 같죠:  

무조건 다수를 살릴 것인가 (개인주의적인 나라들) 아닌가 (한국, 일본, 중국 )
나이 많이든 이들을 살릴 것인가 (한국, 일본, 중국, 싱가포르) 젊은 이들을 살릴것인가 (개인주의적인 나라들)
횡단자를 살릴 것인가 (일본) 승객을 살릴 것인가 (중국)

다른 두 선택지에서는 한편인 중국과 일본이 세 번째 선택지에서는 극과 극인 것이 흥미로워요.

표에는 안 나와있지만 지위가 높은 사람들과 낮은 사람들 사이에서 어느쪽을 살릴 것이냐는 선택지에서는 나라별로 차이가 심하지 않은 가운데 불평등이 심한 나라일 수록 지위가 높은 이들을 살리는 쪽을 선택하는 경향이 더 두드러졌다고 해요.  

역시 표에는 안 나와있는데, 가난한 나라 사람들일 수록 무단 횡단자에 대한 관용 정도와 준법 횡단자에 대한 관용 정도 사이에 차이가 적었다고 해요.

기사 전체를 요약한 글이 아님을 감안해 주세요. 해당 네이처 지 논문은 기사 세 번째 문단에 링크되어 있고 본문은 돈을 내야만 다운받을 수 있어요. 안 내고도 화면상으로 뜨기는 하는데 가독성이 떨어지네요.  

통합규정 1.3 이용안내 인용

"Pgr은 '명문화된 삭제규정'이 반드시 필요하지 않은 분을 환영합니다.
법 없이도 사는 사람, 남에게 상처를 주지 않으면서 같이 이야기 나눌 수 있는 분이면 좋겠습니다."
유료도로당
19/12/12 20:18
수정 아이콘
저 상황에서 자율주행차는.... 멈춥니다 크크크크
StayAway
19/12/12 21:02
수정 아이콘
트롤리 딜레마의 AI 버전인가요..
19/12/12 21:34
수정 아이콘
AI 가 그런 선택을 하도록 프로그램 됐다는 게 아니라 각 문화권 사람들이 그렇게 생각한다는 연구 결과 같습니다.
19/12/12 22:02
수정 아이콘
(수정됨) 제 글은 그 연구결과를 요약한 기사를 요약한 것인데 그 점을 제가 모르고 글을 썼을까요? "자율주행차 운전 시스템에는 이런 상황에 직면했을 경우 자동적으로 어떤 선택을 하도록 하는 프로그램이 내장되어 있어야 할것 같죠"의 의미와 "...프로그램 됐다"의 의미는 같지 않습니다. 해당 연구가 "AI가 자율주행차 트롤리 문제를 해결하는데 도움'이 되게 할 목적으로 이루어졌다는 사실을 염두에 두고 쓴 표현이기도 하고 그냥 일반적으로 맞는 뻔한 주장이 피력된 표현이기도 합니다. 자율주행차 운전 시스템에 비상상황시에 자동으로 어떤 결정이 내려지는 프로그램이 내장되어 있어야 하는 것은 사실이니까요.
19/12/12 22:23
수정 아이콘
사고를 피할 여력도 없는 비상 상황시에 인공지능이 새삼 안면 인식 해서 누가 노인이고 누가 어리고 각각 몇 명이고 등등등을 판단해서 누굴 죽일 지 결정할 여력이 있을 리가 없지요. 저건 그냥 윤리 덕후들의 놀이일 뿐이지 실제 자율 주행차에 그런 모듈을 탑재할 이유가 없습니다.
19/12/12 22:32
수정 아이콘
현실에서는 사유실험에서나 설문에서 가정되는 상황과 완전히 동일한 상황이 일어날 수 없을 수도 있습니다. 그러나 그렇다고 해도 그 실험이나 설문의 결과(에 대한 연구)는 그 상황과 부분적으로 유사한 실제 상황을 인공지능이 처리하는데 도움을 줄 수 있죠. 다시 말하지만 기사 제목에도 "AI가 자율주행차 트롤리 문제를 해결하는데 도움이 되게" 운운이 포함되어 있습니다.
19/12/12 22:38
수정 아이콘


The study has interesting implications for countries currently testing self-driving cars, since these preferences could play a role in shaping the design and regulation of such vehicles. Carmakers may find, for example, that Chinese consumers would more readily enter a car that protected themselves over pedestrians.
루트에리노
19/12/12 22:01
수정 아이콘
(수정됨) https://pgr21.com/freedom/79180
전에 관련 글을 올린적이 있는데요, 일단 저건 사실 자율차 문제가 아니라 그냥 사람의 윤리 관련 문제입니다.

저런거 프로그래밍 하라고 하면 자율차 제작자 분들이 째려봅니다 크크
19/12/12 22:07
수정 아이콘
제 글 제목에 괜히 '도적적 판단의 상대성'이 들어가 있는 것은 아닙니다. 물론 자율차가 도덕적 판단을 할 수는 없죠.
어떤 사람들만이 할 수 있는 것이니까요. 다만, '저건'으로 무얼 가리키는 건지 모르겠지만, 기사에서 다룬 연구라면
그 연구가 자율차 트롤리 문제 상황을 가정하고 행해진 연구인 것은 사실입니다. 기사 제목에도 "AI가 자율주행차
트롤리 문제를 해결하는데 도움" 운운 하는 구절이 들어가 있구요.
루트에리노
19/12/12 22:27
수정 아이콘
나이 많은 사람을 살려야 한다는 인식은 참 신기하네요
19/12/12 22:37
수정 아이콘

아무리 '장유유서라'는 유교적 의식이 잔존해 있는 나라들이라고 하더라도 좀 뜻밖이죠.
19/12/13 11:51
수정 아이콘
저도 신기합니다만, 왜 연장자를 살려야 하는지에 대한 기준이 있을것 같네요.

그것보다 중국의 경우 이미 시민레벨이 정해져있고, 모니터가 가능하기때문에 고렙은 살리고 저렙을 선택하는게 아주 쉬울수 있습니다.
19/12/12 23:11
수정 아이콘
저라면 다수,나이,성별,계층을 구분하지 않고 사람생명의 가치는 모두 최우선으로 설정하여 진로에 따라 둘중하나를 골라야한다면 두 진로 모두 피해야할 최선의 대상이기 때문에 둘중 하나의 진로결정은 랜덤으로 결정하게 설정할 것 같네요 가치판단을 아예 안하고 난수로 설정하면 소송에는 덜 피곤할거같아서 크크
19/12/13 05:13
수정 아이콘
실제로 관련된 연구가 학계에서도 꽤나 진행되고 있긴 합니다. 일일이 모든 상황에 대해서 어떻게 행동하라고 하기 보다는 학습 단계에서 도덕적 윤리적 관점에 대한 목표 설정을 하려고 하죠. 실제로 최근에 blame이란 개념을 목표 함수에 추가했더니 AI의 판단이 실제 사람에게 설문했을때 나온 것과 유사한 통계 확률로 이루어진다 라고 주장한 연구가 있었습니다.
최근 자율주행 분야는 더이상 사고율 같은 부분에서는 거의 완성되었다고 보고 피할수 없는 사고가 났을때 ai의 판단이 어떤 근거로 이루어 졌는지, 법리적 도덕적 책임소지를 어떻게 보일 것인지에 대해 초점을 맞추는 것 같습니다.
하나의꿈
19/12/13 10:02
수정 아이콘
(수정됨) 다가올 인공지능의 윤리가 아무리 생소해도 작금의 인간의 썩어빠진 윤리 도덕성보다 못할리가요
19/12/13 10:19
수정 아이콘
인공지능에게 우리는 인간처럼 판단하고 인간처럼 사고하길 바라며 인간의 판단력을 입히려고 합니다.
그렇기 때문에, 최근 기술력이 발전하며 이런 물음도 떠오르는 것이죠.

극단적인 예를 들어서(극단적인 예라고 표현하지만 사실
이 모든 상황들을 염두에 두고 개발해야 많은 리스크가 제거된, 진정한 의미의 상용화가 가능하죠) 시속 200km 로 달리다가 코 앞에서 위와 같은 상황을 마주쳤을 때, 우리는 인공지능이 어떤 판단을 하기를 바랄까요?

인간이 내릴 수 있는 판단과 너무 다른 '비인간적인' 모습을 기대하지는 않을 겁니다. 그러기 위해서 인간과 같은 판단을 하길 바래야 하는데, 결국 우리는 [인간의 의식은 저런 상황에서 어떻게 판단하게 될까요?]라는 질문으로 들어가게 됩니다. 그 질문은 인간의 (극히 짧은 시간에 판단을 내리기 때문에) 무의식과도 연결되고, 뇌신경세포의 움직임을 포착하는 뇌과학과도 연결이 되어있죠. 그래서, 우리는 인공지능을 개발해가고 있는데 역으로 컴퓨터 및 기술의 발달로 그 어느 때보다 인간(의식, 뇌과학, 신경과학 등)에 대한 연구도 활발히 진행되고 있다고 합니다.

누군가에게는(기준이 다른 분도 있겠죠!) 완벽한 강인공지능이란 인간과 완벽히 똑같아서 어느 쪽이 인공지능이고 어느 쪽이 인간인지 구분이 힘든 수준을 이야기할텐데, 그러기위해서는 그 완벽히 똑같이 만들려는 대상인 인간을 알아야 하고, 그 알아가는 과정에서 인간의 사고, 판단, 감각, 지각 등의 기능에 대해서도 상세히 연구가 되고 있다고 하네요.
-안군-
19/12/13 13:48
수정 아이콘
데몰리션맨이던가.. 저럴땐 차 안에 충격흡수장치를 뿜어내며 스스로 전복되는 선택을 했죠.
목록 삭게로! 맨위로
번호 제목 이름 날짜 조회 추천
101194 시리즈 웹툰 "겜바바" 소개 [31] 겨울삼각형2108 24/03/28 2108 1
101193 <악은 존재하지 않는다> - 마침표와 물음표 사이.(노스포) [3] aDayInTheLife2531 24/03/28 2531 1
101192 고질라 x 콩 후기(노스포) [21] OcularImplants3699 24/03/28 3699 2
101191 미디어물의 PC주의에 대해 어떻게 생각하세요? [79] 프뤼륑뤼륑7271 24/03/27 7271 3
101190 버스 매니아도 고개를 저을 대륙횡단 버스노선 [51] Dresden10045 24/03/27 10045 2
101188 미국 볼티모어 다리 붕괴 [17] Leeka9946 24/03/26 9946 0
101187 Farewell Queen of the Sky! 아시아나항공 보잉 747-400(HL7428) OZ712 탑승 썰 [4] 쓸때없이힘만듬3559 24/03/26 3559 5
101186 [스포없음] 넷플릭스 신작 삼체(Three Body Problem)를 보았습니다. [48] 록타이트7915 24/03/26 7915 10
101185 시흥의 열두 딸들 - 아낌없이 주는 시흥의 역사 (5) [3] 계층방정3080 24/03/26 3080 7
101184 [웹소설] '탐관오리가 상태창을 숨김' 추천 [56] 사람되고싶다6638 24/03/26 6638 19
101183 진짜 역대급으로 박 터지는 다음 분기(4월~) 애니들 [58] 대장햄토리6272 24/03/25 6272 2
101182 '브로콜리 너마저'와 기억의 미화. [9] aDayInTheLife3892 24/03/25 3892 5
101181 탕수육 부먹파, 찍먹파의 성격을 통계 분석해 보았습니다. [51] 인생을살아주세요4902 24/03/25 4902 68
101179 한국,중국 마트 물가 비교 [49] 불쌍한오빠6369 24/03/25 6369 7
101177 맥주의 배신? [28] 지그제프8248 24/03/24 8248 2
101175 [스포있음] 천만 돌파 기념 천만관객에 안들어가는 파묘 관객의 후기 [17] Dončić5883 24/03/24 5883 7
101174 [팝송] 아리아나 그란데 새 앨범 "eternal sunshine" [2] 김치찌개2695 24/03/24 2695 4
101173 한 아이의 아빠가 되었습니다. [143] 천우희7094 24/03/23 7094 108
101172 모스크바 콘서트장에서 대규모 총격테러 발생 [36] 복타르9920 24/03/23 9920 0
101170 대한민국은 도덕사회이다. [58] 사람되고싶다8901 24/03/22 8901 30
101168 올해 서울광장서 6월 1일 시민 책읽기 행사 예정 [46] 라이언 덕후7117 24/03/21 7117 1
101167 러닝시 두가지만 조심해도 덜 아프게 뛸수 있다.JPG [43] insane10126 24/03/21 10126 18
101166 이번에 바뀐 성범죄 대법원 판례 논란 [94] 실제상황입니다10746 24/03/21 10746 9
목록 이전 다음
댓글

+ : 최근 1시간내에 달린 댓글
+ : 최근 2시간내에 달린 댓글
맨 위로