PGR21.com
- 자유 주제로 사용할 수 있는 게시판입니다.
- 토론 게시판의 용도를 겸합니다.
Date 2021/10/11 15:44:34
Name VictoryFood
File #1 1.jpg (22.9 KB), Download : 49
Subject 현실에 닥쳐온 트롤리 딜레마.car




마이클 샌덜 교수의 정의론 강의로 잘 알려진 트롤리 딜레마입니다.

소수를 위해 다수가 희생당하는 것에 대해서, 혹은 다수를 위해 소수가 희생 당하는 것에 대하여서 윤리적으로 둘 중에 하나를 올바르게 선택을 할 수 있는가? 에 대한 철학적 질문인데요.
최근 자율주행차량이 점점 현실화 되면서 이 딜레마가 강단이 아니라 현실에서 문제가 되고 있습니다.

주행 중 고장 난 자율차, 보행자·운전자 누굴 보호할까?
https://news.naver.com/main/read.naver?mode=LSD&mid=sec&sid1=105&oid=353&aid=0000040545

지난달에 본 이 기사로 글을 써볼까 하다가 이제서야 쓰게 됐네요.

2016년 6월 ‘사이언스’에 ‘자율주행차의 사회적 딜레마' 라는 논문이 실렸다고 합니다.

'자율주행차량이 고장났을 때 차량은 보행자와 운전자 중에서 누구를 더 먼저 보호하는 식으로 만들어져야 하는가?'

라는 질문에 78%의 응답자는 보행자를 보호해야 한다고 답했습니다.
그러나

‘그렇다면 자동차 탑승자보다 보행자의 안전을 우선시하는 자율주행차를 구입하시겠습니까?’

라는 질문에는 누구나 예상하듯이 대부분이 구입하지 않겠다고 답했죠.

2018년에는 벤츠의 임원이 벤츠는 보행자 보다는 탑승자의 안전을 더 고려하겠다는 답변을 했다가 언론에서 욕을 먹었습니다.
그러나 벤츠 입장에서는 욕을 먹더라도 구매자들에게 점수를 따는게 더 좋은 선택이었겠죠.

트롤리 딜레마가 해결이 안난 문제이니 만큼 이 문제도 아직 해결이 안나고 있습니다.
쉽게 해결이 나면 그게 딜레마이겠습니까.

개인적으로는 어쩌면 미래에는 개인의 차량 구매를 금지시키고 필요할 때 대여만 하게 한 후에 자율주행 AI 는 운전자보다 보행자를 우선하게 만들지 않을까 하는 예상을 했습니다.

통합규정 1.3 이용안내 인용

"Pgr은 '명문화된 삭제규정'이 반드시 필요하지 않은 분을 환영합니다.
법 없이도 사는 사람, 남에게 상처를 주지 않으면서 같이 이야기 나눌 수 있는 분이면 좋겠습니다."
21/10/11 15:46
수정 아이콘
그렇게 되면 자율주행은 아마 영원히 상용화 못될걸로 예쌍합니다..
21/10/11 15:48
수정 아이콘
AI:(자율주행장치가 꺼지며)주인아 니가 어떻게든 좀 해봐
21/10/11 15:49
수정 아이콘
저도 이문제가 사회적으로 합의 안되면 완전자율차는 기술적으로 완성단계에 도달해도 상용화 못될것으로 예상합니다.
21/10/11 15:49
수정 아이콘
교통법규를 위반하지 않는 보행자를 최우선으로 한다면 반응이 괜찮지 않을까요
21/10/11 15:51
수정 아이콘
전 룰을 우선시하는 형태로 갔으면 좋겠습니다.
소독용 에탄올
21/10/12 00:57
수정 아이콘
룰 우선이면 사람 접근 자체가 안되는 도로가 아닌이상 보고 반응할수 있으면 보행자와의 충돌을 항상 염두에두고 파하거나 예방하는 형태가 될겁니다….
김홍기
21/10/11 15:52
수정 아이콘
보행자를 먼저 보호해야 합니다. 왜냐면 차 대 사람이니까요. 차에 탄 사람은 상대적으로 경미한 부상을 입을 확률이 높잖아요
21/10/11 15:53
수정 아이콘
음, 그런데 차량vs인명 사고가 났을 때 운전자보다 보행자가 크게 다치는 경우가 많다는 걸 고려하면 보행자 안전을 중요시하는게 당연한 것 같습니다.
돈테크만
21/10/11 17:40
수정 아이콘
아마 부딪히는 거보다는 보행자를 피하기 위해서는 방향을 틀어야하고 그러면 전복이나 추락의 가능성이 있을때 어떻게 해야할까 라는 질문이 아닐까합니다.
소독용 에탄올
21/10/12 01:19
수정 아이콘
해당하는 상황 자체를 예방할 수 있지 않을까요?

자율주행차는 지정차로를 지키면서, 규정에 따른안전거리를 유지하고, 최외곽차로 주행시 제한속도보다 더 감속해서 사고를 회피하는 주행을 할 수 있을테니까요.
21/10/12 14:39
수정 아이콘
최대한 예방을 할 수는 있지만 100프로는 아니니까요. 최악의 경우에 대한 대비는 필요하죠. 피할곳이 절벽과 맞은편 트럭밖에 없는 상황에서 갑자기 보행자가 튀어 나온다면? 같은 굉장히 희막하지만 존재가 가능한 경우의 수가 있으니까요.
소독용 에탄올
21/10/12 16:04
수정 아이콘
보행자 출현에 반응해서 멈출 수 있는 속도로 달리고 있다면 해당하는 문제가 발생하지 않습니다.
보행자가 진입 가능한 지점에서 회피할 공간이 없다면 자율주행차량은 보행자가 차량을 향해 '돌진'하더라도 제동가능한 속도로 달릴겁니다.
심지어 뒤 차량도 자율주행이라면 앞 차량의 급정거에 대응가능한 안전거리를 유지하고 있을거라 후방추돌 문제도 생기지 않을겁니다.
포도씨
21/10/11 21:16
수정 아이콘
무단횡단하는 보행자를 보호하기위해 중앙분리대를 들이받는 선택을 하는 AI 이런 얘기죠. 내차가 그런다면 저라도 안탑니다.
원시제
21/10/11 15:55
수정 아이콘
완전 자율주행의 경우 법적 책임 문제 때문이라도 상용화에 매우 오랜 시간이 걸릴거라고 봅니다.
본문 내용도 마찬가지구요.
21/10/11 15:56
수정 아이콘
알고리즘 핑계대지 않을까요. 최근에 뉴스보면 카카오 택시, 쿠팡이츠, 배민도 그렇고 알고리즘이 배정 해준거니깐 잘못없고 책임이 없다고 하던데요 알고리즘을 공개하는건 말이 안되니깐요
21/10/11 15:56
수정 아이콘
좀 오래된 얘기입니다.
결국 코딩하는 사람이 확정적으로 누군가를 치도록 코딩해야한다는 말인데... 그게 과연 옳으냐..
지금은 그걸 다 딥러닝으로 한다고 해버리면서 AI탓을 하기 쉬워졌으나, 그 AI 모델 만드는 사람에게도 비슷하게 적용되는거라서요.
21/10/11 15:56
수정 아이콘
테슬라의 미래에 가장 큰 걸림돌이 되지 않을까 싶습니다.
Lord Be Goja
21/10/11 15:57
수정 아이콘
차량 구매자나 운전자에게 우선순위선택권을 주고,사고 발생시에 책임을 그만큼 지게하면 될거같습니다.
(현재 직접운전해서 보행자에게 피해를 입혔을때 보상하거나 책임지는거랑 똑같이요)
우선순위 판단은 운전자가 했다는식이 되는거죠.
플러스
21/10/11 18:36
수정 아이콘
처주 마음대로 세팅할수 있는 (우선순위 판단은 운전자가 하는) 자율주행차를 정부가 허용할지 의문이네요
21/10/11 15:58
수정 아이콘
인공지능이 어느쪽을 선택하든 사람이 운전하는 것보다는 훨씬 안전하니까, 누굴 죽일까는 별 문제가 아니라고 생각합니다.
국가 전체로 보면 전부 인공지능으로 교체하는 쪽이 무조건 이익입니다. 특히 한국처럼 교통사고 사망률이 기형적으로 높은 나라는 말이죠.
아예 수동운전을 금지하면 더 좋겠네요.
문제는 일자리를 잃게된 운전기사들이 청와대로 진격하는게 골치아플 뿐이죠.
배도라지
21/10/11 16:06
수정 아이콘
이건 사람들의 의견이 애초에 "운전자"를 보호해야 하는지, "보행자"를 보호해야 하는지가 아니라, "나"를 보호해야 하는 것이기 때문에 결정될 수 없지 않을까요. 내가 운전하는 차는 당연히 운전자를 보호해야 할 것이고, 내가 현장에 휘말린 사고에서 차량이라면 보행자를 보호하는 것이 옳겠지요. 상대적으로 걸어다닐 일이 적은 사람들은 운전자쪽으로 기울 것이고, 본인 혹은 가족들이 차량을 이용하지 않을 가능성이 높다면 보행자의 손을 들지 않을까요.
그러나 결국 선택의 기로에 선다면, 완전 자율 주행 자동차가 반드시 존재할 수 밖에 없는 미래여야 한다면 운전자를 보호할 것으로 생각되네요. 완전 자율 주행 자동차가 존재한다는 전제 하에, 운전자를 우선적으로 보호하는 것이 무서우면 보행자라는 존재가 사라지거나 격리되겠죠. 그러나 보행자쪽으로 기운다면 애초에 완전 자율 주행 자동차 자체가 사장되지 않을까요. 자동차에 돈을 지불하는 사람은 운전자일텐데, 그 누가 "나"를 지켜주지 않는 물건에 비용을 지불하겠습니까.
플러스
21/10/11 18:39
수정 아이콘
그리고 보행자를 보호하지 않는 자동차를 판매 금지시킬수 있겠죠
아영기사
21/10/11 16:08
수정 아이콘
기본은 보행자 보호로 하고 옵션을 택하면 운전자를 먼저 보호하는 걸로 옵션 장사를....
딱총새우
21/10/11 17:12
수정 아이콘
운전자 보호 구독 서비스 ...
하얀 까마귀
21/10/11 16:09
수정 아이콘
벤츠의 예처럼 자동차 회사에서 보행자 우선을 하기는 힘든 일이니 법적으로 보행자 우선으로 정해 놓으면 됩니다. 차안에 안전 벨트를 하고 있는 사람과 맨몸인 보행자 둘 중 어느 쪽이 취약한지는 물어보나 마나하니까요. 몇 가지 예외인 경우만 인정하구요. 자살하겠다고 앞에 뛰어든다든지. 운전자 과실 0인 무단 횡단이라든지.
나파밸리
21/10/11 16:14
수정 아이콘
무단횡단하는 보행자 피하려다 다른차와 사고날수도 있는 문제라 단순히 누굴 우선으로 해야한다고 결정하기는 어려운 문제기는 하죠
배도라지
21/10/11 16:16
수정 아이콘
저는 완전 자율 주행이 자리 잡으면, 점차 자동차와 보행자가 분리되지 않을까 생각됩니다. 운전 자체를 인공지능이 하기에, 승하차 가능 위치도 지정하고, 골목길 등 보행자와 마주치는 곳들도 진입이 불가능하게 하고, 횡단보도도 점점 없어지지 않을까 싶습니다.
인공지능이 주행 자체를 가장 효율적으로 한다는 가정하에, 차량은 주행 거리가 조금 늘더라도 차량만이 통행할 수 있는 곳으로 이동하고, 보행자는 보행자만 이동 가능한 공간에서 안전을 보장받는 형태로 가는 것이 어떠할까요.
VictoryFood
21/10/11 16:35
수정 아이콘
이건 정말 좋은거 같습니다.
Eyelight
21/10/11 16:22
수정 아이콘
전 저 트롤리 문제를 진지하게 의논하는걸 볼때마다 정말 탁상공론이다 라고 생각을 합니다. 이삼십년 뒤에 후배 세대가 저런 걸 읽으면 마치 조선 중기 예송논쟁을 보는 느낌이지 않을까 싶어요.

전 어제도 고속도로에서 앞차들이 사고나서 줄줄이 급정거하면서 하마터면 접촉사고에 휘말릴뻔 했거든요. 지금도 차와 차, 차와 사람간, 아니면 그냥 벽에 차 긁는 충돌사고는 너무 흔하고 많고 실제로 위험합니다. 그렇다고 다들 차 안타나요? 막상 잘 타고 놀러다니면서 호들갑이 너무 심해요. 저 상황이면 어차피 둘중 하나를 쳐야 할거고 그걸 사람이 판단한다? 그 순간 무슨 판단을 합니까 본능적으로 판단 못하고 그냥 브레이크 꽉 밟거나 치는거지. 저건 기술적 문제가 아니고 그냥 철학/윤리적 가치가 포함된 질문으로 의미가 있는것일 뿐입니다.

실제 자율주행 상용화가 되냐 안되냐는 기술의 완성도가 선행해주면 제도와 법률은 좀 늦지만 따라서 정비될 문제죠. 저기서 누구 칠지 판단 못해서 상용화 못한다? 한번 발담근 물은 절대 다시 돌아오지 않고 큰 흐름은 거슬러 갈 수가 없습니다. 러다이트 운동 해도 기계화를 돌릴수 없었던 것처럼 몇년은 버텨도 우리가 안하면 다른 나라들이 먼저 할거니 그거 구경하고 따라서 하겠죠. 이미 자율주행차는 확실히 다가올 미래고 의심의 여지가 없죠.
Lord Be Goja
21/10/11 16:29
수정 아이콘
아마 어느순간부터는 자율주행차량이 죽인 사람의 비율이 직접운전차량보다 적어지는 시점이 올거고 그렇게 되면 직접을 하는 사람이 위험한일을 하는걸로 비난을 받다가 어느날인가부터 자율주행이 없는 차량에 대해 강한 패널티를 주다가 자율주행이 아닌차량이 특정 분야를 빼고 전면적으로 금지가 될거같습니다.기술의 발전에 따라 그게 어느날이냐의 차이가 있을거고..
배도라지
21/10/11 17:06
수정 아이콘
결과적으로는 맞는 말씀입니다. 그러나 우리가 견뎌야 하는 것은 그 과도기인 것이죠. 세상이 완벽이란 것만으로 가득할 수 없다는 가정하에, 아직은 자율 주행이 대다수이지 않은 (머지 않은) 시간 안에, 누군가는 제조사에서는 사람보다 안전하다고 광고한 차량을 믿고 사서 타고 다니지만, (충분히) 있을 법한 인공지능 결함으로 인해 부상을 당하거나 목숨을 잃을 수 있습니다. 그럴 때 피해자를 어떤 식으로든 보호해줄 수 있는 제도적/물리적 안전 장치가 있는것인가 하는거죠.
말씀하신 어느 순간까지, 자율 주행 차량이 죽인 사람의 비율이 직접 운전 차량보다 더 적어지기까지, 자율 주행 차량이 죽여온 수 많은 사람은 어떤 절차로 어떤 기준으로 판단되고 처리되어 피해자들에게 보상이 돌아갈 수 있을까요. 그거야 어찌 해결 될 것이고 결국 미래로 갈것이다라기에는 논의되어야 할 것이 많지 않을까요.
Lord Be Goja
21/10/11 17:22
수정 아이콘
(수정됨) 시대의 변화는 에이지오브 엠파이어의 시대업이나 스타크래프트의 테크건물처럼 한번에 일어나지 않고,변한지도 모르게 하나씩 변할겁니다.
예를 들어 우리는 현재 실내 흡연자를 범죄자보듯 보고 있지만 고작 30년전만해도 사무실에서 줄담배를 피우는 경우도 흔했죠.어느날 부터 갑자기 실내흡연을 하는 사람이 이상한 사람이 된게 아닙니다
인터넷기술은 25년전만해도 정말 매니아나 접근이 가능했지만 현재는 노인분들도 스마트폰을 통해 접하고 있습니다.이것 역시 어느날부터 갑자기 쉬워지고 생활에 필수적인 기술이 된게 아니죠.


자율주행 역시 한동안 최종책임이 사람에게 있는 주행보조단계에 머물겠죠.그런데 그게 '보조'를 하는 정도가 점점 넓어질거고 '보조'를 하지 않는 차량의 사고율이 부각되는 날이 올겁니다.그러면 주행보조장치가 없는 차에 대한 성토가 이루어질겁니다.(특히 신차와 신기술을 빨리 팔고 싶어하는 업체들의 홍보와 바람잡기가 한몫할겁니다.지원한 교수들을 통해,언론을 통해,넷에 푼 바람잡이들을 통해 분위기를 조성하겠죠) 이런 흐름을 통해 어느날인가는 결국은 왜 사람이 판단을 하는거지? 위험하게? 단계에 도달하게 될거라고 봅니다.

물론 모든 신기술이 그렇듯이 이것역시 의도치않은 피해를 초기에 특히 많이 유발할겁니다.하지만 전자제어가 처음들어갔던 차량들의 제어결함들이 능구렁이 넘어간거처럼,초창기의 화기들이 겪은 폭발문제들처럼,유용성이 워낙 커서 넘어가버리겠죠.
이상해꽃
21/10/11 20:12
수정 아이콘
제가 예전부터 생각햇던 이야기였었는데 깔끔하게 잘 써주셔서 제스스로도 정리가 됬네요 감사합니다.
antidote
21/10/12 13:47
수정 아이콘
글쎄요. 지금까지 자동차 회사들이 주행보조장치는 열심히 개발했지만 자율주행은 기술개발을 하면서도 상용화를 안하고 있는 것은 아무도 총대를 매고 싶어하지 않기 때문이라고 봅니다.
딜레마가 아니라 현실적으로 돈 깨지는 문제니까요.
총대를 매고 하다가는 도요타의 급발진문제나 폭스바겐 배기가스 문제같이 문제가 생길 경우 조치하는데 어마어마한 돈이 들수도 있습니다.
테슬라는 어쨌든 할 수 있다고 나선 상태이지만 테슬라조차도 레벨3 달성을 공인하지 못합니다.
왜냐 돈문제니까요.
탁상공론이라고 하기에는 각국의 보호무역이 발동하기 좋은 주제이고 테슬라는 옷을 벗고 춤을 추고 있는 것에 가깝죠.
다만 천문학적인 배상금은 지금까지 미국만 때렸기 때문에 미국회사라 믿는 구석이 없지는 않을 것입니다만
리콜로 몇십만대 부품 무상교환 이런 사태가 벌어지기만 하더라도 자동차회사로서는 엄청난 치명타가 될 수 있습니다.
세상에 자발적으로 자기 제품에 추가로 돈을 내고 싶어하는 회사는 없어요.
Eyelight
21/10/12 16:04
수정 아이콘
(수정됨) 왜 자율주행 상용화 먼저 안하냐고 물으신다면, 아직은 남들도 준비중이고 완성도를 높여야 할 부분이 있는데 굳이 무리해서 먼저 안해도 되는거죠. 시간이 있으니깐요. 그런데 누군가 먼저 나서서 하는 시점이 왔다. 그땐 180도 달라지는거죠.

기업이 돈들여 위험한 길 안간다고 말씀해주셨는데요. 제 생각은 반대입니다. 다들 뒤처질까봐 자율주행 기술개발 죽어라 돈 부어가며 하고 있잖아요. 얼마나 경쟁사보다 먼저 내놓고 싶겠어요. 말씀하신대로 안전 문제는 완성차 업계를 신중하게 만드는 요인이죠. 천문학적인 과징금 때려맞을 가능성도 있고요. 하지만 기술이 어느정도 궤도에 올라오고, 자율주행도 안전하다는 믿음이 확신으로 올라오기도 전에 시장은 이미 그 기술력의 차이로 승자와 패자를 심판하게 될겁니다.

위험한데 어떤 기업이 감당하겠냐가 아니고, 물건 파는 기업이니까 감당하는 겁니다. 기업은 경쟁사가 앞선 기술로 상품과 서비스의 변화를 주도할때 못 따라가고 도태되는걸 가장 걱정합니다. 핵심 기술의 개요를 누구나 알고 다들 그것만 쳐다보고 있는데 얼마나 완성도 높여서 먼저 내놓고 싶을까요? 옆에 스마트폰 날개 돋친듯 팔아먹을 때 아무리 내가 애니콜 PCS 팔고 싶어도 그때가 되면 고객은 안 사줍니다. 그제서야 기술력 갖추겠다고 덤비면 이미 늦은거에요. 어느정도 안전이 보장될 수준으로 기술이 올라오면 약간의 시차는 있겠지만 제도나 인프라는 따라서 정비될겁니다. 고객은 당연히 자율주행차를 좀더 돈 주더라도 선택할거에요. 자율주행은 늦춰질 순 있겠지만 언젠가는 인간이 도달하게 될 목표겠지요..? 저는 다가올 게 확실한 미래는 논의나 의심의 대상이 아니라고 봅니다.
바람돌돌이
21/10/11 16:25
수정 아이콘
기계 운전의 사고율이 인간보다 적어지는 시점이 곧 올텐데, 저런 식의 말장난은 쓸데 없는 고민이라는 입장입니다.
갸르릉
21/10/11 16:34
수정 아이콘
애매하고 정말 답이 없는 경우는 무작위로 하는게 맞지 않나 싶습니다. 다만 이 경우도 기업을 믿을 수 있냐는 문제가 있군요. (무작위라고 해놓고 답을 정해놓는..)
배도라지
21/10/11 16:51
수정 아이콘
무작위라 하는 경우 테스트도 힘들고.. 무작위라고 말은 하고 답을 정해놓는 경우가 많을 것 같네요
21/10/11 16:46
수정 아이콘
이미 반자율주행은 자동적으로 운행하되, 운전자가 직접 운전하는것과 동일한 책임을 지게 하고 있습니다.
고속도로에 테슬라 굴러다니는거 보면 지금도 운전중에 딴거 하는 사람들 많죠.
지금 수준의 자율주행으로도 대부분의 (저는 모두라고 생각하지만)사람보다 훨씬 안전하고 정확하다는건 사실입니다.
내가 책임져야되니까 운전을 자동으로 못 맡긴다고? 그런 사람들이 없지야 않겠지만 극히 드물겁니다.
예전에 이런 사람들이 있긴 있었죠...[급발진 떄문에 수동 기어 탄다]
raindraw
21/10/11 16:58
수정 아이콘
트롤리 딜레마 까지 신경 쓸 정도가 당장은 나올리 없습니다.
자동차 제조사는 팔아먹으려면 탑승자를 보호해야 하는게 당연한 것이고
인공지능이 고도화 되는 건 우선적으로 모든 피해가 최소화 되는 방향으로 발전할겁니다.
트롤리 딜레마 같은 건 개발자 입장에서는 당장은 전혀 없는 것과 별반 다르지 않습니다.
우선순위에 있어 더 높은 중요한 요소들은 넘쳐나니까요.
마르키아르
21/10/11 17:11
수정 아이콘
(수정됨) 기본적으로 법적인 문제와, 상용화, 대중화는 저런 문제보다는

같은 주행거리로 계산했을때

사람이 운전하다 사고로 사망하는 사람의 수와

ai가 운전하다 사고로 사망하는 사람의 수로

결정이 날거라 봅니다.

사람이 운전하면 일년에 100만명이 죽는데, ai가 운전하면 만명이 죽는다고 하면

완전 자율주행을 허용하냐 마냐가 아니라

사람이 직접 운전하는걸 법적으로 허용하냐 마냐가 되겠죠.

한 20-30년뒤면 , 지금 말타볼려면 특수한 장소에서, 제한된 사람이 말타는 것처럼

운전도 서킷같은 제한된 장소에서만 운전해볼수 있는 세상이 되지 않을까 합니다 -_-;
부친토로
21/10/11 17:24
수정 아이콘
자율주행이 직접운전보다 안전하다는 것이 충분히 알려져도 해결될 것 같진 않습니다. 저 조사에 답한 사람들의 심리는 이른바 '확률이 얼마건 [내가 걸리면 백프로]'와 같은 구조인 것 같아서... 해결하는 방법은 자율주행만을 허용하고 사람의 운전을 금지시켜서 선택권을 없애는 것뿐(?)
심장소리
21/10/11 17:32
수정 아이콘
저는 그 '내가 걸리면 백프로' 타령이야말로 자신이 얼마나 확률 통계에 무지한 무식한 사람인지 만천하에 인증하는 거라고 봅니다.
부친토로
21/10/11 17:48
수정 아이콘
맞는 말씀이긴 한데 그게 인간인지라... 자율주행이 사람의 운전보다 안전하다는 걸 숫자로 보여주면 다들 끄덕끄덕 하다가도 본문과 같은 식으로 질문 들어가면 ㅡ약간 유도심문 같긴 하지만ㅡ 또 대부분이 '보행자 보호해야지. 근데 안사요' 라고 대답하지 않을까요? 어느 시점에 '자율주행 전면도입 + 사람운전 전면금지'를 하거나 아니면 펀쿨섹한 방법으로 사람들의 감정을 돌려야겠죠
심장소리
21/10/11 17:52
수정 아이콘
저는 개인적으로 주행자를 우선 보호하는게 합당하다고 생각합니다. 물론 반대로 생각하시는 분들 의견도 존중하고.. 이 논쟁이 탁상공론이라는 말에도 동의하지 않습니다. 머지 않아서 이 문제를 진지하게 논의해봐야 할 날이 올 거라고 생각해요.
플리트비체
21/10/11 17:39
수정 아이콘
0.000000000000001프로로 일어나는 사건에 대해 탁상공론을 하고 이슈화해서 교수들이 돈 빨아먹으려는 것 같아요 자율주행 차들끼리만 달리면 운전자가 다칠일이 없습니다 인간이 운전하는 차가 문제죠
피우피우
21/10/11 18:12
수정 아이콘
이건 트롤리 딜레마랑 상관이 없는 문제 같습니다.

딜레마에 대한 답은 이미 78%라는 다수가 보행자를 우선 보호하는 게 원칙이라는 합의를 이룬 거잖아요. 그런데 거기서 딜레마 외적인 문제, 즉 그 원칙이 바로 '당신'에게 불리하게 적용될 때도 여전히 그 원칙을 준수할 것인가 하는 질문에 그렇지 않을 것이라는 답변이 다수인 상황이니까요.

트롤리 딜레마에 비유하면 한 명이 묶여있는 쪽으로 레버를 돌리자고 사회적 합의는 이미 이루어졌는데 "묶여있는 한 명이 바로 너라도 레버를 돌리라고 할 거야?"라는 딜레마의 상황을 벗어난 질문에는 "아니"라고 원칙을 어기는 답변을 하고 있는 거죠.

본인이 위험에 처하게 되는 상황에서 마냥 원칙 지키라고 할 수는 없는 노릇이지만 어쨌든 제조사는 사회적 합의에 의한 원칙을 잘 지킨 알고리즘을 만들도록 했으면 좋겠습니다. 모든 완전주행차량이 보행자를 우선 보호하는 상황이라면 운전자입장에선 좀 찜찜하더라도 그냥 타겠죠.
42년모솔탈출한다
21/10/11 18:46
수정 아이콘
보행자를 보호하기 위해서 보행자를 피하려다 다른 차량과 사고나는게 옳은가도 포함되어야 하고,
보행자를 보호하기 위해서 보행자를 피하려다 다른 보행자를 치는 경우도 고려해야 할거고요.
자율주행 자량으로 달려드는 보행자는 어떻게 할것인가 하는 문제도 있겠죠.
저는 교통법규를 지키면서 달리고 있는 상황에서 무단횡단자와 운전자를 보호하는 문제에 있어서는 운전자를 보호해야 하고,
그 외에 교통법규를 지키면서 움직이는 보행자는 운전자보다 우선해서 지켜야 한다고 생각 합니다.
21/10/11 18:53
수정 아이콘
자율 주행을 할 정도 인공 지능이라면,
보행자 우선이냐 탑승자 우선이냐가 아니라,
전체 최적화를 할 거라고 봅니다.

그 기준은 나갈 보험금 총액이 되겠지요.
깻잎튀김
21/10/11 18:57
수정 아이콘
운전자 보호는 차량 내부에서 구현해야한다 싶네요.
보상 책임은 보행자의 위법/과실이 아닌 이상 기업이 100% 지는게 맞다고 보고요.
그러면 또 위법한 보행자는 쳐도 된다는 결론이 만들어지는데...
유료도로당
21/10/11 19:18
수정 아이콘
예전에 교통공학 전공하시는 선생님이 이거 관련 얘기를 자게에 써주신게 기억나네요. 크게 의미없는 논쟁이라는 ...
https://pgr21.com/recommend/3026
파랑파랑
21/10/11 19:22
수정 아이콘
피하면 됨 멈추거나
21/10/11 19:23
수정 아이콘
저율주행은 선택의 문제가 아니라 책임 회피의 문제로 접근해야 할 것 같습니다.
지니팅커벨여행
21/10/11 19:51
수정 아이콘
책임 회피가 아니라 사고 회피로 접근해서 모두가 안전하게 되면 좋겠어요.
잘생김용현
21/10/11 19:46
수정 아이콘
https://www.sedaily.com/NewsVIew/1L07C0W5EU

저는 요것도 궁금하더라구요. 인공지능을 속이는 방법에 대한 소개입니다.
바람의바람
21/10/11 20:07
수정 아이콘
(수정됨) 그나마 해결방안 비슷하게 될 방안이 이미 기술이 충분해도 사회적 합의가 충분히 이루어 지도록 긴 시간을 준 뒤
자율주행 시행하면 그 즉시 기존 모든 차량 운행중지시키고 전 차량 자율주행으로 하면 일단
차대차 사고는 안난다고 하더군요(이론적으로) 문제는 역시나 돌발행동을 하는 보행자들인데
그럼 간단하죠 차는 항상 규정을 지키면서 정해진 알고리즘으로 운행하니 잘못이 없는 운전자가(아니 탑승자가 되겠군요 목적지만 지정하니)
우선시 되어야 한다고 봅니다. 이러면 앞으로 무단횡단하는 사람들 획기적으로 줄어들거고
일단 사고나면 무조건 100:0 이기에 보행자가 보상받을수도 없죠 결국 사람들 인식이 바뀔거라 봅니다.
물론 그정도 기술력 있으면 차들이 지나다니는 곳에 보행자가 함부러 갈 수 없도록 안전팬스도 다 있겠죠
소독용 에탄올
21/10/12 10:00
수정 아이콘
전차량 자율주행이면 보행자가 죽을생각으로 길에 뛰어들어도 사고 안나게 전 차량이 현행기준상 보행자 보호의무를 지키며 안전주행 할거라 트롤리 딜레마 자체가 안생기는거 아닌가요....
21/10/11 21:04
수정 아이콘
룰대로..
보행신호를 지키는 보행자 > 운전자 > 보행신호를 지키지 않는 보행자
감전주의
21/10/11 23:05
수정 아이콘
차는 에어백 같은 안전장치가 있지만 보행자는 맨몸으로 받아야 되는데
당연히 보행자 안전이 우선되야죠
아구스티너헬
21/10/12 08:18
수정 아이콘
그게 그렇게 간단하지 않습니다.
차가 보행자를 회피하기 위해 긴급거동(조향 및 제동)을 할 경우 가장 문제되는 상황은 후방추돌입니다.
뒤차가 애들태운 학원버스라던가 하면 인명피해는 눈덩이처럼 불어날 수 있죠.
뒤차가 덤프트럭이라면 운전자는 사망할 가능성이 엄청 높아지죠.
자율주행이 발전할수록 언젠가 알고리즘을 만드는 사람은 어떤 선택을 해야하고 그 선택에 어디에 무게를 두어야 하는지는 결국 정해져야 하는 거죠
저는 운전자와 보행자의 위험이 같을 경우 반드시 하나를 택해야 한다면 운전자를 선택해야 한다고 봅니다.
그 시스템을 위해 대가를 지불한 사람이니까요.
소독용 에탄올
21/10/12 16:09
수정 아이콘
자율주행 차량이 도입되는 과정에서 안전거리 강제준수를 위한 보조기구 의무화 조치가 진행되는 방향으로 갈 수 있습니다.

후방추돌을 예방하는 가장 좋은 방법은 안전거리+안전속도를 준수하는 형태일거고, 자율주행차량이 운전자와 보행자의 위험을 빠르게 계산하고 선택하게 하는 것보단 안전거리 준수를 강제하는 기구를 강제보급하는게 더 나은 경로니까요.....
아구스티너헬
21/10/12 16:52
수정 아이콘
모든차가 자율주행이어도 쉽지 않지만
일부만 일반차가 있어도 해당사고는 발생합니다.
뒤에 있는 차가 자율주행차인지 알 수 없기 때문이죠.
V2X가 보편화되면 일부가능한데 요즘 자율주행시장은 v2x랑은 다른방향으로 진행되고 있긴 합니다.

차가 자율주행 기능으로 긴급제동할 경우 감속가속도는 1G에 근접하고 인간이 브래이크를 밟아서 낼수있는 최대 감속은 이거에 절반정도 뿐입니다. 거기다 인지지연 시간을 포함하면 후방추돌은 피할 수 없죠

그래서 현 시스템도 60kph(회사마다 조금씩 다름)이하의 속도에서만 보행자 긴급제동이 활성화되고 보행자의 안전은 30kph이하에서만 확보됩니다.
이미 기존시스템도 보행자보다 더 큰 사고(후방추돌)을 방지하는 쪽으로 선택되어있습니다.
소독용 에탄올
21/10/13 16:52
수정 아이콘
보행자 진입이 가능한 길에선 보행자 안전을 확보 가능한 속도로 다니게 될테니까요.

사실 지금도 50/30 제한속도가 잡혀 있으니 인도 옆 도로 전반에서 보행자 긴급제동이 활성화되고, 설정된 보호구역에선 보행자 안전이 확보되겠네요.
21/10/12 00:16
수정 아이콘
사고에 대한 원인 제공자가 누구인지, 보행자를 살리려다 더 큰 사고를 일으킬 가능성은 없는지, 기술적인 문제는 어떤지 여러 상황을 따져야하는데 단순히 트롤리로 치환하는건 잘못이라 봅니다.
소독용 에탄올
21/10/12 00:54
수정 아이콘
완전 자율주행이면 사람보다 시야도 넓고 규정도 전부 지키면서 위험회피주행을 하고, 판단도 빠르고 반응시간에 제약도 적은 상황일거라 보행자가 차량에 치이려고 일부러 뛰어들어도 사고를 피할수 있지 않을까 합니다.

당장 인도변에 불법주차차량이 있는 도로라면 다음 주차차량 사이로 언제 뭐가 어떻게 튀어나오건 멈출수 있는 속도로 운전을 해도 지치거나 주의분산이 되지 않는게 자율주행차량 일테니까요.

시내건 교외건 거주지인근은 전부 30, 50으로 묶어놓고 제한속도가 이보다 높은 차량전용도로들은 사람이 애초에 못들어오게 만든다면 대응하지 못할 보행자 사고 자체가 안생기겠죠.
캡틴골드
21/10/12 01:18
수정 아이콘
구한말 최초로 설치되어 운행하던 전차가 사람을 치어 죽였을때, 분노한 민중들에 의해 기관사가 맞아 죽고 전차가 파괴되었다는 이야기가 생각납니다. 그 당시에는 쇳덩어리로 사람을 치어 죽인다는 건 상상도 할 수 없는 일이었기에 대부분의 사람들에게 큰 충격이었을 겁니다. 하지만 오늘날 교통 수단에 의한 인사사고가 났을 때 무조건적으로 운전자를 비판한다던가 무조건적으로 운송 수단에 분노를 느끼는 사람은 없죠. 당시 상황과 법규를 다 따져 판단하는 분들이 대부분일 겁니다.

자율주행도 마찬가지일것 같습니다. 지금이야 어찌 감히 인공 지능의 판단에 사람 목숨이 달린 운전을 맡기느냐고 고민하지만, 자율주행이 본격화되면 한 때의 해프닝 정도로 끝날 수도 있다고 봅니다. 자율주행이 본격화되면 오히려 민식이법 처럼 보행자 보호를 위해 자율주행을 제한하는 법이 제정되었을때 반발하는 사람들이 꽤 많이 나올수도 있다고 봅니다. 솔직히 자율주행을 가로막는 건 기술적인 한계지 윤리적 한계는 아닐것 같습니다.
소독용 에탄올
21/10/12 01:22
수정 아이콘
자율주행차가 널리보급된 상태라면 자율주행을 제한할 필요가 없죠.
민식이법 같은 안전규제를 도입하면 자율주행 차들은 무조건 준수할테니까요….
공실이
21/10/12 10:00
수정 아이콘
현실에서는 그냥 최대한 사고 확률을 낮추는 방법을 선택하겠죠...? 실제로 가장 윤리적인 선택이기도 하고요.
내년엔아마독수리
21/10/12 10:53
수정 아이콘
이런 건 그야말로 기업이 아니라 국가에서 강제해야 하는 문제라고 생각합니다. 당연히 보행자 우선으로.
antidote
21/10/12 13:58
수정 아이콘
(수정됨) 자동차회사나 보험회사의 수익성이 걸린 문제인데 트롤리 문제가 탁상공론이니 예송논쟁이니 하고 지나칠 문제는 아닙니다.
그리고 미국시장에서 거짓말하다가 걸릴 경우 수십만대 리콜 이런거 터지면 수조원 대 돈이 깨집니다.

테슬라는 음악이 흐르니 옷을 벗고 춤을 추는 댄서에 가깝죠. 도요타나 폭스바겐이 (자율주행 이슈는 아니지만)지난 20년간 제어소프트웨어 문제로 미국에서 과징금 먹었던거 생각하면 테슬라가 믿을건 자사의 자율주행기술과 테슬라가 미국기업이라는거 두개 밖에 없습니다. 그 중 후자는 포드 핀토 같은걸 보면 확실하다고 하기도 힘들고 전자는 그냥 테슬라 주주들의 믿음의 영역입니다.
단적으로 말해서 테슬라는 비싸고 기계적유지보수가 어려운 라이다 다는것만 해도 아주 인색한 태도를 보이고 있는데
자율주행기술이 완성된 후 라이다 장착한 자율주행차가 보행자나 운전자 보호확률이 얼마 이상 올라간다 이런 기술적 자료가 나오면 포드 핀토처럼 "비도덕적인 회사"딱지 붙으면서 어마어마한 손실 보는 것도 가능한 시나리오입니다.
예송논쟁이 아니라 오히려 누가 돈을 더 내야 하는가? 어디까지 보증해야 하는가? 가 달린 아주 현실적인 문제죠.
정부에서 모든 자동차를 컨트롤 할게 아니고 개별 기업이 각자 기술개발해서 제품을 파는 이상 이 문제는 계속 남아있어요.
목록 삭게로! 맨위로
번호 제목 이름 날짜 조회 추천
101145 (스포)요즘 본 영화 감상​ ​ [4] 그때가언제라도3369 24/03/15 3369 0
101144 제게 초능력이 생긴다면, 이 세상 사람들 모두가 영원히 살도록 할겁니다 [51] 보리야밥먹자6620 24/03/15 6620 0
101143 [역사] 연개소문 최후의 전쟁, 최대의 승첩: 7. 선택과 집중 [10] meson3342 24/03/15 3342 9
101142 오랜만에 랩 작업물 올려봅니다! (스파6 류 테마 등) [4] 개념치킨2148 24/03/14 2148 7
101141 『드래곤볼』과 함께 하는 인생 (토리야마 아키라 추모글) [26] 두괴즐3315 24/03/14 3315 18
101140 [역사] 연개소문 최후의 전쟁, 최대의 승첩: 6. 고구려의 ‘이일대로’ [1] meson1559 24/03/14 1559 12
101139 [역사] 연개소문 최후의 전쟁, 최대의 승첩: 5. 예고된 변곡점 [4] meson2518 24/03/13 2518 12
101138 [공지]선거게시판 접속 방법 안내 공지 [7] jjohny=쿠마4542 24/03/13 4542 1
101136 LG전자, 2024 울트라기어 OLED 모니터 라인업 가격 및 출시일 발표 [48] SAS Tony Parker 7449 24/03/12 7449 1
101135 [역사] 연개소문 최후의 전쟁, 최대의 승첩: 4. 침공군의 진격 [5] meson1907 24/03/12 1907 11
101134 [잡담] 북괴집 이야기 [5] 엘케인3959 24/03/12 3959 20
101133 수원 거주민들의 이목을 끌고 있는 최근 1주 간 사건 3개 [22] 매번같은13372 24/03/11 13372 0
101132 [역사] 연개소문 최후의 전쟁, 최대의 승첩: 3. 몽골리아의 각축 [7] meson2420 24/03/11 2420 16
101131 비트코인이 1억을 돌파했습니다. [71] 카즈하9055 24/03/11 9055 2
101130 (스포) 고려거란전쟁 유감 [38] 종말메이커5272 24/03/11 5272 2
101128 96회 미국 아카데미 시상식이 진행되었습니다. [34] Rorschach6929 24/03/11 6929 5
101127 혐오의 과학으로 상나라를 돌아보다 [14] 계층방정4779 24/03/11 4779 2
101126 자동차 산업이 유리천장을 만든다 [68] 밤듸7931 24/03/11 7931 42
101124 유료화 직전 웹툰 추천-호랑이 들어와요 [19] lasd2414449 24/03/10 4449 9
101123 [역사] 연개소문 최후의 전쟁, 최대의 승첩: 2. 당나라의 ‘수군혁명’ [11] meson3154 24/03/10 3154 19
101122 [역사] 연개소문 최후의 전쟁, 최대의 승첩: 1. 들어가며 [7] meson2543 24/03/10 2543 18
101121 요즘 알트코인 현황 [38] VvVvV10040 24/03/10 10040 0
101119 '소년만화' [14] 노래하는몽상가3752 24/03/09 3752 10
목록 이전 다음
댓글

+ : 최근 1시간내에 달린 댓글
+ : 최근 2시간내에 달린 댓글
맨 위로