|
:: 게시판
:: 이전 게시판
|
- 모두가 건전하게 즐길 수 있는 유머글을 올려주세요.
- 유게에서는 정치/종교 관련 등 논란성 글 및 개인 비방은 금지되어 있습니다.
통합규정 1.3 이용안내 인용"Pgr은 '명문화된 삭제규정'이 반드시 필요하지 않은 분을 환영합니다.법 없이도 사는 사람, 남에게 상처를 주지 않으면서 같이 이야기 나눌 수 있는 분이면 좋겠습니다."
18/12/03 14:26
인공지능이 그것까지 판단할수는 없죠.
위급시에 자동차로 보행자를 치느냐, 탑승자가 다치도록 하느냐의 문제에서 보행자 우선으로 설계가 되어야 한다는거죠
18/12/03 09:16
직업을 어떻게 구분하는지도 궁금하지만 그건 차치하고
운동선수랑 경영인은 여성이 순위가 높고 의사는 남성이 순위가 높은건 왜일까요 흠터레스팅
18/12/03 09:25
이게 과연 순서를 매겨서 할수 있는 일인지 의문이네요.
그리고 유사시 승차자가 죽어야하는 선택을 하는 인공지능이라면 과연 그 차를 구입할 사람이 있을지도 의문이구요.
18/12/03 10:05
그래서 꽤 유명한 딜레마로 계속 논의되고 있지요
선택해서 사람을 살린다 = 선택해서 사람을 죽인다 -> 자동차 회사의 의도적인 살인 선택해서 외부인 모두를 살리지만 운전자의 부상을 유발한다 -> 그런 차를 왜 사요?
18/12/03 09:39
다른 건 다 직업, 연령인데 [비만]이 왜 설문조항으로 들어간 걸까요.
그렇다고 범죄자랑 엮일 레벨은 아니고, 굉장히 악의적으로 해석될 여지가 있는 선택지네요.
18/12/03 09:49
사실 실제 자율주행차 제작에 있어선 별로 중요한 이슈는 아닙니다 크크
운전 해보신 분들이면 아시겠지만 보행자와 충돌이 불가피한 경우를 먼저 알고 있으면 보통 대처가 가능하죠. 당장 위 일러스트만 해도 그냥 길 밖으로 나가는게 정답이구요. 그냥 실제 자율주행차에 대한 내용이라기 보다 사람들이 생각하는 안전해야 마땅한 사람 순위 정도로 보는게 타당하겠네요.
18/12/03 10:09
꽤 오래전부터 논쟁이 있어온 주제로 아는데, 왜 중요한 이슈가 아닌지 현 자율주행차 제작 관련자시라면 그 이유를 알려주실 수 있나요?
행여나 길 밖으로 나가는 과정에서 운전자의 부상이 발생한다면, 그 자율 주행차를 구매할 사람이 있을지가 궁금합니다. 그리고 보통 저런 딜레마 테스트는 정말 말 그대로 사고가 날 수 밖에 없는 상황만을 놓고 하지 않나요? 다른 선택지가 없는 상황에서요.
18/12/03 10:17
길밖으로 나가는 선택지가 있는데도 불구하고 운전자의 부상을 우려해 직진해 보행자와 충돌할수도 있는 자율주행차라면 구매는 커녕 출시도 불가능할거 같은데요.
이런 알고리즘은 구매자의 취향에 맞춰 선택하는게 아니라 사회적 합의가 우선될것 같습니다. 최종적으론 법적으로 규정을 하겠죠.
18/12/03 10:42
그래서 자율주행의 딜레마인거죠.
사실 저도 이 문제에 대해 제 대학원 동기와 오래 얘기를 나눠봤습니다. 결론은 미네랄은행님께서 말씀하신 것처럼, 사회적 합의에 의해 정하는게 맞다고 냈지만 그 답 또한 '사회적 합의'는 어디서 나오는가? 과연 그게 정의 justice 인가? 라고 물었을 땐 답이 없어지더라고요. 혹시 구매자 취향이라고 말씀하신게, '1번 옵션은 주행 중 사고 날 것 같을 때 보행자를 치는거고요, 2번 옵션은 운전자님께서 다치시는 겁니다' 와 같은 내용이라면, 기업 입장에선 그렇게 할 리가 없을겁니다. 암루트를 통해 차량내 알고리즘을 고쳐줄 순 있겠지만요. 하지만 자율 주행 차량의 시대가 점점 가까워 오는만큼 이 문제를 회피할 수 만은 없을 겁니다. 개인적인 의견으론 그 사회적 합의를 알아보기 위해 저런 설문조사를 했다고도 봅니다. 다수의 의견이 곧 사회적 합의가 될 가능성이 높으므로, 설문조사를 진행한 것 같습니다.
18/12/03 10:22
(수정됨) 저렇게 사고가 날 수 밖에 없는 상황이면 브레이크를 밟아야죠
비어있는 공간이 있으면 비어있는 곳으로 가는거고 장애물 회피가 불가능하면 브레이크 밟아서 피해를 최소화 해야지 그 상황에서 한쪽 장애물은 사람이고 한쪽은 아닌데 어쩌고 저쩌고 판단해서 그쪽으로 갈 능력이 있는 상황이면 사고가 날 상황이 아닌거죠 장애물을 구분하는 순간 사람 목숨을 저울질하게 되는데 그런 논란을 없애는 방법은 그런 판단 자체를 아예 하지 않는거죠
18/12/03 10:36
무슨 말씀하시는지는 충분히 이해합니다.
다만 이런 딜레마 문제는, 철로/기차 문제(기차는 달리고 있고, 왼쪽 선로에는 사람 한명이, 오른쪽 선로에는 사람 다섯명이 묶여 있을 때 어디로 가야하는가)와 같이 다른 가능성을 배제한 채로 '만약 쳐야한다면, 그 방법 뿐이라면' 을 전제로 깔기 때문에 브레이크 등의 해결 방법은 적합한 예시가 될 수 없다고 생각합니다. 또한 개발자 입장에선, 극단적인 상황에서의 가능성과 판단을 봐야하기 때문이니까요.
18/12/03 10:47
(수정됨) 사회적 합의로 사람 목숨의 경중을 정해놓고 그렇게 행동하게 하는 기능을 요구하면 그때 개발하면 되는거죠. 저런 경중을 정하는건 개발자 몫이 아니니까요
개발자라면 저런 극단적인 선택이 나오지 않게 어떤 센서/알고리즘을 추가할것인지, 충돌이 확실하다면 어떻게 피해를 최소화 할지를 고민해야죠 말씀하시는 내용은 개발자가 아니라 사회학/철학쪽 사람들이 고민해야 할 내용이라고 봅니다
18/12/03 10:57
개발하는 사람들은, 요구받았을때 그제서야 개발하면 너무 늦게 됩니다.
결국 개발하는 사람들도 먹고 살아야 하니까요. 물론 이상적인 유토피아라면 그게 가능하겠지만 경쟁 사회의 한 부분이니까요. 극단적인 상황이 나오길 바라는 개발자는 없습니다. 당연히 그런 센서와 알고리즘이 추가되어 있겠지요 이미. 최대한 노력하여 만개중 9999개의 사고는 피할 수 있도록 만들지만, 그 남은 하나의 경우의 수 때문에 저런 극단적인 개발도 하게 되는거니까요. 그런데 개발자가 그 상황에 대한 대처법을 개발하기 위해선 딜레마에 빠질 수 밖에 없고, 저런 설문조사를 통해 또는 여론을 통해 사회에 물어보는거죠. '우리가 진짜 노력해서 웬만한 인간 운전자들 보다 사고율 낮은 자동 주행 ai를 개발했거든.. 이 정도면 그 사고 상황을 가능한 한 피하도록 만들었다고 볼 수 있을 것 같은데.. 99.9999%의 사고는 진짜 피할 수 있도록 했는데, 저건 답이 없더라.. 너흰 어떡하는게 맞다고 생각하냐?' 라는 질문으로요.
18/12/03 11:00
오히려 개발자 입장에선 왜 이렇게나 극단적인 상황까지 가능성과 판단을 봐야하는가? 라는 생각이 들것 같은데요...B/C가 안 나오는 얘기니까요.
보통 사망사고는 대-km 기준으로 1억 5천 대-km마다 사망사고가 납니다. 현재 자율주행차는 3억 대-km마다 사망사고가 나는 수준이고요. 이게 충분하다는 얘긴 아니지만, 자율주행차로 인해 단 한건의 사고도 용납하지 않는다는건 이상하지 않나요? 현재의 감/가속 수준으로는 보행자가 뛰어드는 것만 제외하면 트롤리 딜레마가 나올 수 있는 상황이 없는 거나 마찬가집니다. 트롤리 딜레마는 시스템의 고장을 무조건 가정할 수 밖에 없어요. 이러면 이미 경우의 밖 얘긴것 같습니다.
18/12/03 11:06
왜 그런 생각을 하냐? 불편하게? 라고 물으신다면 사실 대답해드릴 건 없습니다.
다만 기업 입장에서도 저런 사고가 발생했을 때, '솔직히 사람보다 낫잖아, 너희보단 나으니까 뭐라고 하지 마'라고는 할 수 없으니까요. 시스템이 고장나지 않아도 저는 저런 상황이 충분히 나올 수 있다고 봅니다. 이미 고장 없는 일반 비자율주행 차량에서도 저런 사고는 빈번히 나오고 있으니까요
18/12/03 11:20
아뇨 불편하게, 라는건 아닌데 사실 기업 입장에서는 "사람보다 낫잖아"가 할 수 있는 말이라서요.
뭐 따로 글로도 쓰겠지만 대인사고 발생시에 나가는 비용은 돈으로 정확하게 환산이 가능합니다. 그럼 법적으로 이 비용을 누가 떠맡느냐가 판결이 날 테고, 그럼 거기에 따라 시장에 반영이 되겠죠. 분명 기대 사고율이 낮은 자율주행차는 많은 메리트를 가지고 있습니다. 솔직히 말씀드리면 윤리가 끼어들만한 여지가 하나도 없는 곳입니다. 윤리는 이미 "법"이라는 이름으로 참가중이구요. 트롤리 딜레마가 계속 논의되는 이유는, 뭐 흥미로운 얘기니까요. 그리고 고장 없는 일반 비자율주행 차량에서 "저런" 사고는 거의 없습니다. 그냥 들이받는 사고가 많죠. 저도 교통사고 경험이 있는데, 사고 와중에 좀더 윤리적으로 사고를 내는 경우가 있나요? 예를들어 브레이크 고장 시에 보통 도로 주변 기물을 받고 정차하는 것을 노리게 되는데 이건 윤리적 판단이 아니라 대인사고 회피를 위한 방법입니다. 이미 윤리적 판단이 될 정도의 경황에선 이런 식으로 사고를 안 내겠죠. 그러니까 그냥 흥미로운 얘기에 지나지 않는다, 라고 말씀드리는 거구요.
18/12/03 11:35
루트에리노 님// "저런"사고는 아랫댓에도 언급했다시피 쉽게 이해하기 위해 그림을 그린 것이라고 생각하기 때문에, 해당 딜레마의 본질적인 면에 집중해야 한다고 생각합니다. 윤리적으로 사고내는 경우는 당연히 없지요. 아주 이상적인 사고의 모습이라고도 볼 수 있겠네요. 저 상황을 대처하기 위해 일하는 개발자분들에게는요.
제가 얘기드린 "저런"사고의 흔한 모습이라는 것은, 결과적으로 사람들 중 누군가는 다쳐야 하는 상황입니다. 사람의 반응속도로는 그 계산을 하지 못하기 때문에 윤리적인 사고가 나지 않겠지만, 처리 속도가 빠른 기계에는 그 사이에 윤리가 관여할 수 있지 않을까요? 그래서 자율 주행 차량의 딜레마로써 이런 문제가 존재하는게 아닐까요? 또한, 대인사고를 회피하기 위한 그 방침 또한, 사람을 쳐선 안된다는 윤리를 베이스로 두는걸테고요. 이미 사고의 결말이 다 예상되는 상황에서도 물론 중요하지만, 결국 갑자기 발생해서 누군가는 상해를 입어야할 상황에선 어떤 선택이 옳은 것인가? 과연 그 사회적인 선택 또한 옳다고 볼 수 있는 것인가? 하는 것은 흥미 이상의 고민과 사회적 동의를 필요로 한다고 생각합니다.
18/12/03 11:01
저거 선택하는 알고리즘이 절대 어려운 문제가 아니니까요...
비전으로 장애물 사람인지 아닌지 구분하는 기술이야 요즘 석사 수준에서도 구현 가능한 기술이고 그렇게 장애물 구분하고 나면 trajectory planner쪽에서 가중치 조금만 수정하면 벽이 아니라 사람쪽으로 경로 뽑아서 가면 됩니다. 탑승자랑 외부 사람들이랑 비교할거면 차량 내부 센서로 탑승자 숫자 판단해서 크기비교 한번 하면 끝이고요 극단적으로 말해서 자율주행 프로그램이 완성되어 있다면 파라미터 한두개만 바꾸면 되는 문제에요
18/12/03 11:08
그렇죠. 개발자 입장에선 조금만 손대면 판도를 엎을 수가 있습니다.
그래서 사람들에게 물어보는거죠. 우리가 저거 솔직히 다 선택할 수는 있는데, 우리가 선택하게 될 케이스에 대해 너희는 어떻게 생각하니? 라고요
18/12/03 11:13
제가 루트에리노 님은 아니지만 첫 댓글의 자율 주행차 [제작]에 큰 의미가 없다는 말은 결국 기술 자체로 놓고 봤을때 의미가 없다고 해석되네요
자율 주행차 [도입]에 있어서는 정말 크리티컬한 문제고 사회적으로 엄청난 논란과 갈등을 유발하겠지만 기술 개발하는 입장에서는 동료 개발자가 저거 고민하고 있는 사람이 있으면 왜 저걸 개발자가 고민하고 있는지 궁금할거 같거든요
18/12/03 11:33
DSlayer 님//
도입에 있어서도 크리티컬한 문제는 아닐 수 있습니다. 자율주행차는 지금처럼 초보적인 단계에서조차 사람보다 월등하게 안전합니다. 왜냐하면, 조금이라도 위험하면 그냥 멈추거든요. 그럼 안전하죠. 저게 딜레마라고 불리는 것 자체가 "왠지 자율주행차는 저런 거 미리 프로그래밍 해놓으면 해결해줄 수 있을 거 같아서" 잖아요.
18/12/03 11:38
루트에리노 님// 말씀하신 급 브레이크도 주행 방식의 한 부분으로써 딜레마를 유발할 수 있습니다.
앞의 한 사람을 위해 급제동을 했을 시, 뒤따르던 차량과 그 승객에게 발생할 수 있는 인명 피해도 살펴볼 수 있겠지요.
18/12/03 11:50
루트에리노 님// 제가 크리티컬하다는건 감정적으로 몰고가기 너무 편한 주제라서요
자율주행으로 사고율이 줄었던 말건간에 결국 나 혹은 주변에서 사고가 생기면 자율주행이 없었으면 이 사고가 안났을거 아니냐 이런 태도를 취할 수 밖에 없는게 사람이니까요 그런 상황에서 사고 책임을 누가 질건지, 사고 원인 분석을 누가, 어디에서 할건지 이런 문제에 대한 사회적 합의가 끝나야 하는데 너무 물어뜯기 좋은 소재죠
18/12/03 11:53
DSlayer 님// 저 또한 이 말씀에 동의합니다. 제가 지인과 오랜시간동안 이 문제에 대해 논의했을때도 이런 의견을 나눴었습니다.
사실 기업이 개발하려는게 아니라면 상관이 없습니다. 이윤 포기하고 마이웨이로 가면 그만입니다. 다만, 기업이 물어뜯기길 원할까요? 그래서 이 문제는 자율 주행 차량이 존재하는 한, 판매되는 한 끊임없이 논의 될 것 같습니다.
18/12/03 11:56
루트에리노 님// 정말 죄송한 걸 아신다면 그런 멘트를 하시면 안됐겠지요. 면허는 있지만, 개발자의 선택과 윤리적인 선택을 다시 한번 확인하는 관점에서는 한번 더 살펴볼 필요가 있다고 봅니다.
18/12/03 10:54
글로 쓸 준비를 하고 있었는데 잘 됐네요...자율주행차 제작 관련자는 아니고 이쪽 관련해서 일을 하고있는 교통공학자입니다. 해당 내용이 제작에 있어 왜 중요한 이슈가 아니라고 생각하는가 하면, 기술로 해결할 일이 아니기 때문입니다. 추가로 트롤리 딜레마 자체가 말씀처럼 사고가 날 수 밖에 없는 상황만을 가정하는데, 그 가정 자체가 보통 말이 안됩니다.
vs놀이에서 끊임없이 조건이 붙는것처럼 대부분의 트롤리 딜레마는 그 상황 자체가 이미 현실에 없는 경우가 많습니다. 자율주행차가 브레이크가 고장났는데, 가속하는 동안 브레이크가 고장난걸 전혀 감지를 못해서 감속이 불가능한 상황이면서, 도로 밖으로는 탈출이 불가능하고, 이 와중에 양쪽 길에 보행자가 각각 있어서 둘 중 하나를 쳐야만 하는 상황, 이런 상황에 대해 자율주행차가 솔루션을 달고 나와야 한다는건 좀 이상하게 들려서요. 당장 저 위에 있는 그림도 얼마나 이상해 보입니까. 제가 저 상황을 실제로 본다면 차가 없다고 해도 아이부터 들고 나와서 부모를 찾겠죠. 트롤리 딜레마가 떴을 때 어떻게 해야하냐를 설계한다면 이미 설계미스가 아닐까요. 애저녁에 트롤리 딜레마 상황이 나오지 않게 하는 게 훨씬 좋은 설계 같습니다.
18/12/03 11:03
윗 댓글에 제 의견을 적어뒀습니다.
물론 저도 저런 상황이 오지 않게 하는게 맞다고 봅니다. 근데 생각해보면 저런 상황이 그렇게 낮은 확률 내에서 나오는게 아니라는게 제 의견입니다. 브레이크에 대한 얘기는 없었으니, 브레이크 예시 대신 급커브 구간 중 갑자기 도로에 나온 보행자/무단횡단자가 있을 시가 더 적합한 예시일 것 같습니다. 브레이크를 최대한 잡아도 사람을 칠 수 밖에 없고, 만약 그 상황에서 핸들을 꺾는다면, 다른 차량을 치게 될 것이며 해당 차량 탑승자에게 큰 데미지를 줄 수가 있겠죠. 사실 딜레마 문제에 대해 간단히 설명하기 위해 저런 그림을 그린거지, 실제로는 보다 근본적인 면에 집중해야 한다고 생각합니다. 저런 딜레마 문제는 누가 왜 생각한걸까? 사람들이 불편해하고 피하고 싶어하는 그 '목숨의 경중'을 사회적으로 알아보고 싶다는 것 아닐까요?
18/12/03 11:30
급커브 구간 중 갑자기 도로에 나온 무단횡단자는 딜레마가 아니죠. 기계의 감속한계에 못미치면 들이 받는거고 아님 멈춰설겁니다. 이건 딜레마 상황이 될 수 없습니다. 그리고 말씀대로 급커브 상황이면 회피기동이 불가능하죠. 결국은 또 트롤리 딜레마처럼 조건을 한없이 붙여나가서 "사고를 피할 수 없는 상황"을 어거지로 만드는 얘기밖에 안됩니다. 그런 억지 상황을 제외하면, 이제 이건 자율주행차 윤리논란이 아니라 그냥 기계의 기동한계 얘기 밖에 안되죠.
목숨의 경중은 이미 "가격"으로 추산하는 방법까지 나와 있습니다. 솔직히 말씀드리면 이쪽에선 별로 불편한 얘기도 아닙니다. 여러가지 방법이 있지만, 제일 단순하게는 대인 사망사고시 지급되는 보험료로 추산합니다. 당연히 교통안전에서 "사람의 목숨은 무엇과도 바꿀 수 없다" 같은 나이브한 얘기로 평가하진 않겠죠.
18/12/03 11:36
딜레마가 맞습니다.
사람이 어떻게 나오든, 사고가 어떻게 발생하든 결과적으로 주변에 상해를 입혀야 한다면 어떤 선택을 하는 것이 옳은 것인가? 과연 그 선택은 윤리적으로 올바른 것인가? 라는게 이 딜레마의 본질입니다.
18/12/03 12:03
음 제 생각엔, 루트에리노님은 DSlayer 님과는 다르게 이 딜레마의 본질적인 프레임을 자꾸 회피하고 다른 예시만을 두고 싶으신 것 같습니다. 마치 윗 댓처럼 예? 실례지만 이쪽 지식인이 아니신가요? 라고 되묻고 싶지만, 그건 접어두도록 하겠습니다.
딜레마는, 둘 이상 선택 사이의 늪에 빠졌을때 사용되는 표현입니다. 여기서의 딜레마는, 만약 어쩔 수 없는 인명피해가 발생할 수 밖에 없는 경우 자율 주행 차량은 어떤 선택을 하는 것이 윤리적으로 옳은가? 가 될 수 있겠지요. 그 딜레마를 논할때, '솔직히 그런 상황이 안나오잖아?' 라고 물으신다면 더 이상 딜레마에 대해 논의 할 수가 없게 됩니다. 저는 ai 관련 개발자입니다. 실제로 차량에 접목시키는 분야는 아니지만 딥러닝 관련 분야의 특성상, 기계에 판단을 맡기는 경우가 늘어나고 있습니다. 결국 빠른 시일내에 이 문제가, 단순히 이상적인 형태의 딜레마로써 존재하는 것이 아니라 실생활에도 존재할 것이라고 생각합니다. 이런 이유로 평소에 관심있게 보던 딜레마였는데 마침 관련 글 밑에 관련 댓글, 평소 궁금해하던 댓이 있어서 여쭤보았던 것입니다. 만약 DSlayer님과는 다르게 이런 식으로 틀을 피하시거나, 본인이 언급하신 '이슈가 아니다' 에 대해 설명해주시지 못한다면, 더 이상은 논의를 나눌 필요가 없을 것입니다. 저 또한 완전한 사람이 아니고, 늘 궁금해했던 질문과 답변이었기에 흥미로운 답변을 말씀해주신 루트에리노님께 질문을 드렸던 것인데, 많이 아쉽습니다.
18/12/03 14:26
인생은서른부터 님께선 제가 님께서 말씀하신 "딜레마 상황이 오면 어떡할래?"에 정면으로 원하는 답을 주길 원하시는거 같은데, 제가 최대한 제 생각을 정제해 보겠습니다.
1. 말씀하신 딜레마 상황 자체가 별로 심각하게 고려할만한 상황이 아닙니다. 이미 자율주행차의 안전성은 3억 대-km당 1건의 인사사고 급으로 굉장히 낮은 사고율을 자랑합니다(인간의 2배 정도 안전합니다). 이런 상황에서 말씀하신 선택적 취사가 가능한 사고 자체가 일어날 확률이 매우 적습니다. 오히려 선택적 취사가 필요한 상황 자체에 놓이는 것을 회피하는게 자연스럽고, 이 상황에 놓이는 것 자체가 그 전의 설계미스 과정을 반드시 거치게 됩니다. 예를들어 브레이크 고장을 인지하지 못하고, 규정속도를 어기게 되고, 전방 보행자 인지를 실패하는 등의 과정을 거쳐야 하죠. 한마디로 고려할 필요가 없다는 얘깁니다. 2. 트롤리 딜레마와 기술개발 사이에는 관련이 없습니다. 트롤리 딜레마는 윤리적 사고실험이고, 의도적으로 "꼼수"를 제거하도록 설계되어 있습니다. 하지만 실제 자율주행차는 꼼수가 있다면 꼼수를 써서 사고를 피해야 하고, 이것이 제대로 된 자율주행차이지 정면으로 사고를 감수하는건 잘못된 설계입니다. 위 두 가지 점에 의거해서 자율주행차는 트롤리 딜레마 상황에 가지 않도록 설계되어야만 합니다. 만약 해당 상황이 온다면 "꼼수"를 써서 빠져나가야만 하구요. 그리고 현재의 자율주행차 설계 상 자연스럽게 사고상황에 처하지 않는 것이 매우 당연합니다. 따라서 만약 자율주행차가 트롤리 딜레마 상황에 처할 가능성은 매우 적고, 이를 피하도록 해야 합니다. 쉽게 말하자면 트롤리 딜레마 상황에 대한 프리코딩을 하는것 자체가 이미 봉쇄된다는 얘깁니다. 만약 이 상황이 놓였다면 이건 윤리적 판단에 의거한게 아니라 기계적 한계에 의해 사고가 나거나, 안 나거나에 지나지 않는단 얘기죠. 이러니 이슈가 되지 않습니다. 제가 지금까지 달았던 댓글들 종합해서 써놨습니다.
18/12/03 15:55
루트에리노 님// 루트에리노님께서 말씀하신 요지는 충분히 이해했습니다.
아마 루트에리노님과 제 의견 차이는 조건을 어떻게 잡고 가느냐에 따라 발생하는 것으로 보입니다. 저는 '만약 사고가 일어난다면, 알고리즘의 대처는 어느 기준을 따라야 하는가?'를 여쭤보고 싶었던 겁니다. "그런 상황이 오면 어떡할래?" "일어나지 않아." "그러니까, 그래도 일어난다면 기업은 어떤 포지션을 잡아야 할까?" "안 일어난다니까?" "그래도 말이야, ai 자체적으로 취사선택을 해야하는 사고가 발생한다면 어떡할래?" "안 일어날거고, 일어난다는건 벌써 어딘가에 결함이 있는 거라니까? 그래서 그냥 다른 이슈를 보는게 차라리 나아" 정도로 요약이 될 것 같은데 맞나요? 제 의견은 이렇습니다. 모든 차량이 자율 주행으로 운행되지 않는 이상, 비록 사람보다는 낮은 사고율을 가지더라도 사고는 반드시 일어날 수 밖에 없다. 그러므로 해당 차량을 개발하고 판매해야 하는 기업의 입장에서는 충분히 해당 상황을 고려해야 한다. 단순히, 그런 일이 발생할 수 없으며 발생하더라도 자율 주행 알고리즘의 문제가 아닐 것이다 라고 하면 실제로 닥칠 수 있는 상황을 회피하는 것이다. 현재 많이 연구되고 있는 ai/dl 분야에서, 그런 예외적인 상황에서의 대처가 좋지는 않습니다. 예외적이고 표본이 적은 상황에 대처 알고리즘 자체를 봉쇄해버리면 기계는 큰 오작동을 일으킬 수 있습니다. 딥러닝 알고리즘을 적용시킬 때, 작은 예외 하나로 인해 뒷 판단이 연달아 초토화되는 현상이 자주 보입니다. 그런 가능성을 안고서도 해당 기술을 인명과 관련된 분야에 접목시키는 것이 옳은지, 더 확실한 기준을 통해 충분히 대처가능한 알고리즘을 접목시키는게 더 낫지 않은지 하는 것이 제 의견입니다.
18/12/03 09:56
임신한 채로 유모차 끌고 있는 비만한 여성 경영인 범죄자가 지나가고 있는데, 그 유모차 속에는 알고 보니 고양이가 타고 있다면?!?
18/12/03 10:10
저는 이거 할 때
승객vs보행자는 보행자 우선, 직진하든 꺾든 보행자들이 죽는 상황이면 누가 죽는 것이 나은지는 고려조차도 하지 말고 그냥 직진, 애완동물보다 사람 우선으로 했었네요
18/12/03 10:51
제 직업은 아직 분류대상에 없군요.
이렇게 된 이상 자율주행 시스템의 총애를 얻기 위해 의사,운동선수는 글렀으니 경영인이 되든가, 아니면 젊어지는 기계로 소년이 되어야지
18/12/03 11:13
직업이 포함된 순간 잘못된 설계라고 봅니다.
차가 사람 박는데 직업이 왜 필요한지 어떻게 식별하는지 난해하네요. 아니면 겉으로 드러난 실험 목적과 실제 목적이 다르던지요.
18/12/03 11:34
저런 걸 프로그래밍해서 구부할 수 있는 시기가 오면 사고 자체가 거의 안일어날거라고 봅니다.
일단 모든 사람을 살릴 수 있는 방향 및 탑승자를 살리는 걸 우선적으로 찾게 될테고 저런 건 자율 주행에서 고려 사항도 아니라고 생각합니다. 자율 주행에서 저런 세세한 걸 구분하는 건 너무 힘든 과제입니다.
18/12/03 14:27
'자율주행 차량에게 어떤 걸 우선시 하게 할 것인가'라는 문제 같은데, '차량에게 판단할 기회를 준다는 것 자체가 문제가 있다. 그냥 직진하게 놔둬야한다'고 생각합니다. 사람이 아닌 기계에게 어떤 도덕적 판단을 하게 하면 안된다고 생각해요.
18/12/03 20:43
고객이 정하도록하고 팔면 됩니다
직접 운전하는 지금도 그런셈이죠... 결과는 뻔하죠 본인의 안전... 그렇게 합의 될 거에요 그럼 저런 경우에 사람을 치는게 맞냐구요? 교통 법규를 완전히 지켰을 때 사고가 나지 않도록 만들어야죠 또 이게 안된다면 굳이 자율주행을 쓰지도 않을 것 같고요
|
||||||||||||||
