PGR21.com
- 자유 주제로 사용할 수 있는 게시판입니다.
- 토론 게시판의 용도를 겸합니다.
Date 2024/05/14 13:32:44
Name 매번같은
Link #1 https://edition.cnn.com/2024/04/26/us/pikesville-principal-maryland-deepfake-cec/index.html
Subject [일반] 본인이 하지도 않은 발언 때문에 해고 될뻔한 미국의 교장 선생 (수정됨)


몇달 전 미국 볼티모어의 파이크스빌 고등학교에서 퍼진 한 녹음 파일이 미국 전역을 떠들썩하게 만든 일이 있었음

녹음 파일에 따르면 파이크스빌 고등학교의 교장선생님인 에릭 에이스워트는

You know, I seriously don’t understand why I have to constantly put up with these dumbasses here every day. Between these ungrateful black kids who can’t test their way out of a paper bag or these teachers who don’t get it, how hard is it to get these students to meet their grade level expectations?

Lawrence and Rabanal should have never been hired, and don’t let me get started on DJ. I’m going to drag his black ass out of here one way or another. I’m gonna get something to stick.

I’m just so sick of the inadequacies of these people. And if I have to get one more complaint from one more Jew in this community, I’m going to join the other side.

"내가 왜 여기서 이 멍청이들을 참아야 하는지 모르겠다"
"깜둥이 놈들은 종이봉투에서 나가는 법도 모르는 배은망덕한 놈들"
"XX같은 선생은 뽑지도 말았어야 했는데"
"유대인이 A편에 선다면 난 반대편으로 갈거야"

라며 인종차별적, 반유대주의적 발언을 했는데
이 녹음파일이 퍼지면서 학교는 전국적으로 항의와 악성리플에 시달림

1

1990년대부터 교사생활을 해온 에릭 에이스워트 교장선생님은 대화 내용을 부정했으며 주변 사람들도 그런 말을 하는 사람이 아니라고 했으나
조사가 필요하다는 이유로 임시적으로 교장직에서 해임되기도 했는데

2

알고보니 해당 음성파일은 AI가 만든 가짜 음성파일이었고

이 녹음파일을 만든 범인은 해당 고등학교의 전 체육교사였는데
횡령 등의 혐의로 교장에게 조사를 받자 보복 목적으로 AI 음성파일을 만들어
SNS 및 뉴스에 제보한 것으로 밝혀짐.

109607685

AI 오디오를 만든 범인

범인은 볼티모어에서 휴스턴으로 가려는 공항에서 체포됐는데
체포 당시에도 총기를 소유하고 있던 것으로 알려졌으며 현재 학교자금횡령, 학교운영방해, 보복, 스토킹 등의 혐의를 받고 있음

---

동영상 보시면...알고 보지 않는 이상 이게 AI로 만들어진 음성이라고 바로 느낄 수가 없네요...허덜덜

이 발언이 AI가 만든 것으로 밝혀지지 않았다면
교장 해임에서 끝나는게 아니라 사회적으로 매장+법적 처벌까지 받을 수가 있었겠죠.

통합규정 1.3 이용안내 인용

"Pgr은 '명문화된 삭제규정'이 반드시 필요하지 않은 분을 환영합니다.
법 없이도 사는 사람, 남에게 상처를 주지 않으면서 같이 이야기 나눌 수 있는 분이면 좋겠습니다."
사람되고싶다
24/05/14 13:35
수정 아이콘
AI가 민주주의를 무너뜨릴 수 있다는 우려가 엄청 큽니다. 알고리즘으로인한 극단화만 해도 문제인데 이제는 아예 어떤 게 사실인지조차 쉽게 믿을 수 없는 세상이 돼버렸으니...
VictoryFood
24/05/14 13:50
수정 아이콘
스카이넷이 인류를 지배하는 첫 행보군요.
24/05/14 13:55
수정 아이콘
기술알못인데 이걸 블록체인으로 검증해야하는건가? 생각이 들긴 합니다..
Easyname
24/05/14 13:57
수정 아이콘
검증하는 기술이 나온다고 해도 그걸 일일히 쓰면서 살아야 되나 싶음
수퍼카
24/05/14 14:02
수정 아이콘
신기술이 나왔을 때 적당 선을 지키며 즐겁게 사용하면 좋을텐데 꼭 이렇게 악용하는 인간들이 튀어나와서 기술의 발달에 대해 회의하게 된단 말이죠. 보이스 피싱 조직이 이런 기술 사용하는 미래도 곧 오겠군요. 씁쓸합니다.
한쓰우와와
24/05/14 14:03
수정 아이콘
저런 음성/영상 기록파일에는 메타정보를 비가청영역이나 보이지 않는 부분에 넣도록 표준화 하거나 하는 방식을 적용해야 할까요? 옛날 영화 저지드레드에서 저런 파일이 재판 증거로 제시되자 다 조작 가능하다라고 받아치던 장면이 떠오릅니다.
니드호그
24/05/14 14:06
수정 아이콘
일단 진짜인지 아니면 AI가 만든 가짜인지 확인하는 건 가능한 걸까요?
매번같은
24/05/14 14:09
수정 아이콘
저도 그걸 어떻게 과학적으로 확인했는지 궁금하긴 하더군요. 저 음성 녹취가 인터넷 상에서 화제가 된게 1월이었고, 그 때도 학교와 교장측은 AI가 만든 음성이다라고 주장했습니다. 이후 3달이 지난 4월에 경찰이 그걸 컨펌해줬고요. 정황 증거로만 컨펌을 해준건 아닐테고 녹취 음성에 대한 과학적인 분석이 있었을거라 생각되는데 어떻게 했는지 궁금하더군요. 제대로 된 전문가가 붙었을거 같긴 합니다.
24/05/14 14:11
수정 아이콘
저도 잘은 모르지만 사람 귀에 그럴듯하게 들리더라도 파형을 확대해 보면 특징이 나타날 것 같네요. AI 그림에 손가락 깨지던 것처럼..
라멜로
24/05/14 15:47
수정 아이콘
전문 AI 업체가 만든 게 아니라 짤린 전 체육교사가 만든 수준이니 조잡했을 가능성이 높죠
문제는 앞으로 AI 전문가들이 악의를 가지고 검증이 어려운 수준으로 기술이 발전하면 어떻게 될지
24/05/14 14:10
수정 아이콘
녹음 녹화된 음성이나 영상에는 메타정보를 넣되, 제거할 수 없도록 음성/영상 데이터 전체와 섞어서 인코딩하고, 그 메타정보를 글로벌 블록체인이나 그에 준하는 강력한 보안 장치로 한데 모아서 저장하고 검증하는 방법이 떠오르네요. 하지만 진실이니 증거니 하는 건 100% 공익의 영역이라 자본주의 시장경제하에선 적용이 힘들것 같습니다.
24/05/14 16:17
수정 아이콘
당장 만든 음성이나 영상을 외부 기기를 통해 다시 추출하면 깨질 부분이라 무의미할듯.
24/05/14 16:22
수정 아이콘
추출하면 그 순간부터 무조건 페이크 취급하는 거죠. 녹음 촬영 기기에서 자동으로 블록체인으로 일종의 공증을 받고 증거 능력은 그런 원본만 인정하는 방식으로. 
24/05/14 16:36
수정 아이콘
일단 블록체인 공증을 하기 위해서는 녹음기 등이 다 온라인 지원이 되어야 한다는 문제점이 발생할 것이고 재생한 음성을 녹음할때 그것이 조작된 것인가 아닌가의 검증을 할 수 있을 것이냐의 문제이지요.
24/05/14 16:41
수정 아이콘
네 항상 온라인 상태로 출고에서부터의 이력을 블록체인에서 전부 검증할 수 있는 카메라만 증거 능력을 가지게 되는 아이디어죠. 
그런데 말씀대로 페이크 음성이나 영상을 틀어서 그걸 또 찍거나 녹음하는 방식으로 속일 수 있겠네요. 그럼 안되겠군요. 
24/05/14 19:28
수정 아이콘
블록체인도 안되는 게 분산 블록체인이 아니면 의미가 없습니다. 분산 블록체인은 검증자가 보상을 받아야 의미가 있고 현재로선 비트코인만 분산 블록체인으로 의미가 있습니다. 그 외의 경우 자기 돈 들여서 그걸 검증할 유인이 없습니다. 
24/05/14 16:25
수정 아이콘
일상적으로 영상 음향은 기본이 페이크라고 생각하는 시대가 올 수 있겠네요. 요즘 인스타 셀럽 사진 보면 당연히 보정이라고 생각하는 것처럼.
24/05/14 14:10
수정 아이콘
위조 때문에 도장이나 인장이 신분 증명에 쓰이지 못하는 것 처럼.
음성 녹음도 증거력이 약해지는 거죠.
24/05/14 14:11
수정 아이콘
이걸로 보이스 피싱이 시작되면 여파가 어마어마할겁니다.
전화걸어서 목소리 따고 주변인에게 사기친다고 생각하면 답이 없죠
MurghMakhani
24/05/14 16:36
수정 아이콘
삼성폰은 스미싱 엄청 조심해야 하겠네요 통녹 데이터 빠져나가면 그걸로 학습해서 피싱에 써먹을텐데
성야무인
24/05/14 14:13
수정 아이콘
틀릴지는 모르겠지만 Raw 사운드의 경우 소리의 높낮이외에 나머지 잡스러운 노이즈 파형이 들어있는 걸로 알고 있습니다.

AI로 생성된 파일의 경우 이것 없이

소리만 나오는 부분에 깔끔한 파형이 형성되서 현재는 이걸로 구분이 가능하다고 합니다.
김연아
24/05/14 15:53
수정 아이콘
하지만 AI야 일상생활 노이즈 파형 넣어서 만들어줘 하면, 또 만들어주는 세상이 금방 오겠죠. 아니 지금도 가능할 것 같은데;;;
안군시대
24/05/14 17:07
수정 아이콘
만약 이 방법으로 판별하는 게 확실하다면, 만들어진 음성에다가 화이트 노이즈를 합성하는 간단한 방법으로도 파훼가 가능해서..
수지짜응
24/05/14 14:51
수정 아이콘
막말로 나중에는 조작된건데 조작된게 아니라고 검증기관?에서 판독하면
바로 쇠고랑이네요 크크..

별에 별 일이 다 생길 것 같네요..
24/05/14 17:02
수정 아이콘
이제 대응할 능력이 떨어지는 취약계층은 본의아니게 인생 파멸할 확률이 높아지겠군요..
단다니 쿨쿨
24/05/14 17:47
수정 아이콘
당장 요번 사건의 인종 반대인 경우를 상정해봐도 아 쉽지만은 않았겠다 싶은 생각이 드니...
24/05/14 17:15
수정 아이콘
통녹이 정황증거 취급을 받을거고 이어서 영상이 정황근거 취급을 받겠네요.
No.99 AaronJudge
24/05/14 18:02
수정 아이콘
세상에…..
더치커피
24/05/14 19:54
수정 아이콘
딥페이크나 저런 음성 ai 생성 툴은 법적으로 금지해야죠
악용 여지가 너무 많습니다
임전즉퇴
24/05/14 20:14
수정 아이콘
교장이 잘 쓰는 표현까지 AI에게 학습시킨 건지는 모르겠네요. 평소 표본이 있었다고 하면 일말의 진실(?)은 되는 것인데 정황상 그렇진 않은 것 같고, 제일 드물게 쓸 것 같은 inadequacies 같은 게 표지 노릇을 하는데.. 그냥 대본은 자기가 낄낄대며 썼을 듯.
라이엇
24/05/14 20:18
수정 아이콘
기술의 발전을 막을순 없으니 혐오표현에 대해 관대해지는 방법밖에 없어보이네요.
율리우스 카이사르
24/05/16 10:08
수정 아이콘
와 정말 딥페이크와 AI보이스가 되버리면.. 빅브라더가 출현했을때 대중이 저항할 방법이 있기나 할지 두려워지네요
목록 삭게로! 맨위로
번호 제목 이름 날짜 조회 추천
101491 [일반] 강하다는것은 살아남았다는것 - F-4 팬텀II [14] Regentag7880 24/05/16 7880 0
101490 [정치] YTN, "소주 땡기네" 윤석열 풍자 돌발영상 삭제 파문 [36] Crochen11918 24/05/16 11918 0
101488 [정치] 22대 국회의장은 추미애가 아닌 우원식 [35] 만월11965 24/05/16 11965 0
101486 [일반] [뻘글]하체가 더운 분들 인견 팬티를 입으세요 [18] DENALI10184 24/05/16 10184 0
101485 [정치] 검찰의 이재명 수사 증거 조작 정황 [61] 선인장15720 24/05/16 15720 0
101484 [정치] 기사에 나간 대통령 사진 잘려 유감이라는 대통령실 전화 [38] 빼사스12926 24/05/16 12926 0
101483 [일반] 작고 소중한 28회의 클릭 [2] Kaestro8544 24/05/16 8544 6
101482 [일반] 하이큐!! 쓰레기장의 결전 리뷰 [19] 데갠8910 24/05/16 8910 0
101481 [일반] 한국의 성장과 서울의 성장 [19] 쿠릭10163 24/05/16 10163 1
101479 [정치] 오늘 있었던 이준석의 5.18 묘지 참배 소식 [77] Restar12126 24/05/15 12126 0
101478 [일반] 공포 영화 스래셔 고어물에 관해서 (19세이상 관람가 글자체 열람 주의) [20] 성야무인9238 24/05/15 9238 3
101477 [일반] 분석가에 따르면 삼성 엑시노스 2500은 스냅드래곤 8 젠4를 능가할 준비가 됨 [42] SAS Tony Parker 11421 24/05/15 11421 3
101476 [일반] 비어있는 공백기가 아니라 충만한 탐색기(1) [2] Kaestro7765 24/05/15 7765 3
101475 [일반] IBM의 시작은 OMR 카드?! / 컴퓨터의 역사 [5] Fig.17507 24/05/15 7507 7
101474 [정치] 윤석열 대통령 "개혁은 적 만드는 일…기득권 뺏기는 쪽서 정권퇴진운동" [28] 베라히10073 24/05/15 10073 0
101473 [일반] [팝송] 조니 올랜도 새 앨범 "The Ride" 김치찌개6884 24/05/15 6884 0
101472 [정치] 과거 정치글 A/S, 자유통일당이 펀드를 조기 상환했다고 합니다. [4] 매번같은6314 24/05/15 6314 0
101471 [정치] 네이버 지분매각 안한다... 대통령실은 일본 정부에 '경고' [19] 종말메이커9327 24/05/14 9327 0
101470 [일반] 공무원으로서의 소회 [25] 스테인12256 24/05/14 12256 22
101469 [일반] 질게에 올렸던 자판기에서 유통기한이 지난 음료를 판매합니다. 후기글 입니다. [12] ggg23410375 24/05/14 10375 16
101468 [일반] [다이어트] 12kg 감량 후기입니다 [17] Alfine9812 24/05/14 9812 4
101467 [일반] 노란불 ‘딜레마존’서 사고 났다면…대법 ‘무죄→유죄’ 뒤집어 [165] VictoryFood16678 24/05/14 16678 2
101466 [일반] 본인이 하지도 않은 발언 때문에 해고 될뻔한 미국의 교장 선생 [32] 매번같은11306 24/05/14 11306 5
목록 이전 다음
댓글

+ : 최근 1시간내에 달린 댓글
+ : 최근 2시간내에 달린 댓글
맨 위로