PGR21.com
- 자유 주제로 사용할 수 있는 게시판입니다.
- 토론 게시판의 용도를 겸합니다.
Date 2024/05/14 13:32:44
Name 매번같은
Link #1 https://edition.cnn.com/2024/04/26/us/pikesville-principal-maryland-deepfake-cec/index.html
Subject [일반] 본인이 하지도 않은 발언 때문에 해고 될뻔한 미국의 교장 선생 (수정됨)


몇달 전 미국 볼티모어의 파이크스빌 고등학교에서 퍼진 한 녹음 파일이 미국 전역을 떠들썩하게 만든 일이 있었음

녹음 파일에 따르면 파이크스빌 고등학교의 교장선생님인 에릭 에이스워트는

You know, I seriously don’t understand why I have to constantly put up with these dumbasses here every day. Between these ungrateful black kids who can’t test their way out of a paper bag or these teachers who don’t get it, how hard is it to get these students to meet their grade level expectations?

Lawrence and Rabanal should have never been hired, and don’t let me get started on DJ. I’m going to drag his black ass out of here one way or another. I’m gonna get something to stick.

I’m just so sick of the inadequacies of these people. And if I have to get one more complaint from one more Jew in this community, I’m going to join the other side.

"내가 왜 여기서 이 멍청이들을 참아야 하는지 모르겠다"
"깜둥이 놈들은 종이봉투에서 나가는 법도 모르는 배은망덕한 놈들"
"XX같은 선생은 뽑지도 말았어야 했는데"
"유대인이 A편에 선다면 난 반대편으로 갈거야"

라며 인종차별적, 반유대주의적 발언을 했는데
이 녹음파일이 퍼지면서 학교는 전국적으로 항의와 악성리플에 시달림

1

1990년대부터 교사생활을 해온 에릭 에이스워트 교장선생님은 대화 내용을 부정했으며 주변 사람들도 그런 말을 하는 사람이 아니라고 했으나
조사가 필요하다는 이유로 임시적으로 교장직에서 해임되기도 했는데

2

알고보니 해당 음성파일은 AI가 만든 가짜 음성파일이었고

이 녹음파일을 만든 범인은 해당 고등학교의 전 체육교사였는데
횡령 등의 혐의로 교장에게 조사를 받자 보복 목적으로 AI 음성파일을 만들어
SNS 및 뉴스에 제보한 것으로 밝혀짐.

109607685

AI 오디오를 만든 범인

범인은 볼티모어에서 휴스턴으로 가려는 공항에서 체포됐는데
체포 당시에도 총기를 소유하고 있던 것으로 알려졌으며 현재 학교자금횡령, 학교운영방해, 보복, 스토킹 등의 혐의를 받고 있음

---

동영상 보시면...알고 보지 않는 이상 이게 AI로 만들어진 음성이라고 바로 느낄 수가 없네요...허덜덜

이 발언이 AI가 만든 것으로 밝혀지지 않았다면
교장 해임에서 끝나는게 아니라 사회적으로 매장+법적 처벌까지 받을 수가 있었겠죠.

통합규정 1.3 이용안내 인용

"Pgr은 '명문화된 삭제규정'이 반드시 필요하지 않은 분을 환영합니다.
법 없이도 사는 사람, 남에게 상처를 주지 않으면서 같이 이야기 나눌 수 있는 분이면 좋겠습니다."
사람되고싶다
24/05/14 13:35
수정 아이콘
AI가 민주주의를 무너뜨릴 수 있다는 우려가 엄청 큽니다. 알고리즘으로인한 극단화만 해도 문제인데 이제는 아예 어떤 게 사실인지조차 쉽게 믿을 수 없는 세상이 돼버렸으니...
VictoryFood
24/05/14 13:50
수정 아이콘
스카이넷이 인류를 지배하는 첫 행보군요.
24/05/14 13:55
수정 아이콘
기술알못인데 이걸 블록체인으로 검증해야하는건가? 생각이 들긴 합니다..
Easyname
24/05/14 13:57
수정 아이콘
검증하는 기술이 나온다고 해도 그걸 일일히 쓰면서 살아야 되나 싶음
수퍼카
24/05/14 14:02
수정 아이콘
신기술이 나왔을 때 적당 선을 지키며 즐겁게 사용하면 좋을텐데 꼭 이렇게 악용하는 인간들이 튀어나와서 기술의 발달에 대해 회의하게 된단 말이죠. 보이스 피싱 조직이 이런 기술 사용하는 미래도 곧 오겠군요. 씁쓸합니다.
한쓰우와와
24/05/14 14:03
수정 아이콘
저런 음성/영상 기록파일에는 메타정보를 비가청영역이나 보이지 않는 부분에 넣도록 표준화 하거나 하는 방식을 적용해야 할까요? 옛날 영화 저지드레드에서 저런 파일이 재판 증거로 제시되자 다 조작 가능하다라고 받아치던 장면이 떠오릅니다.
니드호그
24/05/14 14:06
수정 아이콘
일단 진짜인지 아니면 AI가 만든 가짜인지 확인하는 건 가능한 걸까요?
매번같은
24/05/14 14:09
수정 아이콘
저도 그걸 어떻게 과학적으로 확인했는지 궁금하긴 하더군요. 저 음성 녹취가 인터넷 상에서 화제가 된게 1월이었고, 그 때도 학교와 교장측은 AI가 만든 음성이다라고 주장했습니다. 이후 3달이 지난 4월에 경찰이 그걸 컨펌해줬고요. 정황 증거로만 컨펌을 해준건 아닐테고 녹취 음성에 대한 과학적인 분석이 있었을거라 생각되는데 어떻게 했는지 궁금하더군요. 제대로 된 전문가가 붙었을거 같긴 합니다.
24/05/14 14:11
수정 아이콘
저도 잘은 모르지만 사람 귀에 그럴듯하게 들리더라도 파형을 확대해 보면 특징이 나타날 것 같네요. AI 그림에 손가락 깨지던 것처럼..
라멜로
24/05/14 15:47
수정 아이콘
전문 AI 업체가 만든 게 아니라 짤린 전 체육교사가 만든 수준이니 조잡했을 가능성이 높죠
문제는 앞으로 AI 전문가들이 악의를 가지고 검증이 어려운 수준으로 기술이 발전하면 어떻게 될지
24/05/14 14:10
수정 아이콘
녹음 녹화된 음성이나 영상에는 메타정보를 넣되, 제거할 수 없도록 음성/영상 데이터 전체와 섞어서 인코딩하고, 그 메타정보를 글로벌 블록체인이나 그에 준하는 강력한 보안 장치로 한데 모아서 저장하고 검증하는 방법이 떠오르네요. 하지만 진실이니 증거니 하는 건 100% 공익의 영역이라 자본주의 시장경제하에선 적용이 힘들것 같습니다.
24/05/14 16:17
수정 아이콘
당장 만든 음성이나 영상을 외부 기기를 통해 다시 추출하면 깨질 부분이라 무의미할듯.
24/05/14 16:22
수정 아이콘
추출하면 그 순간부터 무조건 페이크 취급하는 거죠. 녹음 촬영 기기에서 자동으로 블록체인으로 일종의 공증을 받고 증거 능력은 그런 원본만 인정하는 방식으로. 
24/05/14 16:36
수정 아이콘
일단 블록체인 공증을 하기 위해서는 녹음기 등이 다 온라인 지원이 되어야 한다는 문제점이 발생할 것이고 재생한 음성을 녹음할때 그것이 조작된 것인가 아닌가의 검증을 할 수 있을 것이냐의 문제이지요.
24/05/14 16:41
수정 아이콘
네 항상 온라인 상태로 출고에서부터의 이력을 블록체인에서 전부 검증할 수 있는 카메라만 증거 능력을 가지게 되는 아이디어죠. 
그런데 말씀대로 페이크 음성이나 영상을 틀어서 그걸 또 찍거나 녹음하는 방식으로 속일 수 있겠네요. 그럼 안되겠군요. 
24/05/14 19:28
수정 아이콘
블록체인도 안되는 게 분산 블록체인이 아니면 의미가 없습니다. 분산 블록체인은 검증자가 보상을 받아야 의미가 있고 현재로선 비트코인만 분산 블록체인으로 의미가 있습니다. 그 외의 경우 자기 돈 들여서 그걸 검증할 유인이 없습니다. 
24/05/14 16:25
수정 아이콘
일상적으로 영상 음향은 기본이 페이크라고 생각하는 시대가 올 수 있겠네요. 요즘 인스타 셀럽 사진 보면 당연히 보정이라고 생각하는 것처럼.
24/05/14 14:10
수정 아이콘
위조 때문에 도장이나 인장이 신분 증명에 쓰이지 못하는 것 처럼.
음성 녹음도 증거력이 약해지는 거죠.
24/05/14 14:11
수정 아이콘
이걸로 보이스 피싱이 시작되면 여파가 어마어마할겁니다.
전화걸어서 목소리 따고 주변인에게 사기친다고 생각하면 답이 없죠
MurghMakhani
24/05/14 16:36
수정 아이콘
삼성폰은 스미싱 엄청 조심해야 하겠네요 통녹 데이터 빠져나가면 그걸로 학습해서 피싱에 써먹을텐데
성야무인
24/05/14 14:13
수정 아이콘
틀릴지는 모르겠지만 Raw 사운드의 경우 소리의 높낮이외에 나머지 잡스러운 노이즈 파형이 들어있는 걸로 알고 있습니다.

AI로 생성된 파일의 경우 이것 없이

소리만 나오는 부분에 깔끔한 파형이 형성되서 현재는 이걸로 구분이 가능하다고 합니다.
김연아
24/05/14 15:53
수정 아이콘
하지만 AI야 일상생활 노이즈 파형 넣어서 만들어줘 하면, 또 만들어주는 세상이 금방 오겠죠. 아니 지금도 가능할 것 같은데;;;
안군시대
24/05/14 17:07
수정 아이콘
만약 이 방법으로 판별하는 게 확실하다면, 만들어진 음성에다가 화이트 노이즈를 합성하는 간단한 방법으로도 파훼가 가능해서..
수지짜응
24/05/14 14:51
수정 아이콘
막말로 나중에는 조작된건데 조작된게 아니라고 검증기관?에서 판독하면
바로 쇠고랑이네요 크크..

별에 별 일이 다 생길 것 같네요..
24/05/14 17:02
수정 아이콘
이제 대응할 능력이 떨어지는 취약계층은 본의아니게 인생 파멸할 확률이 높아지겠군요..
단다니 쿨쿨
24/05/14 17:47
수정 아이콘
당장 요번 사건의 인종 반대인 경우를 상정해봐도 아 쉽지만은 않았겠다 싶은 생각이 드니...
24/05/14 17:15
수정 아이콘
통녹이 정황증거 취급을 받을거고 이어서 영상이 정황근거 취급을 받겠네요.
No.99 AaronJudge
24/05/14 18:02
수정 아이콘
세상에…..
더치커피
24/05/14 19:54
수정 아이콘
딥페이크나 저런 음성 ai 생성 툴은 법적으로 금지해야죠
악용 여지가 너무 많습니다
임전즉퇴
24/05/14 20:14
수정 아이콘
교장이 잘 쓰는 표현까지 AI에게 학습시킨 건지는 모르겠네요. 평소 표본이 있었다고 하면 일말의 진실(?)은 되는 것인데 정황상 그렇진 않은 것 같고, 제일 드물게 쓸 것 같은 inadequacies 같은 게 표지 노릇을 하는데.. 그냥 대본은 자기가 낄낄대며 썼을 듯.
라이엇
24/05/14 20:18
수정 아이콘
기술의 발전을 막을순 없으니 혐오표현에 대해 관대해지는 방법밖에 없어보이네요.
율리우스 카이사르
24/05/16 10:08
수정 아이콘
와 정말 딥페이크와 AI보이스가 되버리면.. 빅브라더가 출현했을때 대중이 저항할 방법이 있기나 할지 두려워지네요
목록 삭게로! 맨위로
번호 제목 이름 날짜 조회 추천
102433 [일반] Nvidia, RTX 5090 & 5080 스펙 유출, 5080은 스펙 후려치기? [59] Nacht8562 24/10/09 8562 4
102432 [일반] <와일드 로봇> - 온 힘을 다해 추종하는 따스함.(노스포) [18] aDayInTheLife4237 24/10/09 4237 3
102431 [정치] 최근들어 북한의 행보가 심상치 않습니다 [94] 보리야밥먹자15625 24/10/09 15625 0
102430 [일반] [닉네임 공유] 한글날은? 무슨날? 닉변하는날! [76] 윈터6027 24/10/09 6027 0
102429 [일반] 도요토미 히데요시 입장에서 본 전국시대 [7] 식별7546 24/10/08 7546 11
102428 [일반] 웹소설 추천 : 스마트폰을 든 세종 [11] 아우구스투스6474 24/10/08 6474 1
102427 [정치] 명태균 “한 달이면 하야·탄핵, 감당되겠나” (채널A 단독) [118] 덴드로븀15879 24/10/08 15879 0
102426 [일반] 삼성전자 공식 사과문(?) 기재 [87] Leeka12744 24/10/08 12744 3
102425 [일반] [2024여름] 여름의 끝. [2] 열혈둥이2609 24/10/08 2609 5
102424 [일반] 소리로 찾아가는 한자 39. 지렁이 인(蚓)에서 파생된 한자들 [4] 계층방정1967 24/10/08 1967 3
102423 [일반] [2024여름] 카시마 해군항공대 유적답사 [8] 서린언니2996 24/10/08 2996 1
102421 [일반] [2024여름] 길 위에서 [3] 글곰3044 24/10/07 3044 5
102420 [일반] 못생긴 흙수저로 태어나 천하를 제패하다 [29] 식별8617 24/10/07 8617 28
102419 [일반] 유비소프트의 매각 가능성 소식을 듣고 - 어쌔신크리드 [20] 가위바위보5312 24/10/07 5312 0
102418 [일반] 과연 MZ세대의 문해력이 선배 세대보다 더 떨어질까요? [81] 전기쥐7460 24/10/07 7460 5
102417 [일반] 결혼하고 아이 낳는게 너무 멀게 느껴져요 [51] 푸른잔향7630 24/10/07 7630 1
102416 [정치] “소아심장 분야는 아웃사이더… 과감한 투자 시급” [154] Leeka9456 24/10/07 9456 0
102415 [일반] 아이폰 16 프로맥스 2주차 짧은 후기 [7] Leeka3700 24/10/07 3700 1
102414 [일반] [서평]《팀 켈러의 용서를 배우다》 - 기독교적 용서란 정의와 관계를 모두 회복하는 것이다 [2] 계층방정2037 24/10/07 2037 6
102413 [일반] [풀스포] 살아서 고짐고를 두번 당하다니 : 조커 2 폴리 아 되 [9] Farce4876 24/10/06 4876 16
102412 [일반] 나는 왜 <조커: 폴리 아 되>가 아쉬웠는가. (스포) [17] aDayInTheLife4007 24/10/06 4007 3
102411 [일반] 화요일 유료화되는 참 좋은 웹툰-<펀치드렁커드> 소개 [11] lasd2414214 24/10/06 4214 7
102409 [일반] 부천국제만화축제 10/5일 후기 [7] 그때가언제라도3903 24/10/06 3903 5
목록 이전 다음
댓글

+ : 최근 1시간내에 달린 댓글
+ : 최근 2시간내에 달린 댓글
맨 위로