PGR21.com
- 자유 주제로 사용할 수 있는 게시판입니다.
- 토론 게시판의 용도를 겸합니다.
Date 2023/12/19 19:26:29
Name Regentag
File #1 수정됨_KakaoAI.png (178.6 KB), Download : 21
Subject [일반] 카카오톡 AI 남성혐오 논란


카카오톡은 오늘(2023.12.19.) 말투변경 AI라는 기능을 출시했습니다.
입력한 문장의 말투를 변경해주는 AI죠.

그런데 하루를 넘기지 못하고 사건이 터졌네요.

논란이 된 부분은 한국 남성을 낮잡아 부르는 말인 [한남]과, 한국 여성을 낮잡아 부르는 말인 [한녀]를 다르게 처리하는 것이었습니다.
한녀가 포함된 문장을 입력하고 AI를 돌리면 부적절한 표현이라고 지적하는데, 한남이 포함된 문장은 그렇지 않았던 것이죠.
https://namu.wiki/w/%EC%B9%B4%EC%B9%B4%EC%98%A4%ED%86%A1%20AI%20%EB%82%A8%EC%84%B1%ED%98%90%EC%98%A4%20%ED%95%99%EC%8A%B5%20%EB%85%BC%EB%9E%80

심지어 한녀를 입력하고 특정 어투를 선택하면 한남으로 변경되거나,
https://www.dogdrip.net/528874821

한남이 포함된 문장을 [그 손모양] ???? 이모지로 변환시켜 주기도 하네요.
https://www.dogdrip.net/528882774

아마도 두가지 경우 중 하나이지 않을까 합니다.
  1. AI를 학습시킨 데이터셋이 편향되었거나, 혐오표현에 오염되었고 이를 적절히 거르지 못했다. (다음 카페에는 여성시대가 있죠...)
  2. 데이터를 사람이 라벨링했고, 이 과정에서 부적절한 개입이 있었다.

이 글을 쓰고있는 시점에는 카카오에서도 인지하여 한남, 한녀 모두 키워드 차단이 들어갔다고 하네요.

통합규정 1.3 이용안내 인용

"Pgr은 '명문화된 삭제규정'이 반드시 필요하지 않은 분을 환영합니다.
법 없이도 사는 사람, 남에게 상처를 주지 않으면서 같이 이야기 나눌 수 있는 분이면 좋겠습니다."
Regentag
23/12/19 19:28
수정 아이콘
PGR은 본문에도 댓글에도 이모지를 넣을 수 없나보군요..
티바로우
23/12/19 19:29
수정 아이콘
뭐 얼른 고치면 해프닝이죠
Regentag
23/12/19 19:34
수정 아이콘
넵. 얼른 고치면 해프닝이긴 하지요.
저도 직접 써보고 싶었는데, "사용자가 많다"는 이유로 기능 활성화가 안되네요. 지금은 아예 기능 접근을 차단했나봐요.
Dreamscape
23/12/19 19:29
수정 아이콘
한남대교 : 억울합니다
23/12/19 19:30
수정 아이콘
사람이 손댄걸까요? 궁금하네요
Regentag
23/12/19 20:12
수정 아이콘
수집된 데이터가 오염되었을 가능성쪽이 좀더 그럴듯해 보이긴 합니다.
남성혐오 성향의 거대 여초 커뮤니티가 다음 카페에 자리잡고 있으니까요..
페스티
23/12/19 20:46
수정 아이콘
직접 해봤었는데 필터링 메시지는 직접 손대는건지 계속 실시간으로 변하더군요.
아서스
23/12/19 19:32
수정 아이콘
AI가 수집한 데이터가 기반이지 않을까 싶긴 한데...
及時雨
23/12/19 19:40
수정 아이콘
학습을 제대로 한 거 같긴 한데 크크크
무냐고
23/12/21 09:03
수정 아이콘
저도 이쪽이라고 봅니다
한남은 훨씬 광범위하게 써버리는게 현실이니.. 크크크
23/12/19 19:43
수정 아이콘
가비지인 가비지아웃이죠
쓰레기 데이터가 들어간듯합니다
구상만
23/12/19 19:48
수정 아이콘
피해방향이 반대쪽이었으면 언론이 득달같이 몰려들어서 '여성혐오 카카오톡 이대로 괜찮은가?' 같은 기사 수십 개 쏟아내고 정치권에서도 우르르 몰고 나올 텐데 남자가 피해자 쪽이라 그런가 조-용하네요 크크크
23/12/19 19:51
수정 아이콘
1번이죠 뭐
23/12/19 20:30
수정 아이콘
성별 프레임은 결국 누군가가 노예가 되지않는한 끝나지않는 혐오싸움이죠. 인구의 절반이니 그 발언권이 막강하면서도 서로 팽팽하니까 말이죠. 이것도 완벽하진 않고 그동안 문제들이 나왔지만 자본주의사회에서 약자 프레임은 돈의 많고 적음을 우선으로 하는게 맞는것 같습니다.
Regentag
23/12/19 22:30
수정 아이콘
성별 갈등이 심해진것에 대한 여러 분석중에 저는 이런 이유들이 공감이 가더군요.
1. 경제적/심리적 여유가 없는 우리 사회의 구성원들이 더이상 관용을 발휘하기 어려움
2. 정치권의 편가르기 주제가 지역 → 세대/성별로 이동 (정확히는 2030 남성 vs. 나머지)
3. 사람은 어딘가에 소속감을 느껴야 하는데, 아무곳에도 소속되지 못한 사람이 늘면서 성별에 소속감을 느낌

저는 1번이 해결되면 2번, 3번도 자연스레 해결될거라는 생각입니다. 아무리 봐도 성별 프레임은 돈이 없는 약자들끼리의 싸움같거든요...
누군가는 이걸 이용해 돈을 벌고 말이죠 흐흐
23/12/19 22:57
수정 아이콘
하지만 돈이없는것은 전형적인 무능으로 치부되기에 돈없들끼리 싸울지언정 적어도 익명속에 숨어있는 온라인에서는 그들조차 돈이 없는 약자 코스프레는 잘 안하는 신기한 점이 있긴 합니다(...) 그래서 돈이 없는 사람이 해결책을 찾을만한 방향으로 가기보다는 본인들이 적으로 점찍은 집단의 혐오와 저주 + 그를 통한 자기합리화로 들어가니 결국 1,2를 해결할수 없게되죠 ㅠㅠ
김재규열사
23/12/19 20:52
수정 아이콘
한남이니 한녀니 쓰면 절대 안되는 말인가요? 한남은 지명이기도 해서 못쓰게 할수도 없고 한녀도 그냥 쓸 수 있게 풀어주는게 맞지 않나 싶네요.
cruithne
23/12/19 21:45
수정 아이콘
한남은 그 자체로도 단어로 쓰일 수 있으니 그걸 구분해낼 정도의 ai 기술레벨이 아니었지 않나 싶습니다.
Regentag
23/12/19 22:34
수정 아이콘
한남, 한녀는 상대방이 모욕적으로 여길 수 있는 표현입니다. 이게 진짜로 모욕인지, 지명을 말하는건지는 문맥을 보면 자연스럽게 드러나죠.
사람 대 사람으로 대화하는 카톡방에서 이걸 못 쓰게 할 이유는 없고, 못 쓰게 하지도 않았습니다. 문제가 된 지점은 이 단어들이 AI를 거쳤을 때의 결과가 서로 달랐고 편향적이라는거죠.

카카오의 AI 기술력이 아직 문맥을 구분할 수 있는 수준도 아닌것 같고요.
인간실격
23/12/19 23:17
수정 아이콘
다른건 모델 훈련시 데이터 편향성으로 인해 일어날 수 있는 일이라고 치는데 그 이모티콘 나오는건 진짜 누군가 고의적으로 했다고밖에 크크크크
이건 그냥 카카오가 이루다만도 못한 수준이란거 셀프 인증한거죠.
펠릭스
23/12/20 00:24
수정 아이콘
확실히 권력은 사건이 아니라 사건이 처리되는 방식에서 그 힘의 강약이 드러나는 것 같습셒슾.

저게 '한녀'라는 말로 바뀌어서 같은 사태가 일어났다면 우리의 언론지형이 어떻게 되었을지는 명약관화한 일일텐데.

도대체 이렇게 문화권력에서의 기득권이 왜 약자 코스프레를 하고 있는지는...... 뭐 다 아시겠지만 그게 돈을 주고 권력을 주니까 이지겠지요.

그럼에도 뭔 20,30도 아닌 이 아재가 분노하게 만드네요. 이 불공정은. 이 불균형은.
파쿠만사
23/12/20 10:07
수정 아이콘
어제는 한남쓰면 그 손가락 나왔는데 오늘 해보니 안나오네요 먼가 패치된건가...
코도스
23/12/20 23:11
수정 아이콘
남성이 모욕 대상이 될때면 언론들은 쥐죽은 듯 조용하죠
Capernaum
23/12/24 02:57
수정 아이콘
와...

이모지는 상당히 의도적인데...

넥슨 사건보다 큰 사안 같은데
목록 삭게로! 맨위로
번호 제목 이름 날짜 조회 추천
100679 [정치] 국민의 힘 '청년'위원들 출마선언 [49] 맥스훼인10189 24/01/10 10189 0
100678 [일반] 요즘 가구들 정말 [50] 지그제프10141 24/01/10 10141 5
100677 [정치] 현근택 처리문제로 드러난 민주당의 문제, 원칙과 상식의 탈당 [236] 아이스베어12082 24/01/10 12082 0
100676 [정치] 월성 원전 감사방해.. 2심서 무죄나왔군요 [18] 또리토스9139 24/01/09 9139 0
100674 [일반] 1시간 삭제되는 코리안 나르코스 이야기 [31] 어강됴리10029 24/01/09 10029 4
100673 [정치] 이낙연이 민주당 의원 중 범죄자가 44%라고 말했다가 사과했네요. [98] 홍철14808 24/01/09 14808 0
100672 [일반] 불같은 사랑을 했던 나에게 내가 남기는 회고록 [10] 나선꽃4729 24/01/09 4729 27
100671 [일반] 과학이 뭐라고 생각하세요? / 과학철학의 역사 [32] Fig.14741 24/01/09 4741 26
100670 [일반] 늦은 나이에 새 애인이 생겼습니다. [82] 우주전쟁12676 24/01/09 12676 16
100669 [일반] 골수 서구인인줄 알았던 내가 알고보니 MZ유생? [22] 사람되고싶다8199 24/01/09 8199 25
100668 [정치] 개 식용 금지법 국회 법사위 통과 (본회의도 통과) [256] Regentag14315 24/01/08 14315 0
100667 [일반] pgr 삼촌의 시티팝 추천곡 [26] 라쇼7323 24/01/08 7323 21
100666 [일반] '가슴 부위에 흉기' 한강 여성 시신…"타살 가능성 높지 않아" [39] lexicon12831 24/01/08 12831 3
100665 [정치] 이재명 살인미수 공범 긴급체포 [55] 어강됴리12563 24/01/08 12563 0
100664 [정치] 김건희 주가조작 의혹 ‘수사 대신 변호’ 나선 법무부…사실상 무혐의 처분서 배포 [157] 베라히11875 24/01/08 11875 0
100662 [일반] 81회 골든글로브 시상식 결과 (영화부문) [14] Rorschach6303 24/01/08 6303 3
100660 [정치] 이상민 의원 국민의힘 입당, 원칙과 상식 탈당 선언 임박 [101] 계층방정13292 24/01/08 13292 0
100659 [일반] <고려거란전쟁> - 반환점 즈음. 사극의 전환점이 될.. 까?(스포) [81] aDayInTheLife8428 24/01/07 8428 2
100658 [일반] 나일강과 황하의 공통점 [12] VictoryFood7752 24/01/07 7752 5
100657 [일반] 무작정 떠난 무계획 혼자 해외여행 [28] 하카세9184 24/01/07 9184 5
100656 [일반] 다시 수학이다... [44] 우주전쟁8957 24/01/07 8957 7
100655 [일반] 엑시노스 2400 탑재 갤럭시 S24+, 스냅드래곤 탑재 갤럭시 S24 울트라 긱벤치 유출 [61] SAS Tony Parker 9154 24/01/07 9154 3
100654 [일반] [스포일러] 콘크리트 유토피아 관람 후기 [21] 류지나6980 24/01/07 6980 8
목록 이전 다음
댓글

+ : 최근 1시간내에 달린 댓글
+ : 최근 2시간내에 달린 댓글
맨 위로