PGR21.com
- 자유 주제로 사용할 수 있는 게시판입니다.
- 토론 게시판의 용도를 겸합니다.
Date 2023/12/19 19:26:29
Name Regentag
File #1 수정됨_KakaoAI.png (178.6 KB), Download : 21
Subject 카카오톡 AI 남성혐오 논란


카카오톡은 오늘(2023.12.19.) 말투변경 AI라는 기능을 출시했습니다.
입력한 문장의 말투를 변경해주는 AI죠.

그런데 하루를 넘기지 못하고 사건이 터졌네요.

논란이 된 부분은 한국 남성을 낮잡아 부르는 말인 [한남]과, 한국 여성을 낮잡아 부르는 말인 [한녀]를 다르게 처리하는 것이었습니다.
한녀가 포함된 문장을 입력하고 AI를 돌리면 부적절한 표현이라고 지적하는데, 한남이 포함된 문장은 그렇지 않았던 것이죠.
https://namu.wiki/w/%EC%B9%B4%EC%B9%B4%EC%98%A4%ED%86%A1%20AI%20%EB%82%A8%EC%84%B1%ED%98%90%EC%98%A4%20%ED%95%99%EC%8A%B5%20%EB%85%BC%EB%9E%80

심지어 한녀를 입력하고 특정 어투를 선택하면 한남으로 변경되거나,
https://www.dogdrip.net/528874821

한남이 포함된 문장을 [그 손모양] ???? 이모지로 변환시켜 주기도 하네요.
https://www.dogdrip.net/528882774

아마도 두가지 경우 중 하나이지 않을까 합니다.
  1. AI를 학습시킨 데이터셋이 편향되었거나, 혐오표현에 오염되었고 이를 적절히 거르지 못했다. (다음 카페에는 여성시대가 있죠...)
  2. 데이터를 사람이 라벨링했고, 이 과정에서 부적절한 개입이 있었다.

이 글을 쓰고있는 시점에는 카카오에서도 인지하여 한남, 한녀 모두 키워드 차단이 들어갔다고 하네요.

통합규정 1.3 이용안내 인용

"Pgr은 '명문화된 삭제규정'이 반드시 필요하지 않은 분을 환영합니다.
법 없이도 사는 사람, 남에게 상처를 주지 않으면서 같이 이야기 나눌 수 있는 분이면 좋겠습니다."
Regentag
23/12/19 19:28
수정 아이콘
PGR은 본문에도 댓글에도 이모지를 넣을 수 없나보군요..
티바로우
23/12/19 19:29
수정 아이콘
뭐 얼른 고치면 해프닝이죠
Regentag
23/12/19 19:34
수정 아이콘
넵. 얼른 고치면 해프닝이긴 하지요.
저도 직접 써보고 싶었는데, "사용자가 많다"는 이유로 기능 활성화가 안되네요. 지금은 아예 기능 접근을 차단했나봐요.
Dreamscape
23/12/19 19:29
수정 아이콘
한남대교 : 억울합니다
23/12/19 19:30
수정 아이콘
사람이 손댄걸까요? 궁금하네요
Regentag
23/12/19 20:12
수정 아이콘
수집된 데이터가 오염되었을 가능성쪽이 좀더 그럴듯해 보이긴 합니다.
남성혐오 성향의 거대 여초 커뮤니티가 다음 카페에 자리잡고 있으니까요..
페스티
23/12/19 20:46
수정 아이콘
직접 해봤었는데 필터링 메시지는 직접 손대는건지 계속 실시간으로 변하더군요.
아서스
23/12/19 19:32
수정 아이콘
AI가 수집한 데이터가 기반이지 않을까 싶긴 한데...
及時雨
23/12/19 19:40
수정 아이콘
학습을 제대로 한 거 같긴 한데 크크크
무냐고
23/12/21 09:03
수정 아이콘
저도 이쪽이라고 봅니다
한남은 훨씬 광범위하게 써버리는게 현실이니.. 크크크
23/12/19 19:43
수정 아이콘
가비지인 가비지아웃이죠
쓰레기 데이터가 들어간듯합니다
구상만
23/12/19 19:48
수정 아이콘
피해방향이 반대쪽이었으면 언론이 득달같이 몰려들어서 '여성혐오 카카오톡 이대로 괜찮은가?' 같은 기사 수십 개 쏟아내고 정치권에서도 우르르 몰고 나올 텐데 남자가 피해자 쪽이라 그런가 조-용하네요 크크크
23/12/19 19:51
수정 아이콘
1번이죠 뭐
23/12/19 20:30
수정 아이콘
성별 프레임은 결국 누군가가 노예가 되지않는한 끝나지않는 혐오싸움이죠. 인구의 절반이니 그 발언권이 막강하면서도 서로 팽팽하니까 말이죠. 이것도 완벽하진 않고 그동안 문제들이 나왔지만 자본주의사회에서 약자 프레임은 돈의 많고 적음을 우선으로 하는게 맞는것 같습니다.
Regentag
23/12/19 22:30
수정 아이콘
성별 갈등이 심해진것에 대한 여러 분석중에 저는 이런 이유들이 공감이 가더군요.
1. 경제적/심리적 여유가 없는 우리 사회의 구성원들이 더이상 관용을 발휘하기 어려움
2. 정치권의 편가르기 주제가 지역 → 세대/성별로 이동 (정확히는 2030 남성 vs. 나머지)
3. 사람은 어딘가에 소속감을 느껴야 하는데, 아무곳에도 소속되지 못한 사람이 늘면서 성별에 소속감을 느낌

저는 1번이 해결되면 2번, 3번도 자연스레 해결될거라는 생각입니다. 아무리 봐도 성별 프레임은 돈이 없는 약자들끼리의 싸움같거든요...
누군가는 이걸 이용해 돈을 벌고 말이죠 흐흐
23/12/19 22:57
수정 아이콘
하지만 돈이없는것은 전형적인 무능으로 치부되기에 돈없들끼리 싸울지언정 적어도 익명속에 숨어있는 온라인에서는 그들조차 돈이 없는 약자 코스프레는 잘 안하는 신기한 점이 있긴 합니다(...) 그래서 돈이 없는 사람이 해결책을 찾을만한 방향으로 가기보다는 본인들이 적으로 점찍은 집단의 혐오와 저주 + 그를 통한 자기합리화로 들어가니 결국 1,2를 해결할수 없게되죠 ㅠㅠ
김재규열사
23/12/19 20:52
수정 아이콘
한남이니 한녀니 쓰면 절대 안되는 말인가요? 한남은 지명이기도 해서 못쓰게 할수도 없고 한녀도 그냥 쓸 수 있게 풀어주는게 맞지 않나 싶네요.
cruithne
23/12/19 21:45
수정 아이콘
한남은 그 자체로도 단어로 쓰일 수 있으니 그걸 구분해낼 정도의 ai 기술레벨이 아니었지 않나 싶습니다.
Regentag
23/12/19 22:34
수정 아이콘
한남, 한녀는 상대방이 모욕적으로 여길 수 있는 표현입니다. 이게 진짜로 모욕인지, 지명을 말하는건지는 문맥을 보면 자연스럽게 드러나죠.
사람 대 사람으로 대화하는 카톡방에서 이걸 못 쓰게 할 이유는 없고, 못 쓰게 하지도 않았습니다. 문제가 된 지점은 이 단어들이 AI를 거쳤을 때의 결과가 서로 달랐고 편향적이라는거죠.

카카오의 AI 기술력이 아직 문맥을 구분할 수 있는 수준도 아닌것 같고요.
인간실격
23/12/19 23:17
수정 아이콘
다른건 모델 훈련시 데이터 편향성으로 인해 일어날 수 있는 일이라고 치는데 그 이모티콘 나오는건 진짜 누군가 고의적으로 했다고밖에 크크크크
이건 그냥 카카오가 이루다만도 못한 수준이란거 셀프 인증한거죠.
펠릭스
23/12/20 00:24
수정 아이콘
확실히 권력은 사건이 아니라 사건이 처리되는 방식에서 그 힘의 강약이 드러나는 것 같습셒슾.

저게 '한녀'라는 말로 바뀌어서 같은 사태가 일어났다면 우리의 언론지형이 어떻게 되었을지는 명약관화한 일일텐데.

도대체 이렇게 문화권력에서의 기득권이 왜 약자 코스프레를 하고 있는지는...... 뭐 다 아시겠지만 그게 돈을 주고 권력을 주니까 이지겠지요.

그럼에도 뭔 20,30도 아닌 이 아재가 분노하게 만드네요. 이 불공정은. 이 불균형은.
파쿠만사
23/12/20 10:07
수정 아이콘
어제는 한남쓰면 그 손가락 나왔는데 오늘 해보니 안나오네요 먼가 패치된건가...
코도스
23/12/20 23:11
수정 아이콘
남성이 모욕 대상이 될때면 언론들은 쥐죽은 듯 조용하죠
Capernaum
23/12/24 02:57
수정 아이콘
와...

이모지는 상당히 의도적인데...

넥슨 사건보다 큰 사안 같은데
목록 삭게로! 맨위로
번호 제목 이름 날짜 조회 추천
100744 농산물유통의 빌런으로 지목받는 도매법인 [68] VictoryFood12081 24/01/21 12081 22
100743 법무부가 난민법 개정안을 입법예고 했습니다. [48] 칭찬합시다.9999 24/01/20 9999 0
100741 <사랑은 낙엽을 타고> : 낙엽처럼 떨어진다고 할지라도 [10] 오곡쿠키3824 24/01/19 3824 6
100740 이쯤에서 다시보는 연설에 끼어든 한인 학생을 대하는 오바마의 자세 [53] 종말메이커15215 24/01/19 15215 0
100739 결국 헝가리식의 파격적 현금지원 출산장려책은 민주당이 선점했네요. 지지합니다. [136] 홍철16471 24/01/19 16471 0
100738 올해 신년 기자회견은 없다는군요 [74] 또리토스11833 24/01/18 11833 0
100737 “국정기조 바꾸라” 지적에 야당 국회의원 입막아 끌어낸 대통령실 [598] Crochen29889 24/01/18 29889 0
100736 정부, ‘음주 수술’ 금지 추진… 의사협회 반발 [231] Davi4ever15285 24/01/18 15285 0
100735 이준석 기자회견 : 65세 이상 지하철 공짜 폐지 추진 [325] Croove18167 24/01/18 18167 0
100734 오늘 0시, 역사 속으로 사라진 전라북도... '전북특별자치도' (+기사 추가) [41] Davi4ever11949 24/01/18 11949 0
100733 뉴욕타임스 12.28일자 기사번역 (미국의 아동노동 문제) [8] 오후2시5302 24/01/17 5302 2
100731 SVIP들을 엿 먹이는 CJ CGV의 만행(스페셜 기프트 사태) [40] SAS Tony Parker 7658 24/01/17 7658 1
100730 두 번이나 아내를 잃어도 [8] 계층방정8196 24/01/17 8196 11
100728 친구 없는 해외여행은 힘들다 (feat. 건보는 신이야) [30] 하카세7081 24/01/17 7081 2
100727 대통령, 야권 방심위원 2명 해촉 재가. 방심위 여4: 야1 구도로 [81] 빼사스10720 24/01/17 10720 0
100726 미투 광풍을 정치적으로 이용하려다 망한 민주당과 서지현 [31] 홍철14082 24/01/17 14082 0
100725 성범죄 관련 새로운 판례가 나왔군요. [37] 時雨12876 24/01/17 12876 51
100724 국민의힘 경선룰 지역별 차등 적용 검토가 떴네요 [102] 쀼레기11818 24/01/16 11818 0
100723 한동훈, 김건희 모녀 23억 차익 의견서에 "문재인 정권 때 문서" [120] Crochen13312 24/01/16 13312 0
100722 한동훈, 국회의원 정수 250명으로 줄이겠다 [162] 계층방정12091 24/01/16 12091 0
100719 양주시에서 허위 출장 공무원 공식 입장문을 발표했습니다. [67] Leeka11226 24/01/16 11226 4
100718 RTX 40 슈퍼 커스텀 모델 가격 유출 [43] SAS Tony Parker 6372 24/01/16 6372 1
100717 테일러 스위프트 콘서트에 갑니다. [17] 간옹손건미축5682 24/01/15 5682 12
목록 이전 다음
댓글

+ : 최근 1시간내에 달린 댓글
+ : 최근 2시간내에 달린 댓글
맨 위로