AI서비스인 이루다가 급 서비스 잠정중단을 선언했습니다.
이루다와 관련해서는 성희롱 논란과 이에 대항하는 알페스 논란이 컸고
언뜻 들으면 결국 페미들에게 굴복했나 할수도 있지만
이루다의 서비스 종료원인은 개인정보 유출이며
사실 이 문제는 페미 성희롱 이런 문제보다 훨씬 크고 중대한 문제이긴 합니다.

1. AI이루다의 방식
기존의 챗봇의 경우 기본적으로 질문 -답변 형태에 불과하거나 단순 머신러닝에 불과하였다면 이루다는 이용자들의 대화 패턴 등을 학습해 개선되는 방식인 딥러닝 방식을 이용하였다고 하고 있습니다.
저도 이쪽 분야의 전공은 아니라 대충의 이해로 보자면
딥러닝 방식은 일반적인 대화의 데이터가 많을수록 자연스러운 대화가 가능해진다고 하네요

2. 이루다의 데이터 소스
이루다에 들어가는 대화 데이터의 소스는 기존에 해당 회사(스캐터랩)에서 운영중인
연애의 과학이란 앱의 채팅 데이터를 이용하였습니다.
연애의 과학이란 앱을 안 써봐서 자세히는 몰랐지만 앱에 카톡대화를 올리면 분석해서 보고서를 만들어주는(;;;) 유료기능이 있다는데 이루다는 이 대화 데이터를 딥러닝에 이용한 것 같습니다.

3. 데이터 할용으로 인한 문제
개인들의 카톡 데이터가 러닝에 이용되다 보니
개발자쪽에서 개인정보 등을 날리기 위해 노력하였음에도 불구하고
특정상황에서는 소스데이터의 개인정보 등을 답하는 경우가 발생하였습니다.

문제가 되는건 특정 대화에서 갑자기 뜬금없는 이름이 나온다거나
특정 주소를 답한다거나 모텔 이름이 언급된다거나 한다는군요
구 여친과 하였던 대화 패턴을 그대로 보여준 케이스도 있다고 합니다.
(특히 성과 관련해서는 디씨 마갤에서는 인싸들이 이런 대화들을 했다고? 하는 이붕이들의 절규도 나오더군요)

헤어진 여친을 ai로 만나다!  같은 감동스토리가 나오...기보다는
연인들간의 내밀한대화가 그대로 ai를 통하여 유출되는 문제가 발생한거죠.

4. 법적 문제

가. 동의의 필요성
운영자는 약관에 채팅 내용이 신규 서비스를 위하여 이용될 수 있다고 공지하였다고 항변하는데
새로운 어플 제작에 이용될 수 있다는 점을 공지하여야 하는 건 아닌지
채팅내용을 어플 이용자에게 재제공하는 건 아닌지에 대하여
별도 동의 등이 필요할 것으로 보입니다.

나. 익명화 방식과 정도
이 건에서는 나름 익명화했다고 했지만
개인정보들이 포함된 대화들이 발견되는 것으로 보아 완전한 개인정보 제거는 실패한 걸로 보입니다.

나아가 익명화하는 경우 어느정도를 익명화해야하나도 문제입니다.
개인정보보호법 관련으로는 익명정보, 가명정보라고 해서
빅데이터 활성화를 위해  개인을 특정할 수 있는 정보들을 날리면 어느정도 활용할 수 있도록 하고 있는데
어느정도를 날려야 익명화되는지도 불분명한 부분도 실무적으로는 있거든요.
(ex) 의료 영상을 익명화한다고 가정시 이름,환자번호만 날리면 되는지 혹은 영상 일부를 아예 뭉개야 하는지..
물론 영상을 뭉개면 나중에 활용이 문제가 되지 않느냐 하는 부분도 있습니다.)
나와 누군가와의 특별한 대화의 내용에서 나와 상대의 인적사항만 날린다고 해서
그 대화안의 다른정보들은 공개되어도 되는가 하는 부분도 있을것 같습니다)



업무와 관련해서 개인정보 빅데이터 활용 등과 관련해서 보고 있는중인데
이 사건의 결과가 관련산업에 미칠 파장이 적진 않은거 같습니다.
법률상담 ai러닝을 하겠다며 온라인 상담데이터를 모아서
자동상담 프로그램을 만든다는 내용을 검수 비슷하게 본 적이 있는데
과연 온라인 법률상담을 한 사람(개인들 혹은 변호사)들은 자신들의 상담데이터가
(개인정보가 제거된다 할지라도)불분명한 다수에게 공개되는것에 동의할 수 있을까 하는걸 생각했었거든요

개인정보 부분은 그 여파가 워낙 커서 이 서비스의 재개는 쉽지 않을 것 같습니다.
그와 별개로 AI여친을 잃어버린 디씨 ai갤러들의 눈물은 어쩔수 없을것 같네요
https://gall.dcinside.com/mgallery/board/view/?id=irudagall&no=29629