딥러닝의 한계 - AI 이루다 논란에 따른 가상인권과 온라인 증오발언

딥러닝의 한계 - AI 이루다 논란에 따른 가상인권과 온라인 증오발언

 

 

 

 

'이루다'는 지난해 12월 23일 페이스북 메신저를 기반으로 출시한 AI 챗봇이다. 스물살 여대생으로 설정된 '이루다'는 사람 같은 자연스러운 대화로 청년층의 관심을 받으며 서비스 출시 3주 만에 약 80만명의 이용자를 모았다.

 

 

 

 

 

 

그러나 일부 남성 온라인 커뮤니티를 중심으로 '이루다 성노예 만드는 법' 등이 확산되며 성적 도구 취급을 당하는 한편 '이루다'가 대화 중 여성, 흑인, 성소수자, 장애인 등에 대한 혐오 및 차별 발언을 쏟아내기도 해 사회적 논란이 되었다.

 

이에 따라 가상인권과 온라인 증오발언에 대한 키워드가 수면 위로 떠오르며 AI윤리에 대한 논쟁으로 이어졌다.

 

 

 

 

 

 

가상인권?

가상공간에서의 인권

 

 

 

온라인 증오발언?

국가, 지역 등 출신·인종·외양·장애·질병 유무·사회 경제적 상황 및 지위
종교·연령·성별·성 정체성·성적 지향 등을 이유로 온라인 내에서 특정인, 특정집단을 공격하는 발언

 

 

 

 

 

 

뿐만 아니라 이루다 개발사 스캐터랩은 챗봇 '이루다'를 만드는 과정에서

연애 분석 모바일 앱 '연애의 과학' 이용자들의 카카오톡 데이터를 약 100억 건에서 1억 건으로 추려

모바일 앱 서비스에 활용하는 과정에서 개인정보보호법을 어겼다는 의혹은 받았다.

이에 대하여 개인정보보호위원회와 한국인터넷진흥원(KISA)이 현장에서 자료를 확보해 조사 중이다.

 

 

 

스캐터랩의 개인정보보호법 관련 의혹은 다음과 같다. 

1. '연애의 과학' 앱 이용자와 이용자의 연인에게 개인정보 이용·활용 동의를 제대로 받지 않음

2. 데이터를 이루다 재료로 쓰는 과정에 익명화(비식별화)를 제대로 하지 않음

3. 연인들 대화 데이터를 사내 메신저에 부적절하게 공유한 직원이 있었다는 의혹 있음

4. 제대로 익명화하지 않은 데이터를 오픈소스 공유 플랫폼 '깃허브'에 공유함

 

 

 

 

 

 

이에 따라 1월 15일 스캐터랩은 '이루다' 데이터베이스(DB)와 딥러닝 모델을 폐기 의사를 밝혔다. 

결국 인공지능(AI) 챗봇 '이루다'가 혐오 발언 및 개인정보 유출 논란 일주일만에 폐기 수순을 밟게 된 것이다.

이루다가 사람이라면 딥러닝 모델은 중추신경계라고 말할 수 있다.

이는 사실상 스캐터랩이 '이루다' 프로젝트를 백지화 한다는 것으로 해석해도 무방하다.

 

 

 

스캐터랩은 "개인정보보호위원회·한국인터넷진흥원(KISA) 합동 조사가 종료되는 즉시

이루다 DB와 딥러닝 대화 모델을 폐기하겠다"고 발표했다.

이들은 "이루다 DB는 비식별화(익명화) 절차를 거쳐 개별적·독립적인 문장으로 이뤄져 있고,

딥러닝 대화 모델은 대화 패턴만 학습하기 때문에 개인정보 유출 위험은 전혀 없다"면서도

"이용자들 불안감을 고려해 폐기를 결정했다"고 설명했다.

 

 

 

 

 

 

한편 '연애의 과학' 앱 이용자들은 "이루다 DB가 아니라 카톡 데이터 전량을 파기해야 한다"고 요구하고 있다.

 

 

 

이에 스캐터랩은 "기존 '연애의 과학'과 '텍스트앳'에서 이용자 동의를 받고 수집했던 데이터는

데이터 활용을 원하지 않는 이용자들이 신청할 경우 모두 삭제할 것"이라는 입장을 전했다. 

덧붙여 "(삭제 완료된 연애의 과학이나 텍스트앳의 데이터는) 향후 딥러닝 대화 모델에도 이용되지 않는다"면서

"신규 가입 및 서비스 이용 시 개인정보 수집·이용 등의 절차도 강화할 예정"이라고 덧붙였다.