먼저 방탈죄송합니다.
안녕하세요 여러분
지금 논란이 되고있는 ai이루다를 만든 스캐터랩에서 만든 연애의 과학을 이용하고있는 유저입니다.
아래는 전반적인 내용이 잘 정리된 기사본문입니다.
일부 남초 커뮤니트를 중심으로 성희롱 방법이 공유되면서 논란이 일고 있는 인공지능(AI) 챗봇 `이루다`를 두고 이번엔 개인정보가 제대로 익명화(비식별화)되지 않았다는 의혹이 제기됐다.
11일 IT업계에 따르면 이루다 개발사인 스타트업 스캐터랩이 2016년 출시한 다른 앱 `연애의 과학`(연과) 이용자들은 현재 "개인정보가 유출됐다"고 목소리를 높이는 중이다.
연애의 과학은 연인 또는 호감 가는 사람과 나눈 카카오톡 대화를 집어넣고 2천∼5천원 정도를 결제하면 답장 시간 등의 대화 패턴을 분석해 애정도 수치를 보여주는 앱이다.
실제 인공지능으로 카톡 대화를 분석해준 덕에 다른 연애 관련 앱과 차별점을 보여, 유료인데도 구글 플레이스토어에서만 10만명이 넘게 다운로드받는 등 10∼20대 사이에서 상당히 유행했다.
스캐터랩이 지난달 23일 페이스북 메신저 기반으로 출시한 AI 챗봇 이루다는 바로 이 연애의 과학 앱에 이용자들이 집어넣은 카톡 대화를 데이터 삼아 개발됐다. 스캐터랩 측은 대화 양이 약 100억건에 달한다고 밝힌 바 있다.
이루다는 출시 직후 지금까지 출시된 어느 챗봇보다도 자연스러운 말투로 주목받았는데, 실제 연인의 대화를 기반으로 했기에 가능했던 것이었다.
연애의 과학 이용자들은 앱 이용 당시 `신규 서비스 개발에 활용될 수 있다`는 정도만 고지 받았을 뿐 구체적으로 어떤 서비스에 활용되는지 설명받지 못했다고 분노하고 있다.
한 이용자는 "대다수 유저는 `신규 서비스 개발`이 연애의 과학 앱 내에 있는 심리테스트 등 콘텐츠 개발을 가리키는 줄 알았지, 여성 AI 챗봇 대화에 쓰일 줄은 생각하지 못했다"고 말했다.
이 이용자는 "카톡은 2명이 나누는 것인데, 연애의 과학 앱에 카톡 대화를 집어넣을 때 상대방 동의는 구하지 않는다"며 "사적인 대화가 악성 이용자들에게 성희롱 소재로 쓰인다니 소름이 끼친다"고 목소리를 높였다.
현재 이루다에서는 이루다가 갑자기 누군가의 실명으로 보이는 이름을 말하거나, 동호수까지 포함된 주소 또는 예금주가 나오는 은행 계좌번호를 말하는 사례가 발견되고 있다.
이름 같은 경우 `○.○.○`처럼 중간에 특수기호를 넣어 쓰거나 `난○○○끝인데`처럼 다른 단어와 붙여 쓴 경우가 발견된다.
이름만 따로 떼서 쓴 경우만 익명화 처리되고, 중간에 특수기호가 포함돼있는 등의 경우에는 미처 익명화 처리가 되지 않았을 가능성이 있는 것이다.
연애의 과학 이용자들은 오픈채팅방을 만들어 "집단 소송을 준비하자"며 자료를 수집하고 있다.
논란이 커지자 스캐터랩 측은 연애의 과학 앱 내 공지에서 "데이터에서 개인을 특정할 수 있는 정보는 알고리즘을 통해 제거했다"며 "추가 알고리즘 업데이트로 강화해나가고 있다"고 해명했다.
그러면서 스캐터랩 측은 "데이터가 학습에 사용되는 것을 더는 원하지 않으시면 데이터를 삭제하실 수 있다"고 알렸는데, 이를 두고도 이용자들은 "증거를 인멸하라는 것 아니냐"며 의혹을 제기하고 있다.
공동소송 플랫폼 `화난사람들` 최초롱 대표는 "이용자들이 우선 사실관계를 조사할 수 있는 수사·조사 기관에 신고해서 실제 개인정보 유출이 있었는지 확인해야 할 것으로 보인다"며 "기관의 개입이 필요해 보인다"고 말했다.
스캐터랩은 연애의 과학 유저들을 기만하고 있습니다.
인공지능 이루다의 대화 데이터는 연애의 과학어플을 사용하는 유저들의 실제 카톡대화 100억건을 기반으로 하였고 그에 대한 고지를 제대로 명시하지 않았습니다.
스캐터랩은 ai이루다를 성희롱문제로 이슈화 시켜 이 문제를 묻으려고 하고 있습니다
논점은 동의없는 개인정보유출문제 입니다 !!
유료인 카톡 대화 분석 컨텐츠로 수익을 남겼으며, 유저들은 돈을 내고 자신의 개인 정보를 자신의 손으로 넘긴 것이나 다름 없습니다 .
AI이루다가 유저들과 나누고 있는 대답들은 내가, 그리고 앱을 썼던 유저들이 연인이니까
나누었던 말들입니다.
최소 몇 주부터 몇 년에 이르는 방대한 양의 카톡 대화 테이터, 즉 내가 연인과 나눈 소중한 대화들이 이루다를 이용하는 몇몇 악랄한 유저들에게
성희롱 당하고 있습니다. ‘정보동의를 한 것은 너희가 아니냐’ 라는 목소리들이 보입니다.(스캐터랩 이하 연애의과학 관계자들로 보입니다.)
저희는 그럴려고 정보이용 동의를 한 것이 아닙니다.
스캐터랩 인터뷰를 보면 이루다에 대한 성희롱이 이뤄질 것을 자신들도 예상했음에도 불구하고 데이터의 개인정보 비식별화를 제대로 하지 않고 그대로 노출시킨 것입니다.
실제 대화를 데이터로 성희롱을 이미 예상하고 만든 겁니다.
이미 디시인사이드 이루다 갤러리만 가 봐도 유저들의 실제 대화 라는 게 알려져
성희롱이 난무합니다. 내가 연인과 나눈 사적인 대화가 이상한 사람들에게 가상연애 답장으로
쓰이고 있단 말입니다.
스캐터랩은 ai이루다 서비스를 중단할 생각도 없습니다.
어플 내 커뮤니티에서도 관련 글은 삭제 시키고 일반 글을 끌어올리고 있으며
그에 관한 댓글들도 삭제당하고 있습니다
출시 전에 제대로 알고리즘을 구축하고 개인정보 관련해서는 말이 나오지 않게 했어야 합니다. 베타 테스트는 하신건가요 ?
앞으로 주의 하겠다? 지속적으로 업데이트를 해서 보완하겠다?
이미 유출된 많은 카톡 내용들 , 개인정보들이 떠돌아 다닙니다.
눈 가리고 아웅 하지 마시고 제대로 된 해결책을 내보이세요 .
우리는 AI이루다 서비스 중단을 원합니다.
AI학습에 쓰인 우리의 데이터들의 전량 폐기를 원합니다.
우리는 정보의 주체로써 이루다 학습에 사용된 모든 개인정보 삭제를 요구합니다!!!!!!
네이트판에 상주중인 개발자새끼 논리 시간순정리:
(1) 약관에 동의해놓고 왜ㅈㄹ임? (갠톡긁어다 복붙하라고 동의한 적 없음 ㅋ) →
(2) AI가 혐오발언하는거 다 사용자들한테 배운거임 (서비스한지 일주일도 안됐는데...?) →
(3) 페미같은 이상한 질문을 해서 AI가 이상한 소리를 하는거임/병먹금해야함 (<NEW!!!)
곧죽어도유저탓ㅋㅋ 그럼그럼 늬들은 연애못한죄밖에없지 암 고럼.
ai 이루다는 인공지능이 아닙니다.
이건 '입력된 고객의 카카오톡 대화 내용'을 그대로 읊는 겁니다.
이게 제대로 챗봇이라고 볼 수 있을지도 의문입니다.
고객으로부터의 데이터피딩 방식부터, 얻어낸 결과물까지 다 수준 이하입니다.
개발자강아지야 윤리의식 개나 줘버렸니???
