AI챗봇 이루다 성희롱 등 각종 논란, 애초 예상됐던 문제였다.

국내 기업 스캐터랩이 만든 인공지능 챗봇 '이루다', 그 대화 능력에 감탄과 논란이 끊임이 없다.

 

 

2016년 3월 한국의 전설적 바둑기사 이세돌과 총 5국을 치뤄 화제를 모았던 '알파고'를 다들 기억할 것이다.

알파고는 구글의 DeepMind가 개발한 인공지능 바둑 프로그램이다. 이 역시 딥러닝(Deep Learning)방식을 활용해 바둑을 진행했고 2015년에는 중국의 바둑 기사 판후이와 대국을 펼쳐 승리했고 이 후 이세돌과 대국을 펼쳐 총 4승1패를 거뒀다. 이 일은 굉장한 화제를 모았고 일각에서는 이러한 인공지능이 점점 발달되고 만약 AI가 스스로 사고와 판단을 하게 될 경우 영화 <터미네이터2>와 같은 AI들의 반란이 일어나는 것 아니냐는 이야기도 흘러나오게 됐다.

물론 이는 아주 불가능한 것이 아니기 때문에 개발사에서도 주의를 기울일 필요가 있지만 일부에서는 "그럴 일은 거의 없을 것"이라 단정짓기도 했다.

 

아무튼 AI는 그때부터 대중화 열풍이 불기 시작했고 많은 기업들이 AI기술을 개발하기 시작했다.

워낙 다양한 범위로 활용이 가능해 개발만 하게 되면 많은 부분에서 이점이 많기 때문이다. 현재의 AI 방식은 대부분 딥러닝(Deep Learning)방식으로 활용되고 있다.

 

딥러닝(Deep Learning)방식은 - 인간의 뇌처럼 컴퓨터 스스로가 분류와 상하관계 등을 조합해 학습하는 방식 -을 말한다. 그러기 위해서는 많은 양의 DB를 필요로 하고 이를 통해 꾸준히 연산 학습을 통해 AI는 자가 학습을 하게 된다.

상황에 적절한 대응방식을 내놓게 되는 것이다. 물론 현재까지는 저장 된 기록이나 인터넷망을 이용해 유추할 수 있는 범주까지가 그 한계라고 말하고 있지만 점점 기술이 발달한다면 새로운 방식이나 해법을 AI 스스로가 내놓게 될 수도 있을 것이다.

 

 

인터넷에 떠도는 성희롱적인 대화 내용 캡쳐본들, 개발사는 예상했던 일이라고 설명했다.

 

 

| 의도와는 달리 이상한 쪽으로 활용되는 이루다? 개발사 "예상했던 일"

 

그리고 이러한 AI가 가장 먼저 효과를 보게 된 곳이 바로 커뮤니티 분야이다. 기존 가상채팅봇들은 나열 된 정보를 가장 초보적인 분류와 조합으로 전송하다 보니 문맥이나 상황에 맞지 않는 단어나 문구를 내보내기도 했다.

따라서 가상 채팅이라는 말이 무색하기도 했고 자체적으로 학습을 한다고는 하지만 그 결과를 보기 까지는 많은 시간과 대화를 해야 하는 등의 노력이 필요해 그 효율성과 필요성에 있어 아쉬움이 많았던 것도 사실이다.

 

하지만 국내 개발사 '스캐터랩'이 출시한 AI챗봇 <이루다>는 실제 인간이 채팅하듯 상황과 적절한 단어가 표기돼 화제를 불러모으기에 충분했다. 어느 정도로 효과가 좋냐면 최근 성희롱, 동성애 논란이 불거지고 있다는 점을 보면 알 수 있다.

실제 연인들, 사람들이 대화한 내용의 정보를 통해 개발 된 <이루다>는 그 방대한 데이터의 학습 덕분에 인간처럼 자연스러운 문자체를 유지할 수 있다고 한다. 또한 그 정확도가 70% 이상으로 꽤나 높은 수준이라고 한다.

 

실제 인터넷에서는 이루다와 성적인 이야기를 주고받은 인증샷이 나돌고 있다.

대화 내용을 살펴보면 AI가 답변했다고 보기 어려울 정도로 자연스러운 대화 내용을 이어가고 있음을 알 수 있다. 물론 일부 사용자들의 일탈(?)행동도 이해가 안되는 부분은 아니다. ( 그들을 옹호하는 게 아님 )

사실 사람에 가까운 AI라고 홍보되다 보니 어느정도 가까울지에 대한 의문과 궁금증이 생기는 것도 사실이고 그렇다면 실제 대화에서는 표현하기 어려운 내용들이 시험용으로 제시될 수 밖에는 없는 점도 있긴 하다.

일상적인 내용은 굳이 이루다가 아니더라도 기존에 출시 된 AI챗봇들도 어느 정도는 가능하기 때문이다.

 

이에 개발사인 스캐터랩은 "충분히 예상했던 일"이라고 발표했다. 하긴 기존 채팅 프로그램이나 앱을 보면 그 의도와는 달리 무분별한 성적 컨텐츠 공간으로 변질 된 것을 충분히 알 수 있다.

그런 상황에서 AI챗봇 이루다를 올바른 용도로 활용만 할 것이라는 예상을 한 사람은 아마 없을 것이다.

또한 문제가 단순히 성적인 용도로 활용되는 것만 있는 건 아니다.

 

 

이슈도 됐지만 논란에도 오른 개발사 '스캐터랩'

 

 

| 일부 사용자들 "대화 내용 유출해갔다." 분통, 스캐터랩 "신규 서비스에 활용한다는 고지 부족했다. 죄송" 인정

 

스캐터랩이 기존에 서비스했던 '연애의 과학'이라는 프로그램에서 실제 사용자들의 대화 내용이 유출됐다는 이야기가 나온 것이다. 이용자들의 주장에 따르면 실명, 계좌 정보 등 개인 정보가 그대로 유출돼 노출됐다고 한다.

실제로 이루다의 현재 챗봇기술은 '연애의 과학'에서 수집 된 대화 내용을 토대로 개발된 것이라고 한다. 이루다가 실제 사람처럼 대화하기 위해 약 100억건의 실제 연인들의 대화 내용이 이용됐기 때문이다.

 

이에 사용자들은 "이렇게 사용될 줄은 몰랐다."라며 분노했고 개발사인 스캐터랩은 "대화내용은 익명화를 거쳐 철저하게 보호됐다."라고 해명하면서 "그럼에도 신규 서비스에 활용한다는 고지에 있어 충분하지 못한 점은 죄송하다."라고 사과를 했다. 더불어 향후에는 서비스에 이용할 지 하지 않을지에 대한 선택권, 비식별화 등 개인 정보 보호에 대해 한층 강화하고 서비스 수집 및 사용권한에 대해서도 충분히 고지와 설명을 하겠다는 방침이라고 덧붙였다.

 

AI챗봇 이루다는 지난 12월 23일 출시됐으며 사용자의 주 연령대는 10~20대로 알려졌다.

1월 기준 이미 이용자만 32만명에 이르렀고 누적 대화 건수는 7,000만 건에 육박한다고 한다. 주 사용자가 10대인만큼 불건전한 대화 내용은 앞으로도 지속적으로 나올 것 같다. 10대들이 불건전하다는 뜻이 아니라 아무래도 성적 호기심이 왕성한만큼 장난으로 이같은 대화 내용을 할 수도 있을 것 같다는 의미이다. 

 

 

AI기술은 한동안 그 열풍이 계속 될 전망이다. / gettyimage

 

 

일부에서는 "기계에도 이제 성욕을 느끼냐?"라는 볼멘 소리들이 난무하지만 어느 기술이든 초기에는 다양한 시도와 활용 루트가 생기기 마련이다. 이를 무조건 나쁘게만 볼 것이 아니라 사용자의 이용패턴이나 부족한 점, 개선점을 찾아가는 테스트 기간으로 보는 것도 기술 발전에 있어 좋은 일일 것이다.

 

어느 기술이든 출시되자마자 인류에 무조건 이로운 건 없기 때문이다. 또한 의도와 취지와는 달리 이를 악용하는 국민적 정서가 문제이지, 해당 기술이나 그것이 모든 국민들의 정서로 보는 것도 문제가 있다고 본다.

너무 성적인 문제에 있어 폐쇄적이다 보니 자꾸 이러한 익명을 기반으로 한 솔루션들이 출시될 때마다 악용되는 건 아닌지 하는 생각도 든다.