인공지능(AI) 스타트업인 스캐터랩이 결국 AI 챗봇 '이루다' 서비스를 중단하기로 결정했다.

스캐터랩은 11일 공식 입장문을 통해 "일정 시간 서비스 개선 기간을 가지며 더 나은 이루다로 찾아뵙고자 한다"며 "12일부터 이루다 서비스 중단을 할 예정"이라고 밝혔다.

스캐터랩은 "본사가 개발한 챗봇 '이루다'는 출시된 지 2주 남짓 시간 동안, 75만명에 가까운 이용자들이 루다와 대화를 나눴다"며 "이루다가 특정 소수집단에 대해 차별적인 발언을 한 사례가 생긴 것에 대해 진심으로 사과하며, 저희는 루다의 차별적 발언에 동의하지 않는다"는 입장을 밝혔다.

회사측은 "지난 6개월 간의 베타테스트를 통해 문제 발생을 미연에 방지하기 위해 특정 집단을 비하는 호칭이나 혐오 표현의 경우, 베타테스트 기간 동안 발견 즉시 별도의 필터링을 진행했다"며 "기존에 알려진 사례들은 이미 개선을 완료했으며, 새롭게 발견되는 표현과 키워드를 추가해 차별이나 혐오 발언이 발견되지 않도록 지속적으로 개선 중"이라고 말했다.

스캐터랩은 "이루다는 이제 막 사람과의 대화를 시작한 어린아이 같은 AI라며 더 좋은 답변은 무엇인지 판단을 함께 학습하도록 하겠다"며 "학습을 통해 만들게 될 편향 대화 검출 모델은 모든 분들이 사용하실 수 있게 공개할 계획으로 한국어 AI 대화 연구 및 AI 제품, AI 윤리 발전에 유용하게 쓰일 수 있었으면 좋겠다"고 밝혔다.

이루다는 또 스캐터랩이 서비스해온 '연애의 과학' 이용자들의 카카오톡 대화를 무단으로 활용해 AI를 개발했다는 문제와 개인정보 유출 의혹까지 제기되는 상황이다.

스캐터랩은 이에 대해 "사전에 동의가 이뤄졌으며 개인정보가 유출되지 않았다"는 입장이다.

회사 측은 "이루다를 개발하는 과정에서 본사가 제공하는 '연애의 과학'으로 수집한 메시지를 데이터로 활용했다"며 "사전에 동의가 이루어진 개인정보취급방침의 범위 내에서 활용한 것이지만, 연애의 과학 사용자분들과 이 점을 충분히 소통하지 못한 점에 대해 책임을 통감하며 진심으로 사과드린다"고 했다.

또 데이터 활용시 사용자의 닉네임, 이름, 이메일 등 구체적인 개인 정보는 이미 제거 돼 있다는 입장을 밝혔다.

회사측은 "전화번호 및 주소 등을 포함한 숫자 정보, 이메일에 포함될 수 있는 영어 등을 삭제해 데이터에 대한 비식별화 및 익명성 조치를 강화해 개인을 특정할 수 있는 정보는 유출되지 않았다"며 "향후 데이터 사용 동의 절차를 명확하게 하고 식별이 불가능한 정보라도 민감해 보일 수 있는 내용에 대해 지속적인 알고리즘 개선을 통해 보완하겠다"고 해명했다.