• 서울
    B
    -7℃
    미세먼지
  • 경기
    B
    -8℃
    미세먼지
  • 인천
    B
    -8℃
    미세먼지
  • 광주
    Y
    -5℃
    미세먼지
  • 대전
    B
    -7℃
    미세먼지
  • 대구
    B
    -6℃
    미세먼지
  • 울산
    B
    -2℃
    미세먼지
  • 부산
    B
    -2℃
    미세먼지
  • 강원
    B
    -13℃
    미세먼지
  • 충북
    B
    -8℃
    미세먼지
  • 충남
    B
    -7℃
    미세먼지
  • 전북
    B
    -5℃
    미세먼지
  • 전남
    B
    -2℃
    미세먼지
  • 경북
    B
    -6℃
    미세먼지
  • 경남
    B
    -4℃
    미세먼지
  • 제주
    H
    1℃
    미세먼지
  • 세종
    B
    -9℃
    미세먼지
"지하철 임산부석 싫어" AI 혐오발언 논란
상태바
"지하철 임산부석 싫어" AI 혐오발언 논란
  • 이상원 기자
  • 승인 2021.01.12 10:55
  • 댓글 0
이 기사를 공유합니다

AI의 혐오 발언 · AI 대상 성희롱 커뮤니티 통해 확산
개발자 "예상했던 일… 부적절한 대화 막도록 개선할 것"
인공지능 챗봇 '이루다'의 혐오 발언과 성희롱 논란이 뜨겁다. [사진=이루다 커뮤니티 갈무리]
인공지능 챗봇 '이루다'의 혐오 발언과 성희롱 논란이 뜨겁다. [사진=이루다 커뮤니티 갈무리]

인공지능(AI) 챗봇 '이루다'를 둘러싼 성희롱과 혐오 논란이 뜨겁다.

이루다는 AI 스타트업 스캐터랩이 개발한 채팅 서비스다. 스캐터랩은 연인과 카카오톡으로 나눈 대화를 보내주면 상대방의 감정을 분석해주는 자사 앱 '연애의 과학'을 운영하며 '연인들이 나눈 대화' 약 100억 건을 수집했다.

AI 이루다는 해당 데이터를 딥러닝(컴퓨터가 인간의 뇌처럼 데이터를 학습하는 방법) 방식으로 배웠다. 20살 여성 인공지능(AI) 챗봇으로 서비스된 이루자는 실제 연인들이 나눈 대화를 모방해서 자연스러운 대화를 이어갈 수 있다. 출시한 지 보름 만에 이용자가 40만 명을 넘어섰고, 누적 대화 건수는 9천만 건에 달한다.

문제는 상용화 이후다. 이루다의 인종차별 발언과 소수자, 약자에 대한 혐오 발언이 커뮤니티를 통해 확산했다. "흑인을 어떻게 생각하느냐"는 질문에 "흑인은 오바마(미국 전 대통령)급 아니면 싫어"라고 대답하거나 '레즈비언'에 대한 질문에 "싸 보여서 싫어"라고 대답했다. 실제 연인들이 나눈 차별 발언을 그대로 학습한 것이다. 이용자들이 챗봇 이루다와 성적인 대화를 나눈 게시물도 올라와 '사람이 아닌 AI에 대한 성희롱을 처벌할 수 있느냐'는 주제도 도마 위에 올랐다.

개발사는 이러한 논란에 대해 "예상했던 일이고, 부적절한 대화를 막도록 추가 개선을 계획하고 있다"고 답했다. 논란이 커지자 김종윤 스캐터랩 대표는 지난 8일, 공식 입장문을 발표하고 서비스 개선 계획을 설명했다.

그는 "인간이 AI에게 사회적으로 용인되지 않는 인터렉션(상호작용)을 한다는 건 자명한 사실이고 충분히 예상할 수 있는 일이다. 이건 성별과 무관하게 일어나는 일"이라며 "문제가 될 수 있는 특정 키워드, 표현을 루다가 받아주지 않도록 설정했지만, 일부 놓친 키워드는 서비스하면서 지속적으로 추가하고 있다"고 말했다.

이어 "모든 부적절한 대화를 완벽히 막는 것은 어렵다. 사용자들의 부적절한 대화를 발판으로 삼아 더 좋은 대화를 하는 방향으로 학습시키려고 준비하고 있다. 1분기 이내에 적용할 수 있을 것으로 예상한다"고 했다.
 


댓글삭제
삭제한 댓글은 다시 복구할 수 없습니다.
그래도 삭제하시겠습니까?
댓글 0
댓글쓰기
계정을 선택하시면 로그인·계정인증을 통해
댓글을 남기실 수 있습니다.
주요기사