뉴스홈 라이프 문화/출판

예스24, AI로 혐오 표현 감지하고 건전한 탐색 조성하는 ‘클린봇’ 도입

이성규 기자

등록 2025-05-19 11:53

문화콘텐츠 플랫폼 예스24가 AI로 부적절한 혐오 표현을 자동 감지해 필터링하는 ‘클린봇’ 서비스를 도입했다.

 

예스24, AI로 부적절한 표현 필터링하는 `클린봇` 도입

예스24가 새롭게 도입하는 ‘클린봇’은 도서와 직접적인 관련이 없는 작가·책에 대한 혐오 표현을 AI가 스스로 감지하고 필터링하는 것이 특징이다. 예스24는 해당 서비스를 서점 업계 최초로 도입해, 도서를 탐색하고 구매하려는 독자들에게 보다 건전한 정보를 제공할 전망이다.

 

‘클린봇’ 활성화 시, 도서 상세페이지 하단의 ‘한줄평’ 및 작가 페이지의 ‘작가에게 한마디’에 포함된 부적절한 표현을 자동으로 감지해 해당 글을 숨김 처리한다. 필요에 따라 클린봇 기능을 켜거나 끌 수 있어 숨김 처리된 글도 눈으로 직접 확인할 수 있다.

 

이번 서비스에는 20여 년간 풍부하게 축적된 예스24의 도서 리뷰 및 한줄평 데이터가 활용됐다. 이를 기반으로 AI가 문장의 맥락을 분석해 직접적인 욕설이나 비속어 외에도 폭력적, 차별적 용어 등 불쾌감을 조성하는 여러 표현을 차단하고 필터링한다.

 

2024년 기준 약 150만 건의 한줄평이 예스24에 등록되는 등 활발한 상품 후기 활동이 이어지는 만큼, 클린봇 도입이 보다 건강한 소통 환경 조성에 기여할 것으로 기대된다.

 

예스24 유서영 커뮤니티팀 팀장은 “이번 클린봇 서비스는 도서나 작가와 관계없는 무분별한 혐오 표현으로 인해 도서 탐색 과정에서 생길 수 있는 피로감을 줄이기 위해 도입됐다”며 “앞으로도 예스24는 정확하고 건전한 정보를 제공해 고객들의 편안한 독서 활동에 도움이 될 수 있도록 지속적으로 노력해 나가겠다”고 말했다.

 

이성규

이성규

기자

헤드라인 뉴스

서울 강서구, 우리 동네 공원이 들썩들썩…오구오구 어린이 버스킹 개최

최신 뉴스

많이 본 뉴스

회사소개 기사제보 광고 및 제휴문의 개인정보취급방침 청소년보호정책 메일수집거부
일간환경
등록번호서울 가 12345
등록일자2025-01-01
오픈일자2025-01-01
발행일자2025-01-01
발행인김철수
편집인김철수
연락처02)1234-5678
FAX070)1234-1234
일간환경

일간환경 © 일간환경 All rights reserved.

일간환경의 모든 콘텐츠(기사 등)는 저작권법의 보호를 받은바, 무단 전재, 복사, 배포 등을 금합니다.

RSS