카카오는 27일, 생성형 AI의 안전성과 신뢰성을 검증할 수 있는 AI 가드레일 모델 ‘Kanana Safeguard’를 개발하고 국내 기업 최초로 오픈소스 형태로 공개했다고 밝혔다.
카카오는 27일, 생성형 AI의 안전성과 신뢰성을 검증할 수 있는 AI 가드레일 모델 `Kanana Safeguard`를 개발하고 국내 기업 최초로 오픈소스 형태로 공개했다고 밝혔다.
이번 공개는 생성형 AI 기술이 빠르게 확산되며 사회적 우려가 커지는 가운데, 안전하고 책임 있는 AI 생태계를 조성하기 위한 선제적 대응의 일환이다.
‘Kanana Safeguard’는 카카오가 자체 개발한 언어모델 ‘Kanana’를 기반으로 한국어 및 한국 문화에 최적화된 성능을 갖춘 것이 특징이다. 자체 구축한 한국어 데이터셋을 활용했으며, F1 스코어 평가 결과 글로벌 모델 대비 우수한 성과를 보인 것으로 알려졌다.
공개된 모델은 총 3종이다. 기본형인 ‘Kanana Safeguard’는 AI 서비스 내에서 증오, 괴롭힘, 성적 콘텐츠 등 유해 발화를 탐지하는 역할을 하며, ‘Kanana Safeguard-Siren’은 개인정보, 저작권 등 법적 민감 정보를 식별한다. 마지막으로 ‘Kanana Safeguard-Prompt’는 AI를 악용하려는 시도나 위험한 프롬프트를 감지하도록 설계됐다.
이 모델들은 모두 세계 최대의 오픈소스 AI 플랫폼인 허깅페이스(Hugging Face)를 통해 다운로드 가능하며, 상업적 활용과 수정·재배포가 자유로운 아파치 2.0(Apache 2.0) 라이선스를 적용받는다.
카카오 김경훈 AI Safety 리더는 “기술 발전과 함께 AI의 윤리와 안전에 대한 논의가 더욱 중요해지고 있다”며 “Kanana Safeguard의 오픈소스 배포를 통해 책임감 있는 AI 개발과 활용 문화가 확산되길 기대한다”고 밝혔다.
카카오는 향후 지속적인 업데이트를 통해 모델의 고도화를 추진하고, 국내외 AI 기술 안전성 강화에 적극 기여할 방침이다.
최윤식
기자
헤드라인 뉴스
최신 뉴스
- 제주, 가축분뇨 자원화조직체 평가 및 우수 업체 지원
- 정부, 부동산 시장 점검 TF 가동… “주거안정 최우선, 시장 불안 총력 대응”
- 생성형 AI 저작권 분쟁 예방 나선다… 등록 및 활용 안내서 6월 말 발간
- 빵류 섭취 후 살모넬라균 감염 집단발생… 세종·부안서 추가 확인
- 제12회 공주정신건강학술문화제 개최… ‘정신건강 위기’ 사회적 해법 모색
- 국내 최초 유일 전기차부품 쇼핑몰 ‘이파트 Epart’ 운영 기업 굿바이카 남준희 대표, 환경부 장관 표창 수상
- KGM, 무쏘 EV 및 토레스 하이브리드 글로벌 시장 수출 선적
- 울산시, `2025년 목욕탕 노후굴뚝 정비사업` 1호 굴뚝 해체 완료
- 관악구, 가족과 함께하는 시원한 물총놀이…`가족 숲포츠 올림픽` 개최
- 마포구, 구민의 마음 헤아린 적극행정 함께 추천해주세요
많이 본 뉴스
- 1서울시, 여름철 폭염·풍수해 대비 가스시설 1,346곳 안전점검
- 2소아정신과 의사가 전하는 `아이 공부법`…25일 송파구청서 특강 개최
- 3“멀리 갈 필요 없어요”… 부천시, 도심 곳곳 생활 인프라 ‘촘촘하게’
- 4경기도, 6월 16~27일 ‘오토바이 소음 없는 날’ 운영…31개 시군 합동점검 나선다
- 56월엔 서초책있는거리로 북캉스 미리 떠나요
- 6KOTRA, 수출 1조달러를 위한 ‘무역구조 혁신 TF’ 발족
- 7연료비 줄이고 탄소도 줄이는 화물차 에코 드라이빙 캠페인 실시
- 8경기IT새일센터, 하반기 IT직업교육훈련 교육생 모집…5개 과정 운영
- 92024년 공공재정 부정수급 1천억 원 넘어… 생계급여·청년일자리 지원금 등 집중 환수
- 10마포구가 펼치는 올바른 청년 리더의 길 `올리브데이`에서 함께해요
