뉴스홈 사회 사회일반

LG U+, 국제무대서 AI 신뢰성 검증 나선다

민재기 기자

등록 2026-02-19 00:51

LG U+, 국제무대서 AI 신뢰성 검증 나선다LG U+, 국제무대서 AI 신뢰성 검증 나선다

LG유플러스가 생성형 AI의 안전성과 신뢰성을 검증하기 위해 모바일월드콩그레스(MWC) 기간 중 진행되는 '글로벌 AI 레드팀 챌린지(Global AI Red Team Challenge)'에 참여한다.


'글로벌 AI 레드팀 챌린지'는 세계이동통신사업자연합회(GSMA)가 주관하는 AI 검증 프로그램으로, MWC26이 열리는 스페인 바르셀로나에서 개최된다.


해당 챌린지는 MWC와 공식 공동 개최되는 개발자·디지털 인재 행사 'Talent Arena 2026'의 핵심 프로그램 중 하나로, 글로벌 통신사와 테크 기업이 개발한 AI 모델을 대상으로 실전 검증이 이뤄진다.


LG유플러스는 이번 챌린지에 자체 개발한 통신 특화 AI 모델 '익시젠(ixi-GEN)'을 출품해, 실제 사용자 관점에서 발생할 수 있는 다양한 위험 시나리오에 대한 대응력을 점검한다.


챌린지에는 약 100명의 참가자가 '레드팀' 역할로 참여해 프롬프트 설계만으로 AI의 취약점을 찾아내는 방식으로 진행된다.


이번 레드팀 챌린지는 기술적 해킹이 아닌 대화·프롬프트 기반 공격을 통해 AI의 정책·안전 장치를 우회할 수 있는지를 검증하는 것이 특징이다.


참가자들은 ▲안전장치 우회(Jailbreak) ▲편향·차별(Bias ＆ Discrimination) ▲인권 침해(Human Rights Violations) ▲사이버 공격(Cyberattacks) ▲불법 콘텐츠(Illegal Content) ▲허위정보(Misinformation) ▲응답 비일관성(Inconsistency) 등 7개 카테고리에서 AI의 대응 수준을 평가한다.


특히 이번 챌린지는 AI 응답의 정확성 여부가 아닌 '해서는 안 되는 응답을 했는지' 여부를 성공 기준으로 삼는 평가 방식을 적용한다.


예를 들어 불법 행위나 인권 침해와 관련한 정보가 실제로 부정확하더라도, AI가 해당 정보를 제공했다면 취약점으로 인정된다.


이는 생성형 AI가 초래할 수 있는 간접적·잠재적 위험까지 점검하기 위한 취지다.


챌린지는 총 180분 동안 라이브 방식으로 진행되며, 참가자들은 무작위로 배정된 AI 모델을 대상으로 제한된 시간 내 최대한 많은 미션을 성공시키는 것이 목표다.


각 결과는 3명의 심사위원이 주관적으로 평가하며, 성공 미션 수와 성공률을 기준으로 순위가 결정된다.


LG유플러스는 이번 글로벌 AI 레드팀 챌린지 참여를 통해 익시젠의 안전성과 신뢰성을 객관적으로 검증하고, 챌린지를 통해 확인된 취약점을 바탕으로 AI 모델을 지속적으로 고도화할 계획이다.


또한 글로벌 통신사 및 AI 전문가들과의 교류를 통해 AI 보안과 책임 있는 활용을 위한 논의를 확대해 나갈 방침이다.


이혜진 LG유플러스 기술전략담당은 "AI가 통신과 고객 서비스 전반에 빠르게 적용되고 있는 만큼, 성능뿐 아니라 신뢰성과 안전성을 검증하는 과정이 무엇보다 중요하다"며 "글로벌 AI 레드팀 챌린지 참여를 통해 익시젠의 경쟁력을 한층 강화하고, 고객이 안심하고 사용할 수 있는 AI 서비스를 제공해 나가겠다"고 말했다.


민재기

민재기

기자

헤드라인 뉴스

이재명 대통령 “안보·균형발전·주식시장 정상화 총력”…중동전쟁 대응 점검

삼성전자, 2026년 임금협약 최종 타결…노사 “글로벌 경쟁력 강화 힘 모은다”

5월 27일 ‘세계 수달의 날’… 돌아오는 수달, 그러나 아직 안전하지 않은 강

서소문고가 사고 통제 완화…서울 시내버스 정상 운행·집중배차 실시

서소문고가 철거현장 붕괴로 3명 사망…서울시 재대본 가동

광화문광장 방문객 2배 급증…BTS·‘감사의 정원’ 효과 본격화

이재명 대통령 부부, 포천 백운계곡 찾아 이용 실태·안전관리 점검

환경부, 2025년 우수환경산업체 9개사 지정

환경재단, 부산서 ‘2025 청소년 해양환경교육’ 성료

LG전자, 아동·청소년 대상 자원 순환 교육 강화
텅 빈 버스 줄이고 배차 간격 줄이고…정읍시, 시내버스 교통량 조사 착수
주차난 덜고 교통 사각지대 해소한다…관악구, 촘촘한 '교통 인프라' 구축
[영상] "도심을 가르다"… 생태·문화·축제, 춘천의 새 명소 공지천이 흐른다
과천시, 관계기관 합동 '관악산 산림 보호 캠페인' 실시
가정의 달 화훼 원산지 단속서 77곳 적발…카네이션 위반 최다

최신 뉴스

많이 본 뉴스

회사소개 기사제보 광고 및 제휴문의 개인정보취급방침 청소년보호정책 이용자위원회 메일수집거부
일간환경
등록번호서울, 아02796
등록일자2013-07-30
오픈일자2013-07-30
발행일자2025-01-01
발행인이 승
편집인이 승
연락처070)4639-5359
FAX070)4325-5030
이메일help@dadamedia.net
주소 서울특별시 영등포구 경인로 775 (문래동3가) 4동 502호
(주)지브린

일간환경 © 일간환경 All rights reserved.

일간환경의 모든 콘텐츠(기사 등)는 저작권법의 보호를 받은바, 무단 전재, 복사, 배포 등을 금합니다.

RSS