(서울=연합뉴스) 김현수 기자 = 인공지능(AI) 제품 분석 플랫폼 '얼라인' 운영사인 콕스웨이브는 자사의 거대언어모델(LLM) 관련 취약점 발견 연구 논문이 국제자연어처리학회(ACL) 메인 콘퍼런스에 채택됐다고 12일 밝혔다.

이번 논문을 통해 대화형 AI 모델의 장문 맥락 처리 시 발생하는 구조적 보안 취약점을 발견했다고 콕스웨이브는 설명했다.

특히, 최근 AI 업계에서 주목하는 '맥락 길이 확장'이 예상치 못한 안전성 리스크를 동반하고, 무의미한 텍스트가 반복될 경우 모델의 안전장치를 우회할 수 있는 점을 확인했다고 덧붙였다.

이는 정교한 해킹 공격 없이도 안전 매커니즘을 무력화할 수 있다는 의미라고 콕스웨이브는 전했다.

김주원 콕스웨이브 대표는 "연구를 통해 확인된 안전성 검증 역량을 얼라인에 적극 반영해 안전하고 신뢰할 수 있는 생성형 AI 생태계 구축에 더욱 기여하겠다"고 말했다.

hyunsu@yna.co.kr
(끝)
<저작권자(c) 연합뉴스, 무단 전재-재배포, AI 학습 및 활용 금지>