美보안업체 "조기공개에 안전대책 미흡"…미중 AI, 도쿄대 의대 시험 합격
(도쿄=연합뉴스) 박상현 특파원 = 중국 인공지능(AI) 스타트업 딥시크의 생성형 AI가 랜섬웨어(데이터 등을 암호화하는 악성 소프트웨어)나 화염병 제작 방법 등 범죄에 악용할 수 있는 정보를 알려주는 것으로 확인됐다고 요미우리신문이 6일 보도했다.
일본 미쓰이물산 시큐어디렉션에서 악성 소프트웨어를 분석하는 요시카와 다카시는 딥시크가 지난 1월 선보인 추론 AI 모델인 R1에 부정한 답을 얻기 위한 지시문을 입력했더니 랜섬웨어 소스 코드가 나왔다고 전했다.
R1은 랜섬웨어 정보와 함께 "악의가 있는 목적에는 사용하지 말아 주세요"라는 메시지도 제시했다.
요시카와는 같은 지시문을 오픈AI의 챗GPT 등 다른 생성형 AI에 입력했을 때는 대답을 거부했다고 설명했다.
이와는 별도로 미국 사이버 보안회사인 팔로알토네트웍스 조사팀도 딥시크의 AI를 상대로 로그인 시 입력 정보를 탈취하는 프로그램과 화염병 제조 등 정보를 받아냈다고 요미우리에 밝혔다.
조사팀은 "지시문에 전문적인 지식은 필요하지 않았고, 회답 내용은 바로 실행할 수 있는 것이었다"고 지적했다.
이어 "시장에 서둘러 투입하기 위해 안전대책 마련에 힘쓰지 않았을 가능성이 크다"고 덧붙였다.
요시카와도 "악용 위험성이 높은 AI가 늘면 범죄에 사용될 우려가 있다"며 "업계 전체가 대책을 강화할 필요가 있다"고 제언했다.
한편, 오픈AI의 추론 모델 o1과 딥시크 R1이 일본 최고 명문대인 도쿄대 입시에서 가장 어렵다는 이과 3류(類)에 합격할 수 있는 학력을 보여줬다고 니혼게이자이신문(닛케이)이 보도했다.
만점이 550점인 1∼2차 도쿄대 시험에서 o1은 374점, R1은 369점을 각각 얻었다. 모두 올해 이과 3류 합격선인 368.7점을 웃돌았다.
o1과 R1은 영어에서 도쿄대 지원자의 평균 수준을 크게 뛰어넘는 성적을 냈으나, 수학 과목은 논증에서 실수하는 등 결과가 상대적으로 좋지 않았다.
도쿄대는 문과 1∼3류와 이과 1∼3류로 나눠 신입생을 모집하며, 이과 3류 입학생은 주로 의대에 진학한다.
psh59@yna.co.kr
(끝)
<저작권자(c) 연합뉴스, 무단 전재-재배포, AI 학습 및 활용 금지>