[만물상] AI 잡는 AI
일러스트=이철원
영화 ‘캐치 미 이프 유 캔’은 1960년대 희대의 사기꾼 프랭크 아비그네일 주니어의 실화를 다룬 작품이다. 그는 미국과 유럽을 넘나들며 250만달러어치 위조 수표를 남발해 FBI의 끈질긴 추격을 받았다. 자격증 위조와 능란한 거짓말로 조종사, 의사, 변호사, 수사관 행세를 하며 갖가지 사기를 일삼았다. 그(리어나도 디캐프리오)를 뒤쫓는 FBI 요원(톰 행크스)의 분투는 자기보다 한 수 위 가짜를 쫓는 진짜의 아이러니였다.
▶영화 같은 일이 과학계에서도 벌어지고 있다. 과학 논문에 인공지능(AI)을 활용하는 사례가 급증하고, 이를 잡아내기 위한 ‘판별 AI’가 잇따라 개발되고 있는 것이다. AI 특유의 글쓰기 패턴처럼 흔적이 남아 있는 미세한 ‘AI 지문’을 탐지해내는 방식이다. 실제로 2023년 철회된 과학 논문이 1만건을 넘어섰는데, 그 상당수가 판별 AI에 의해 적발된 것이라고 한다.
▶‘AI 보안관’의 추격을 뿌리치려 딥페이크 기술도 진화를 거듭한다. 이젠 사람 얼굴에 흐르는 ‘심장 박동의 흔적’까지 흉내 내는 수준에 이르렀다. 딥페이크가 혈류 흐름을 재현해 실제처럼 영상 속 인물의 얼굴에 심장 박동 징후가 나타나게 한다. ‘진짜처럼 보이기’에서 ‘진짜처럼 살아 움직이기’로 나아간 셈이다. 이러한 생체 신호가 있는지를 찾아내는 기존의 판별 AI로는 가짜 얼굴 영상을 가려내기 어렵게 됐다.
▶AI를 AI가 잡으러 가는 추격전은 각 분야에서 벌어지고 있다. KAIST·국가보안기술연구소 팀은 AI가 생성한 온라인 댓글을 탐지해내는 기술을 개발했다. AI의 글쓰기 특성을 찾아내 댓글의 필자가 사람인지 AI인지를 98% 정확도로 판별해낸다. LG유플러스는 스마트폰으로 걸려온 전화 속 목소리가 AI로 위·변조한 딥보이스(가짜 목소리)인지 5초 내 식별해 통화 중인 고객에게 알려주는 서비스를 내놓았다. AI 보이스피싱을 막아내는 방패에 AI 기술을 적용한 것이다. 가족의 목소리는 물론 얼굴 영상까지 위조해 믿을 것이 없게 된 세상에서 AI 방패가 큰 도움이 될 듯하다.
▶미국에선 블루북(푸른 표지의 줄 노트) 판매량이 급증하고 있다. AI를 활용한 부정행위를 막기 위해 대학들이 학생들에게 블루북에 일일이 손으로 쓰도록 하는 주관식 평가를 실시하고 있기 때문이다. ‘창과 방패’의 끝없는 싸움이 될 AI 시대의 기술 대결이 결국엔 AI를 아예 사용하지 않는 ‘AI 청정 구역’을 설정하는 방식으로 절충될 수도 있다. 쫓기던 AI와 쫓는 AI에는 숨 고르는 시간이 될 것이다.
곽수근 논설위원·테크부 차장