“얼굴 인식해 공격하는 AI… 방패를 찾아라”

지난달 25일 대전 유성구에 있는 김창익 KAIST 전기전자공학부 교수 연구실. 특수한 무늬의 방역 마스크를 착용한 연구팀 관계자가 영상 인식기 앞에 서자 인공지능(AI) 안면 인식 시스템이 해당 인물 식별에 오류를 나타냈다. 안면 인식 시스템은 일반 마스크로 얼굴을 절반 정도 가렸을 때에도 인물을 정확하게 인식하지만 연구팀이 제작한 특수 무늬 때문에 잘못된 판단을 내린 것이다.

김 교수 연구팀은 특수 무늬 패치 적용 차량도 연구 중이다. 패치를 부착하면 AI가 차량을 다른 사물이나 동물로 인식해 무인 공격을 피할 수 있다. 이 같은 교란 기술을 연구하는 이유를 묻자 김 교수는 “AI를 활용한 통제, 공격 기술은 우리가 이미 마주하고 있는 실제 위협이기 때문”이라고 설명했다

김 교수 연구 외에도 국내외에서 불법 AI 드론을 탐지하는 기술, 생성형 AI를 이용한 동시다발적 사이버 공격을 막기 위한 시스템 개발 등이 이뤄지고 있다