2026-09-01 온라인뉴스팀
독일 미디어 아티스트 지몬 베커트(Simon Weckert) 신작 ‘디지털 카무플라주’ 공개… 오픈소스 YOLO 객체 감지 AI 완벽 무력화 실증
[익스퍼트인사이트 온라인뉴스팀] 인공지능(AI) 기반의 지능형 폐쇄회로(CC)TV와 컴퓨터 비전 감시 시스템이 전 세계 도시의 공공장소를 촘촘히 옭아매고 있는 가운데, 특수하게 설계된 기하학적 패턴의 셔츠 한 장으로 첨단 객체 감지 인공지능의 눈을 완벽하게 속여 넘긴 파격적인 실험이 공개되어 글로벌 테크 산업계와 시민사회에 거대한 충격을 안겨주고 있다. 횡단보도를 건너거나 광장을 지나가는 수많은 보행자와 자전거 이용자들은 AI에 의해 빠짐없이 ‘인간(PERSON)’이라는 초록색 바운딩 박스로 포착되는 반면, 이 셔츠를 입은 사람만은 AI 시스템의 시야에서 흔적도 없이 사라져 마치 디지털 투명인간이 된 듯한 실증 장면이 포착되면서 알고리즘 감시사회의 프라이버시 침해와 인공지능 비전 모델의 보안 취약성을 둘러싼 국제적 논쟁이 뜨겁게 달아오르고 있다.
글로벌 디자인 및 테크 플랫폼 ‘아키텍처 허브(Architecture Hub)’와 주요 기술 매체들에 따르면, 독일 베를린을 기반으로 활동하는 세계적인 미디어 아티스트이자 디자이너 지몬 베커트(Simon Weckert)는 최근 인공지능의 컴퓨터 비전 시스템을 교란하도록 정밀 설계된 의류 프로젝트인 ‘디지털 카무플라주(Digital Camouflage)’를 전격 발표했다. 이 프로젝트는 현대 인공지능 객체 감지 알고리즘이 사람의 형상을 인식할 때 의존하는 시각적 특징점(Feature Map)을 역이용하여, 옷감에 인쇄된 패턴 자체가 기계 학습 모델을 혼란에 빠뜨리는 ‘적대적 입력값(Adversarial Input)’으로 작동하도록 제작되었다.
실제 실험은 최근 독일 내에서 정부의 AI 기반 공공 비디오 감시 시스템 도입을 두고 프라이버시 침해 논란이 가장 뜨겁게 일었던 베를린의 주요 도심 광장 ‘코트부서 토어(Kottbusser Tor)’ 일대에서 진행되었다. 전 세계 컴퓨터 비전 분야에서 널리 활용되는 대표적인 실시간 오픈소스 물체 감지 딥러닝 모델 ‘YOLO(You Only Look Once)’를 적용해 촬영된 현장 영상에서, 인공지능은 거리를 오가는 남녀노소 모든 행인과 자전거 운전자들을 정확하게 감지해 ‘PERSON’ 라벨을 부여했다. 그러나 선인장과 화려한 구체 패턴이 불규칙하게 배열된 ‘디지털 카무플라주 셔츠’를 착용한 인물만큼은 AI가 사람으로 전혀 식별하지 못하고 완전히 배경으로 처리하는 기이한 현상이 선명하게 기록되었다.
이 같은 현상이 가능한 기술적 원리는 인공지능 분야의 핵심 난제로 꼽히는 ‘물리적 적대적 공격(Physical Adversarial Attack)’에 기인한다. 딥러닝 기반의 합성곱 신경망(CNN)이나 비전 트랜스포머(ViT) 모델은 인간의 뇌처럼 사물의 전체적인 맥락을 유기적으로 이해하는 것이 아니라, 수백만 장의 이미지 데이터 학습을 통해 특정 픽셀 배열, 경계선, 색상 대비, 명암 비율 등의 통계적 패턴을 조합하여 사물을 분류한다. 지몬 베커트가 고안한 패턴은 사람의 신체 윤곽이나 옷의 질감이 가진 본래의 시각 특징을 왜곡하고 신경망의 은닉층(Hidden Layer) 연산에서 오류를 증폭시킴으로써, AI가 해당 대상을 ‘인간’이라는 범주로 분류할 확률 점수(Confidence Score)를 임계치 이하로 급격히 떨어뜨리도록 정밀하게 계산된 것이다.
이번 프로젝트를 주도한 지몬 베커트는 과거 2020년 99대의 스마트폰을 손수레에 싣고 베를린의 한산한 도로를 천천히 걸어가며 구글 지도(Google Maps) 서버에 극심한 가상 교통 정체를 일으켜 실제 내비게이션 경로를 마비시켰던 ‘구글 맵스 핵(Google Maps Hack)’ 퍼포먼스로 전 세계적인 명성을 얻은 바 있는 인물이다. 기술이 인간의 행동과 공간을 규정하는 권력 메커니즘을 예술적 방식으로 폭로해 온 그는, 이번 ‘디지털 카무플라주’를 통해서도 국가와 기업이 구축한 첨단 알고리즘 감시 인프라가 실상은 얼마나 취약한 기초 위에 서 있는지를 극명하게 드러냈다.
물론 베커트는 이 셔츠가 현실 세계의 모든 안면인식 기술이나 베를린 정부의 특정 관제 시스템, 적외선 및 다중 모달(Multi-modal) 감시망을 무조건적으로 무력화할 수 있는 ‘만능 방패’는 아니라는 점을 분명히 했다. 각도와 조명, 카메라 해상도, 사용하는 신경망 가중치 모델에 따라 탐지 결과가 달라질 수 있다는 한계가 존재한다. 그러나 이 실험의 진정한 가치는 완벽한 회피 기술의 상용화가 아니라, 수십조 원의 예산이 투입되어 도시 전역에 깔리고 있는 최첨단 컴퓨터 비전 시스템이 물리적인 옷감 패턴 몇 조각에 너무나도 손쉽게 농락당할 수 있다는 ‘딥러닝의 본질적 취약성’을 시각적으로 명백히 증명했다는 점에 있다.
인공지능 보안 전문가들은 이번 사태가 공공 감시뿐만 아니라 자율주행차, 국방 무인 시스템, 로보틱스 등 안전이 직결된 AI 응용 분야 전반에 중대한 경종을 울리고 있다고 평가한다. 자율주행 차량의 객체 인식 카메라가 보행자가 입은 특정 옷 패턴이나 사물에 부착된 스티커로 인해 행인을 장애물로 인지하지 못할 경우 끔찍한 인명 사고로 이어질 수 있으며, 군사 작전에서도 적대적 위장술이 전장의 AI 판단을 마비시킬 수 있기 때문이다. 알고리즘의 ‘견고성(Robustness)’과 ‘적대적 공격 방어(Adversarial Defense)’ 기술이 확보되지 않은 채 무분별하게 도입되는 AI 인프라는 심각한 안보·안전 참사를 부를 수 있다는 지적이다.
동시에 시민사회와 인권 단체들은 이번 실험을 계기로 공공장소에서의 ‘감시당하지 않을 권리’와 ‘알고리즘적 저항권’에 대한 논의를 재점화하고 있다. 유럽연합(EU)이 세계 최초로 ‘AI 규제법(EU AI Act)’을 제정하며 실시간 공공 안면인식 사용을 엄격히 제한하고 있음에도 불구하고, 치안과 범죄 예방이라는 명분 아래 시민들의 일상 동선과 신체 정보를 24시간 추적·분석하는 ‘빅브라더 감시 사회’로의 전환이 가속화되고 있다는 비판이다.
지몬 베커트의 ‘디지털 카무플라주’는 인간이 기술의 완벽성을 맹신할 때 발생하는 맹점을 통렬하게 꼬집는 가장 날카로운 시각적 풍자다. 알고리즘이 모든 인간을 데이터와 좌표로 환원하려는 21세기 감시 문명의 한복판에서, 화려한 패턴 셔츠 한 장을 걸치고 AI의 감시망을 유유히 비웃는 한 인간의 뒷모습은 기술의 통제력과 인간의 자유 사이에서 우리가 마주한 진정한 프라이버시의 가치가 무엇인지를 묵직하게 되묻고 있다.
댓글 남기기