[디지털정보위][성명] 경호 목적 군중 감시 인공지능 시스템 개발을 당장 중단하라

언론보도(2025년 10월 21일자 경향신문)에 따르면, 윤석열 정부 당시 대통령 경호실과 과학기술정보통신부가 ‘AI 기반 전영역 경비안전 기술 개발’ 사업을 진행하여, 경호 목적으로 군중을 감시하는 인공지능 사업이 추진되었고, 이에 따라 한국전자통신연구원(ETRI) 및 민간 기업들이 관련 기술을 개발 중인 것으로 확인되었다. 

한국전자통신연구원(ETRI)이 개발 중인 기술은 실시간으로 군중의 행동 패턴을 분석해 이상 징후를 탐지하고, 이동형 카메라로 생체 신호를 인식해 긴장도를 분석하는 것이다. 개발 중인 기술의 핵심은 위해(危害) 상황을 사전에 예측·차단하기 위하여 원거리 영상에서 불특정 다수인의 패턴을 분석하고, 이상 행동을 탐지(시선 방향 추정, 행동 추정)하는 것이며, 생체신호 인식 및 긴장도 분석 기술 개발까지 포함되어 있다. 국가기관에 의하여 불특정 시민의 행동 및 감정 인식을 분석하여 추적·통제하는 인공지능 감시시스템 개발이 진행되고 있다는 사실이 공식적으로 확인된 것이다. 

해당 시스템이 활용되면, 불특정 다수의 시민이 스스로 자각하지 못하는 사이에 감시의 대상이 되고, 개인의 감정 상태까지 국가권력에 의하여 프로파일링 되어 범죄 예측이 이루어지게 된다. 해당 시스템에 노출된 개인의 일상적인 행동이나 고유의 감정상태 마저 국가기관에 의하여 실시간으로 분석과 추적의 대상이 된다는 것이다. 나아가 해당 인공지능 시스템의 분석과 추론 결과만을 근거로 시민이 잠재적 범죄인으로 취급되고 국가 공권력 행사의 대상이 될 위험성도 있다. 

우리 위원회는 인공지능 기술을 통하여 국가권력, 직장, 교육현장 등에서 시민을 감시하고 통제하는 것에 대하여 지속적으로 우려를 표명해 왔다. 권력에 의한 감시는 시민의 사생활의 자유와 개인정보자기결정권, 표현의 자유를 제한하고 근본적으로 인간의 존엄성을 훼손할 수 있으며, 위축 효과를 초래하여 민주사회의 근간을 위태롭게 할 수 있기 때문이다.

이러한 이유로 유럽연합의 인공지능기본법(EU AI Act) 제5조 금지된 AI 관행(Prohibited AI Practices)은 법 집행 목적으로 공개적으로 접근 가능한 공간에서 ‘실시간’ 원격 생체 인식 시스템을 사용하는 것에 대하여 엄격하게 필요성이 인정되는 극히 예외적인 상황을 제외하고  금지하고 있으며, 예외 상황의 경우에도 엄격한 통제제도를 규정하고 있다. 

유엔 인권최고대표는 2021년 특정 개인을 실시간으로 추적하는 ‘실시간 원격 얼굴 인식 기술’의 위험성에 대하여 강한 우려를 표명하였고, 공공장소에서 이러한 기술의 사용을 중지할 것을 각 국에 권고 한 바가 있으며, 우리나라 국가인권위원회에서도 2022년 12월 15일  불특정 다수를 대상으로 하는 ‘실시간 원격 얼굴인식 기술’을 공공장소에서 사용하는 것은 기본권에 대한 침해의 위험성이 매우 높으므로 국가에 의한 실시간 원격 얼굴인식 기술의 도입⋅활용을 원칙적으로 금지해야 한다는 권고를 하였다.

시민사회는 인공지능기본법 제정안을 제안하면서 인공지능 감시시스템의 위험성을 경고하고 원거리에서 사람을 식별하기 위한 목적으로 생체정보의 분석·활용에 사용되는 인공지능을 ‘고위험 인공지능’으로 규정하여 엄격한 통제를 받도록 요구한 바 있다. 하지만 현행 인공지능기본법에는 권력에 의한 감시시스템을 규제할 수 있는 어떠한 조항도 포함되지 못하였으며, 시행령 초안 역시 이러한 위험성을 통제할 수 없는 내용으로 구성되어 있다. 이러한 제도적 요구가 반영되지 않은 상황에서 지난 윤석열 정부에서 국가 주도로 생체 인식 기술을 통한 인공지능 감시시스템 개발을 시작하였다는 점은 심히 우려스러운 부분이고, 지금까지 개발이 진행 중인 사정은 매우 중대한 상황으로 판단된다.

시민의 권리를 제한하는 것은 그 목적이 공공을 위한 것이라 할지라도 과잉금지원칙에 따라 이루어져야 한다. 국가는 공공의 목적을 달성하기 위한 다른 수단이 있을 경우에는 시민의 권리를 덜 제한하는 방식과 수단을 선택해야 하고, 시민의 기본권을 본질적으로 침해하지 않는 제도가 마련되어야 한다.

우리 위원회는 현재 국가 주도로 진행되고 있는 감시시스템 개발이 과연 필요한 것인지 묻지 않을 수 없으며, 국가권력이 이처럼 AI기술을 시민에 대한 감시·통제 수단으로 활용할 경우 시민의 기본권 침해를 방지할 제도적 장치가 부재하다는 점과 결국 우리 사회가 감시사회로 전환될 위험이 크다는 점을 지적하지 않을 수 없다.

따라서 우리 위원회는 아래와 같이 요구한다.

첫째, 현재 어떠한 제도적 통제도 받지 않는 상태에서 진행되고 있는 해당 감시시스템 개발은 당장 중지하여야 한다.

둘째, 해당 사업 추진 과정과 관련된 모든 정보를 투명하게 공개하고, 해당 시스템 개발의 필요성과 위험성에 대한 사회적 공론의 장을 열어야 한다.

셋째, 권력기관(직장, 학교 등 포함)에 의하여 시민에 대한 감시 및 감정 인식이 이루어지는 경우와 같이 기본권 침해 위험이 큰 인공지능 개발 및 활용에 대하여  통제 장치를 인공지능기본법에 마련해야 한다.

 
2025. 10. 22.