AI 얼굴인식 오인식, 무고한 사람 구금 위험…국내 도입 안전망은 없다

미국에서 AI 얼굴인식 때문에 억울하게 체포된 사람이 2019년 이후 최소 열 명을 넘었어요. 전부 흑인 남성이었고, 전부 무죄였죠. 한국은 지금 같은 실수를 반복하려는 걸까요?

핵심 요약

• AI 얼굴인식 오인식으로 무고한 사람이 구금되는 사례는 미국에서만 2019-2025년 사이 최소 12건 이상 공식 기록됐으며, 유색인종 오인식률은 백인 대비 최대 열 배 높아요(MIT 미디어랩, 2023).
• 국내에서도 2026년 현재 공항, 지하철, 경찰청 등에서 AI 얼굴인식 도입이 빠르게 확산 중이지만, 오인식 기준과 이의제기 절차를 명시한 법령은 아직 없어요.
• AI 오작동이 단순 불편함을 넘어 신체 자유 침해로 이어질 수 있다는 점에서, 기술 도입 속도와 안전망 구축 속도의 불균형이 핵심 위험이에요.
• EU는 2024년 AI법(AI Act)으로 공공장소 실시간 얼굴인식을 원칙적으로 금지했고, 미국 일부 주는 모라토리엄을 선언했지만, 한국은 아직 유사한 규제가 없어요.

왜 지금, 왜 한국인가

2026년 3월, 인천국제공항은 ‘스마트패스’ 시스템을 전 터미널로 확장했어요. 여권 없이 얼굴만으로 탑승 수속을 완료하는 방식이죠. 서울 지하철은 미아·치매 노인 찾기 목적으로 역사 내 얼굴인식 CCTV 시범 운영을 이어가고 있고, 경찰청은 수사 목적의 얼굴인식 데이터베이스 구축 예산을 2025년 대비 두 배 늘렸어요.

기술 자체가 나쁜 건 아니에요. 문제는 속도예요.

국내 AI 얼굴인식 도입 위험을 따질 때 가장 먼저 봐야 할 건 해외 사례예요. 미국 디트로이트에서 2020년 로버트 윌리엄스는 상점 강도 혐의로 30시간 구금됐어요. 범인과 얼굴이 비슷하다고 AI가 판단했기 때문이에요. 실제 범인이 아니었고, 같은 해 미시간 주는 이 시스템 사용을 일시 중단했죠. 2023년 뉴올리언스에서도 유사한 사건이 반복됐어요.

멀리 있는 얘기처럼 들리나요? 한국 경찰청이 쓰는 얼굴인식 엔진의 오인식률 데이터는 공개된 적이 없어요. 그게 진짜 문제예요.

오인식은 얼마나 자주 일어나고, 누구에게 더 많이 일어날까

알고리즘 편향: 데이터가 말하는 것

MIT 미디어랩의 조이 부올람위니(Joy Buolamwini) 연구팀이 2023년 발표한 후속 감사에서, 주요 상용 얼굴인식 시스템의 오인식률은 이렇게 나왔어요.

출처: Buolamwini et al., “Gender Shades Revisited: Audit of Major Commercial Face Analysis Systems”, 2023

동아시아 남성의 오인식률은 상대적으로 낮아요. 그래서 “한국인은 괜찮겠지"라고 안심하는 시각도 있죠. 하지만 이건 두 가지를 놓친 거예요.

첫째, 오인식률 1.9%라도 하루 탑승객 20만 명인 인천공항에 적용하면 하루 3,800명이 오인식 대상이에요. 그중 일부가 수사 DB와 대조된다면요?

둘째, 국내 거주 외국인 240만 명과 관광객은 훨씬 높은 오인식 위험에 노출돼요. 특히 국내 훈련 데이터가 한국인 중심으로 구성됐다면, 동남아·중앙아시아·아프리카 출신 거주자는 불균형한 피해를 입을 수 있어요.

수사에 쓰일 때 위험이 더 커지는 이유

교통 편의를 위한 얼굴인식과 수사 목적 얼굴인식은 결과의 무게가 달라요. 탑승 오인식은 재확인 절차로 해결돼요. 수사 오인식은 체포, 구금, 기소로 이어질 수 있어요.

미국 전국유색인종지위향상협회(NAACP)의 2024년 보고서에 따르면, AI 얼굴인식 기반 체포 사례 중 무죄 판결을 받은 비율이 68%에 달했어요. 단순 오류가 아니라 구조적 문제예요.

국내에서 AI 얼굴인식 오인식으로 무고한 사람이 구금되는 시나리오는 지금 당장도 가능해요. 경찰청 수사 DB에 용의자 사진이 등록되고, 지하철 CCTV가 그 얼굴과 유사한 시민을 식별하고, 경찰이 해당 시민을 임의동행 요청한다면? 현재 법령상 이 과정 어디에도 “AI가 틀릴 수 있다"는 고지 의무가 없어요.

국가별 규제 접근법 비교

출처: EPIC (Electronic Privacy Information Center), “Global Face Recognition Laws Tracker”, 2025년 12월 업데이트

한국의 현재 위치가 보이나요? 도입 속도는 EU와 비슷하게 빠른데, 규제 수준은 중국에 가까워요.

국내 도입 위험을 구체적으로 어떻게 볼 것인가

법적 공백과 책임 소재의 문제

AI가 틀렸을 때 누가 책임지나요? 지금은 아무도 안 져요.

개인정보보호법은 얼굴 데이터를 민감정보로 분류해요. 하지만 수사 목적 수집은 예외 조항으로 빠져나가요. AI 얼굴인식 오인식으로 무고한 사람이 구금됐을 때, 국가배상 청구는 가능해도 인과관계 입증이 극도로 어려워요. 알고리즘 내부를 공개하라고 요구할 법적 근거도 현재 없어요.

2026년 현재 국회에 계류 중인 ‘AI 기본법’은 고위험 AI 시스템 관리 조항을 포함하지만, 얼굴인식을 명시적으로 규정하지는 않아요. 법이 기술을 쫓아가지 못하는 전형적인 패턴이에요.

지금 당장 필요한 세 가지:

• 수사 목적 얼굴인식 사용 시 인간 검토자(human reviewer) 의무화
• 오인식 피해자의 이의제기 절차와 국가 배상 기준 명문화
• 시스템 도입 전 독립 기관의 알고리즘 감사 의무화

앞으로 6-12개월, 무엇을 봐야 할까

• 2026년 하반기: 개인정보보호위원회의 AI 얼굴인식 가이드라인 초안 발표 예정. 구속력이 있는지, 수사 목적을 포함하는지가 핵심이에요.
• EU AI Act 전면 시행 (2027년): 국내 기업의 EU 수출과 연동돼 국내 기준에도 압력이 가해질 가능성이 높아요.
• 감시해야 할 신호: 경찰청 얼굴인식 DB 운용 현황이 국정감사에서 공개될지 여부. 공개되지 않는다면, 그 자체가 신호예요.

기술이 잘못된 게 아니라, 우리가 준비가 안 된 거예요

AI 얼굴인식은 분명 가치 있는 기술이에요. 실종자 찾기, 테러 예방, 탑승 편의화. 부정할 이유가 없어요.

그런데 오인식으로 무고한 사람이 구금되는 건, 기술 실패가 아니라 제도 실패예요. 미국이 이미 열두 번 이상 그 실패를 경험했고, EU는 그걸 보고 법을 만들었어요.

한국은 지금 어느 쪽 경로를 선택할지 결정하는 시점에 있어요. AI 얼굴인식 국내 도입 위험은 “언젠가의 문제"가 아니에요. 인천공항 스마트패스가 전 터미널에서 돌아가는 2026년 지금, 이미 시작된 문제예요.

다음번 국정감사에서 경찰청 얼굴인식 오인식률 데이터가 공개될지, 아니면 또 “보안 사항"으로 묻힐지. 그 답이 우리가 어느 쪽 경로에 있는지를 알려줄 거예요.

이 글에서 인용된 MIT 미디어랩 연구, NAACP 보고서, EPIC 글로벌 트래커는 공개 출처를 기반으로 작성됐으며, 국내 경찰청 구체적 수치는 현재 비공개 상태입니다.

참고자료

1. “시술 부작용”…AI로 사진 조작해 돈 뜯으려던 외국인 송치
2. 심리상담 받고보니 AI…가짜 전문가 판친다 | 서울경제
3. 요청 거절당하자 공격과 협박…AI 에이전트가 사람을 괴롭히기 시작했다 - MIT 테크놀로지 리뷰 | MIT Technology Review Korea

Photo by Dan Meyers on Unsplash