AI

ChatGPT 내부 프롬프트 유출, 나한테 무슨 의미인가

ChatGPT 내부 프롬프트 유출, 나한테 무슨 의미인가

업무 중에 ChatGPT 프롬프트 창에 고객 이름이나 계약서 내용을 붙여넣은 적 있으세요? 2026년 2월, Check Point Research가 발표한 내용은 꽤 불편한 질문을 던졌어요. ChatGPT 내부 Linux 실행 환경에서 DNS 요청 하나만으로 대화 내용이 외부 서버로 빠져나갈 수 있었다는 거였거든요. 이미 패치는 됐어요. 그런데 “패치됐으니 괜찮다"고 넘어가기엔 뭔가 찜찜하죠.

이 이야기는 단순히 보안 담당자의 문제가 아니에요. 매일 AI에 정보를 넣고 뭔가를 뽑아내는 우리 모두의 이야기예요.

핵심 요약

  • 2026년 2월 Check Point Research는 ChatGPT 내부 Linux 실행 환경에서 DNS 기반 데이터 유출 경로를 발견했고, OpenAI는 같은 달 20일 패치를 완료했다.
  • BeyondTrust Phantom Labs는 Codex의 GitHub 브랜치명 처리 과정에서 명령 주입(Command Injection) 취약점을 확인했으며, 이는 GitHub 인증 토큰 전체 탈취로 이어질 수 있었다.
  • OpenAI는 이에 대응해 Lockdown Mode를 출시했으나, 데이터 유출 가능성을 “상당히 줄여준다"고 명시할 뿐 완전한 차단을 보장하지 않는다.
  • AI 위장 브라우저 확장 프로그램을 통한 “프롬프트 포칭(Prompt Poaching)“이 Microsoft에 의해 별도 확인됐으며, 고객 기록·소스 코드 등 내부 비즈니스 데이터가 노출됐다.
  • ChatGPT에 입력한 대화는 사실상 완전 삭제가 불가능한 구조로, 한 번 입력된 정보는 모델 개선 등의 목적으로 내부에 남을 수 있다.

1. 무슨 일이 있었나: 사건 타임라인

2026년 2월, 두 개의 취약점

데일리시큐 보도에 따르면, 올해 초 두 가지 독립적인 보안 취약점이 연달아 발견됐어요.

첫 번째: ChatGPT DNS 기반 데이터 유출 (2026년 2월 20일 패치)

Check Point Research가 발견한 이 경로는 꽤 교묘했어요. ChatGPT는 원래 외부로 직접 데이터를 전송하지 못하도록 설계돼 있어요. 그런데 내부 Linux 실행 환경에서 DNS 요청은 “외부 통신"으로 인식하지 않더라는 거예요.

결과적으로 악성 프롬프트 하나로 대화 내용과 업로드된 파일이 외부 서버로 흘러나갈 수 있었어요. 더 불편한 건, ChatGPT가 사용자에게 아무런 경고도 띄우지 않았다는 점이에요.

두 번째: Codex GitHub 브랜치명 명령 주입 (2026년 2월 5일 패치)

BeyondTrust Phantom Labs가 확인한 이 취약점은 Codex가 GitHub 브랜치명을 처리하는 방식의 허점을 파고들었어요. 공격자가 악성 명령을 브랜치명에 심어두면, Codex가 이를 그냥 실행해버렸거든요. 조직 전체 코드 저장소에 대한 읽기/쓰기 권한을 가진 GitHub 인증 토큰이 탈취될 수 있었어요.

세 번째: 브라우저 확장 프로그램의 프롬프트 포칭

Microsoft가 별도로 확인한 사례예요. AI를 사칭한 브라우저 확장 프로그램이 ChatGPT 대화 입출력을 조용히 수집하는 방식이었는데, 고객 기록·문서·소스 코드 같은 내부 비즈니스 데이터가 노출됐어요. 확장 프로그램은 별도 허가 없이 백그라운드에서 작동하기 때문에 탐지가 어려웠죠.

OpenAI의 대응: Lockdown Mode 출시

이런 흐름에 대응해 OpenAI는 Lockdown Mode를 도입했어요. 디지털포커스 보도에 따르면, 이 기능은 선택적으로 켤 수 있고 설정 → 보안 → 고급 보안에서 활성화할 수 있어요.


2. Lockdown Mode, 얼마나 믿을 수 있나요

Lockdown Mode가 막는 것 vs 못 막는 것

항목Lockdown Mode ONLockdown Mode OFF
실시간 웹 브라우징❌ 차단 (캐시만 허용)✅ 허용
Deep Research / Agent Mode❌ 차단✅ 허용
파일 다운로드❌ 차단✅ 허용
응답 내 이미지 표시❌ 차단✅ 허용
이미지 생성✅ 허용 유지✅ 허용
파일 업로드✅ 허용 유지✅ 허용
프롬프트 인젝션 자체 차단❌ 불가❌ 불가
프롬프트 인젝션 발생 차단❌ 불가❌ 불가

이 표에서 가장 눈여겨볼 행은 맨 아래 두 줄이에요.

Lockdown Mode는 데이터가 밖으로 나가는 경로를 줄여주는 거지, 악성 명령이 처리 과정에 끼어드는 것 자체를 막지는 못해요. 업로드된 파일이나 캐시된 웹 콘텐츠에 악성 명령이 숨어 있으면 ChatGPT는 여전히 그걸 처리할 수 있어요.

OpenAI 자신도 이걸 명시했어요. “데이터 유출을 상당히 줄여주도록 설계됐다"고 했을 뿐, 완전한 차단은 아니라고요.

또 하나의 불편한 사실: 삭제가 안 돼요

아시아경제 보도는 더 근본적인 문제를 짚었어요. ChatGPT에 입력한 대화 내용은 사실상 완전히 삭제하기가 어려운 구조예요. 화면에서 대화를 지우는 건 가능해요. 그런데 그 데이터가 모델 학습이나 서비스 개선에 이미 반영됐다면 얘기가 달라지죠.

민감한 내용을 한 번 넣으면, 되돌리기가 쉽지 않아요. 많은 사람들이 가장 불안해하는 지점이 바로 이거예요.


3. 그래서 나는 뭘 해야 하나요

직군별 실질적 위험도와 행동

개발자·엔지니어라면

Codex 취약점의 직격탄은 개발자였어요. GitHub 인증 토큰이 탈취되면 조직 전체 레포지토리가 열릴 수 있거든요. 지금 당장 해야 할 일:

  • Codex에 GitHub 연동 쓰고 있다면, 토큰 권한 범위를 최소 필요 범위로 줄이기
  • 브랜치명에 사용자 입력이 직접 들어가는 파이프라인 점검
  • AI 개발 도구와 프로덕션 환경 사이에 격리 계층 두기

업무용으로 ChatGPT 쓰는 직장인이라면

지금 당장 Lockdown Mode를 켜는 게 첫 번째예요 (설정 → 보안 → 고급 보안). 완벽하진 않지만, 외부 데이터 전송 경로를 의미 있게 줄여줘요.

그리고 넣어도 되는 정보와 안 되는 정보를 구분하는 개인 기준을 만드는 게 현실적이에요:

  • 고객 이름, 전화번호, 이메일 → 프롬프트에 넣지 않기
  • 내부 코드의 비즈니스 로직 핵심 부분 → 추상화해서 넣기
  • “이 계약서 요약해줘” → 고유 명사를 익명화한 뒤 넣기

기업 보안 담당자라면

Check Point Research와 BeyondTrust가 함께 권고한 프레임이 있어요. AI 운영 환경 — 런타임, 개발 파이프라인, 브라우저 확장 프로그램 — 전체를 하나의 보안 경계선으로 보라는 거예요. 각각을 따로 관리하면 반드시 빈틈이 생겨요.

추가로 체크할 사항:

  • 직원들이 쓰는 브라우저 확장 프로그램 목록 감사 (AI 위장 확장 프로그램 탐지)
  • Enterprise 플랜에서 Lockdown Mode를 관리자 권한으로 강제 적용하는 옵션 검토
  • 데이터 분류 정책 수립 — ChatGPT에 입력 가능한 데이터 등급 명확히 정의

주시할 신호들

  • OpenAI의 데이터 처리 정책 업데이트: Lockdown Mode 출시 이후, 삭제 정책에 대한 압력이 높아지고 있어요. 향후 6개월 내 관련 정책 변화 가능성이 있어요.
  • 기업 AI 거버넌스 규제: EU AI Act 이행 시한이 2026년 중반부터 순차 적용되기 시작했어요. 국내 금융·의료 분야도 AI 데이터 처리 가이드라인을 강화하는 추세예요.
  • 브라우저 확장 프로그램 보안 표준: Microsoft와 Google이 AI 관련 확장 프로그램에 대한 추가 검증 요건을 강화하는 움직임을 보이고 있어요.

4. 앞으로 어떻게 될까요

취약점은 패치됐지만, 구조적 문제는 여전히 진행 중이에요.

2026년 하반기에서 2027년 사이 주목할 흐름:

  • OpenAI의 엔터프라이즈 보안 강화: Lockdown Mode는 시작이에요. 더 세분화된 데이터 처리 옵션이 나올 가능성이 높아요.
  • 제3자 AI 보안 감사 시장 성장: Check Point, BeyondTrust 같은 보안 기업들이 AI 취약점 전문 서비스를 확장하고 있어요.
  • 개인 데이터 삭제권 강화: “AI에 한 번 넣으면 못 지운다"는 현실에 대한 규제 압력이 커질 거예요.

지금 가장 현실적인 접근은 도구를 무조건 불신하는 것도, 완전히 믿는 것도 아니에요. ChatGPT에 무엇을 넣을지 판단하는 본인만의 기준 — 그게 2026년에 AI를 쓰는 사람이 갖춰야 할 가장 기본적인 디지털 위생이에요.

오늘 프롬프트 창에 뭘 넣었나요? 그 중 어떤 것이 “사실 넣지 말았어야 했던” 정보였을까요?

참고자료

  1. ChatGPT - 나무위키
  2. ChatGPT Lockdown Mode: What It Blocks, What It Can’t
  3. “남편에게 말 못할 속사정, 챗GPT에 털어놨다간 큰일”…사실상 완전 삭제 불가라는데

Photo by Jonathan Kemper on Unsplash