안전성보안 2026년 업데이트

프롬프트 인젝션(Prompt Injection)

정의

모델의 입력에 악의적인 지시를 직접 또는 검색된 콘텐츠를 통해 몰래 끼워 넣어, 시스템 프롬프트를 무력화하거나 모델의 동작을 탈취하는 공격입니다.

모델은 컨텍스트 안의 모든 텍스트를 잠재적인 지시로 취급하기 때문에, 공격자가 조작한 텍스트가 의도된 동작을 뒤엎을 수 있습니다. Perez와 Ribeiro(2022)는 목표 탈취(goal hijacking) 및 프롬프트 유출(prompt leaking) 공격을 시연했고, Greshake 외(2023)는 모델이 나중에 검색해 오는 웹 페이지나 문서에 악의적인 지시를 심어 두는 간접 프롬프트 인젝션을 보여 주었습니다.

OWASP는 프롬프트 인젝션을 LLM 애플리케이션의 최대 보안 위험으로 꼽고 있으며, 이에 대한 방어는 아직 완전한 해결책이 없는 활발한 연구 분야입니다.

참고문헌

이 정의의 근거가 된 1차 자료, 동료 심사 자료 및 기록 자료입니다.

Ignore Previous Prompt: Attack Techniques For Language Models
Perez, F., & Ribeiro, I. (2022). NeurIPS 2022 ML Safety Workshop.
Not what you've signed up for: Compromising Real-World LLM-Integrated Applications with Indirect Prompt Injection
Greshake, K., Abdelnabi, S., Mishra, S., Endres, C., Holz, T., & Fritz, M. (2023). Proceedings of the 16th ACM Workshop on Artificial Intelligence and Security (AISec '23).

사전 및 백과사전 항목

이 항목 인용하기

MultipleChat. "프롬프트 인젝션(Prompt Injection)." MultipleChat AI 및 LLM 용어집, 2026. https://multiple.chat/ai-glossary/prompt-injection

관련 용어

시스템 프롬프트(System Prompt)
대화가 시작되기 전에 모델의 역할, 어조, 규칙을 정하는 숨겨진 최우선 지침으로…
프롬프트(Prompt)
프롬프트는 응답을 얻기 위해 AI 모델에 입력하는 내용입니다. 프롬프트 엔지니어링은…하는 작업입니다
얼라인먼트(정렬)
AI 시스템의 행동을 인간의 의도와 가치에 맞추는 작업으로, 모델이 지시를…
전체 용어집으로 돌아가기

실제로 확인해 보기

같은 프롬프트를 ChatGPT, Claude, Gemini, Grok, Perplexity에서 나란히 실행해 보세요. 내 파일을 컨텍스트로 활용하고, 답변을 서로 교차 검증할 수 있습니다.

MultipleChat 무료로 사용해 보기

더 알아보기

관련 AI 가이드와 다음 단계

유료 요금제 보기
비교

AI 모델 비교

같은 프롬프트를 여러 모델에 보내고 어떤 답변이 버티는지 확인하세요.

 휴머나이저

AI 휴머나이저

AI 초안을 다른 모델로 다시 써서 자연스럽게 읽히게 만드세요.

 무료

무료 AI 휴머나이저

유료 요금제로 넘어가기 전에 AI 문장을 무료로 다듬어 보세요.

 탐지기

AI 탐지기

AI 특유의 패턴을 찾아내고 손봐야 할 부분만 고치세요.

 가이드

AI 탐지 회피

탐지기가 무엇을 측정하는지 이해하고 정직하게 쓰는 법을 익히세요.

 워크스페이스

올인원 AI

ChatGPT, Claude, Gemini, Grok, Perplexity를 하나의 작업 공간에서.

 무료 도구

무료 AI 도구

무료 도구로 시작하고, 멀티 모델 작업이 시간을 아껴줄 때 유료로 옮기세요.