오늘 세션을 하나 했다. AI를 너무 사랑하는 동료들과 함께 어떻게 업무에 녹여서 쓰는지 본인의 워크플로우를 공유했고 원하시는 분들이 구글밋에 참석하여서 함께 해주셨다.
세션을 공유하며 질문을 주고 받으며 느낀점. 누군가 정말 기초적인 AI 개념들을 정리해주면 함께하시는 분들이 더 이 내용을 더 잘 이해하실 수 있을 것 같은데!
시스템 프롬프트, 컨텍스트, 토큰, 할루시네이션. 단어 하나하나가 벽이다. 알고 쓰면 정말 잘 쓸 수 있는데, 그 첫 벽을 넘기가 어렵다.근데 찾아봐도 없다. AI 잘 쓰는 법 알려주는 글은 많은데, 비개발자가 처음부터 짚고 갈 만한 정리된 교과서는 없다. 처음부터 구조 잡고 쓰려고 마음먹으면 부담돼서 미룰 것 같으니까, 그냥 가볍게 시작하려 한다. AI 첫걸음.
비개발자들이 입문하면서 듣게 되는 단어들, 세션하면서 "아 이런 걸 미리 알려드렸으면 좋았겠다" 싶었던 것들을 하나씩 정리해보려 한다. 1편은 오늘 세션에서 언급된 두 단어, 시스템 프롬프트와 유저 프롬프트다.
우리가 매일 쓰는 그것 = 유저 프롬프트
쉬운 것부터. ChatGPT나 Claude 창에 우리가 매일 치는 그 메시지. "이 글 요약해줘", "이메일 초안 좀 써줘", "이거 디자인 어떻게 생각해?" 이런 것들. 이게 유저 프롬프트(User Prompt)
말 그대로 사용자(User)가 던지는 말 이라는 뜻이다. 우리가 AI랑 대화한다고 할 때 머릿속에 떠올리는 게 보통 이거다. 근데 사실 AI는 우리 메시지 하나만 보고 답하는 게 아니다. 그 위에 우리는 못 보는 또 다른 메시지가 하나 더 깔려 있다. 그게 시스템 프롬프트다.
안 보이지만 항상 깔려있는 것 = 시스템 프롬프트
시스템 프롬프트(System Prompt)
는 AI한테 미리 박혀있는 설정이다. 사용자가 대화를 시작하기 전에, 서비스 만든 사람이 AI한테 "너는 이런 캐릭터로, 이런 규칙으로 답해" 라고 미리 정해놓은 메시지. 예를 들어 어느 회사의 AI 챗봇은 시스템 프롬프트에 이렇게 적혀 있을 수 있다.
"너는 OO쇼핑몰의 친절한 고객 응대 챗봇이다. 반말 금지. 환불 관련 질문은 무조건 1:1 채팅으로 안내해라."
그러면 손님이 "야 환불 어떻게 해?" 라고 반말로 물어도, 챗봇은 정중하게 "환불 관련 안내는 1:1 채팅으로 도와드리겠습니다" 라고 답한다. 같은 GPT 모델인데 답하는 모습이 다른 이유가 여기 있다. 정리하면 이렇다.
유저 프롬프트 = 내가 매번 던지는 질문/요청
시스템 프롬프트 = AI한테 미리 정해진 역할과 규칙
연극으로 비유하면
연극 무대를 떠올려보자. 배우 한 명이 무대에 올라가기 전에, 연출가가 미리 알려준다. "넌 1950년대 차가운 형사야. 말투는 짧게, 누구 말도 잘 안 믿어." 이게 시스템 프롬프트다. 이제 무대가 시작되고 관객 묻는다. "형사님, 범인이 누구입니까?" 이게 유저 프롬프트이다. 같은 배우라도 캐릭터 설정이 다르면 답이 완전히 달라진다. 같은 AI모델이더 시스템 프롬프트가 다르면, 어떤 건 친절하고 어떤 건 차갑고 어떤 건 코드만 답하고 어떤 건 농담만 한다. 깔린 설정이 이렇게 중요하다.
그래서 우리가 알면 뭐가 좋나
1. AI 서비스마다 답이 다른 이유를 이해하게 된다.
ChatGPT, Claude 등 다 같은 LLM 베이스인데 결과가 다른건 시스템 프롬프트가 다르기 때문이다. "왜 이 챗봇은 이런 식으로만 답하지?" 같은 답답함이 풀린다.
2. 내가 직접 시스템 프롬프트를 쓸 수 있다. 이게 진짜 꿀팁!
Claude의 Project 기능. 이게 다 내가 시스템 프롬프트를 직접 박는 방법이다. 거기에 한 번만 적어두면 된다.
"나는 PM이다. 답할 때 결론부터 말해줘." 그러면 그 다음부터 내가 매번 "PM 관점으로 답해줘" 라고 안 적어도 된다. AI가 그걸 항상 알고 있다.
입사할 때 회사가 "여기는 이런 문화으로 일해요" 라고 한 번 알려주면 그 다음부턴 매번 안 알려줘도 되는 것처럼. 나처럼 귀찮은 사람들이 쓰는 작은 팁 하나. 유저 프롬프트 첫 줄에 역할을 주자!
정리하면
유저 프롬프트 = 내가 던지는 메시지
시스템 프롬프트 = AI한테 미리 깔려있는 역할/규칙
- AI 답변이 서비스마다 다른 건 시스템 프롬프트가 다르기 때문
- 즉석에서 쓰고 싶다면 → 첫 줄에 "너는 OO이야" 한 줄로 역할 부여를 해보자.
단어 하나만 알아도, AI 쓰는 게 한 단계 입체적이 된다. 다음 편은 오늘 세션에서 또 자주 나왔던 단어 컨텍스트(Context)를 설명해보겠