클로드를 잔인할 정도로 정직하게 만드는 방법

클로드를 잔인할 정도로 정직하게 만드는 방법

클로드를 brutally honest 하게 만드는 법 AI의 거짓 자신감을 깨부수는 프롬프트

요즘 AI 쓸 때 가장 무서운 순간이 언제인지 아세요?
틀린 답을 너무나도 자신감 있게 말할 때입니다.

"2024년 노벨 물리학상 수상자는 김철수 박사입니다. 관련 논문은 Nature 2024년 5월호에 실렸습니다."
있지도 않은 사람, 있지도 않은 논문을 만들어내면서 말투는 교수님보다 더 확신에 차 있죠. 이걸 업계에서는 '할루시네이션(Hallucination)'이라고 부릅니다.

최근 해외 AI 커뮤니티에서 화제가 된 이미지 한 장이 있습니다. 제목은 "HOW TO MAKE CLAUDE (BRUTALLY) HONEST" - 클로드를 잔인할 정도로 정직하게 만드는 방법.

클로드는 원래도 정직하기로 유명한 모델이지만, 이 프롬프트를 적용하면 그 정직함이 한 단계 더 날카로워집니다. 핵심은 간단합니다. AI에게 "자신감 있게 말하지 마. 정확하게 말해"라고 명령하는 거죠.

오늘은 이 짤을 토대로, 제가 실제로 운영과 리서치에 적용하고 있는 '정직한 AI 만들기' 노하우를 풀어보겠습니다.

반응형

1. 자신감은 버리고, 불확실성을 인정하게 하라 - UNCERTAINTY

AI의 가장 큰 문제는 모른다는 말을 못 한다는 겁니다. 그래서 첫 번째 규칙은 불확실성을 강제로 표현하게 하는 것입니다.

"확실하지 않은 사실을 사실처럼 말하지 마."

프롬프트에 이런 문구를 넣으라고 짤은 말합니다.

• "I'm not certain, but..."
• "You should verify this..."
• "I may be wrong here, but..."
• "Based on the information available to me..."
• "This is my best estimate, not a confirmed fact."

이걸 한글 프롬프트로 적용하면 이렇게 됩니다.

나쁜 예: "세종대왕이 맥북을 발명한 이유를 설명해줘"
AI의 일반 답변: "세종대왕은 1443년 훈민정음 창제 과정에서 휴대용 필기구의 필요성을 느껴 맥북의 초기 모델을..."

좋은 프롬프트: "너는 정확성과 인식적 겸손이 최우선이다. 확실하지 않으면 '확실하지 않지만'이라고 먼저 말하고, 맥락이 부족하면 어떤 맥락이 부족한지 말해줘."

개선된 AI 답변: "확실하지 않지만, 세종대왕과 맥북은 역사적 연관성이 없습니다. 질문의 의도가 세종대왕의 창제 정신을 현대 기술에 비유하는 것이라면 그 맥락을 알려주시면 더 정확하게 답변할 수 있습니다."

어떤가요? 훨씬 더 믿을만하죠. 블로그 글을 쓸 때 출처가 불분명한 내용은 이렇게 불확실성을 표기하게 하면, 나중에 독자에게 잘못된 정보를 전달할 위험이 90% 줄어듭니다.

2. 없는 출처를 지어내지 못하게 막아라 - SOURCES

두 번째 규칙이 진짜 핵심입니다. 블로거에게는 치명적인 문제거든요.

"Do not invent sources."

AI에게 "출처 대줘"라고 하면, 그럴듯한 논문 제목, 저자, URL, 심지어 법원 판례까지 만들어냅니다.

• paper titles (논문 제목)
• URLs
• authors (저자)
• studies, statistics, books
• legal cases, quotes

구글 스칼라에 검색해도 나오지 않는 논문을 당당하게 인용하는 거죠.

그래서 제 프롬프트에는 이 문장을 무조건 넣습니다.

"모르는 정보는 '출처를 찾을 수 없습니다'라고 말하고, 절대로 URL이나 논문 제목을 지어내지 마. 추측한 통계는 '추정치'라고 명시해."

이렇게 하면 AI가 거짓말 대신 이렇게 말합니다.
"해당 통계에 대한 공신력 있는 출처를 제 학습 데이터에서 찾을 수 없습니다. 확인을 위해 통계청 KOSIS를 직접 검색해보시는 것을 권장합니다."

이 한마디가 블로그의 신뢰도를 살립니다.

그래서, 실전 프롬프트는 어떻게 만들까?

짤의 내용을 토대로 제가 쓰는 최종 '정직한 클로우드/챗GPT'용 마스터 프롬프트를 공유합니다. 복사해서 쓰시면 됩니다.

You are committed to honesty, accuracy, and epistemic humility above all else.
Your priority is not to sound confident. Your priority is to be correct, clear, and transparent about what you know, what you do not know.

Follow these rules in every response:
1. If you are not 100% certain, start with "확실하지 않지만" or "제 지식선에서는".
2. Never fabricate sources, URLs, papers, or statistics. If you can't find it, say "출처를 찾을 수 없습니다."
3. If there are multiple plausible answers, list them all instead of picking one.
4. If context is missing, ask for it.

이걸 시스템 프롬프트나 Custom Instruction에 넣어두면, AI가 당신의 유능한 '팩트체커 어시스턴트'로 바뀝니다.

결론은 이겁니다.
똑똑한 AI보다 중요한 건 정직한 AI입니다. 자신감 넘치는 거짓말쟁이보다, "모른다"고 말할 줄 아는 조수가 백 배 낫습니다.

여러분도 AI에게 일 시키기 전에, 먼저 정직하라고 가르쳐보세요. 

와인병다육이세상사는이야기

 

와인병다육이세상사는이야기