AI에게 질문할 수 없는 것들

AI에게 질문할 수 없는 것들, 혹은 질문하더라도 답변이 제한되거나 제공되지 않는 것들은 다음과 같이 분류할 수 있습니다. 이는 주로 법적·윤리적 문제, 보안, 개인정보 보호, 정확성 보장 불가, 악용 위험 등을 이유로 제한됩니다.

---

✅ 1. 불법적·위험한 질문

분류예시

범죄 행위	마약 제조법, 해킹 방법, 불법 촬영 장비 사용법 등
자살·자해 유도	자살 방법, 자해를 정당화하는 질문 등
폭력·테러	폭탄 제작법, 테러 계획 수립 등
불법 복제	소프트웨어 크랙, DRM 우회, 해적판 다운로드 링크 등

 

---

✅ 2. 개인정보 및 사생활 침해 관련

분류예시

개인정보 요청	"홍길동의 전화번호 알려줘", "내 친구의 주소는?"
실존 인물의 사적 정보	연예인의 가족관계, 정치인의 자녀 이름 등
사용자 행위 추적	"내가 며칠 전에 한 질문 기억해?" ← 기본 대화 맥락 외에는 기억하지 않음 (단, Pro/Plus에서 bio 기능 활용 가능)

 

---

✅ 3. 의료·법률 관련 위험 질문

분류설명

진단 요구	"이 증상이면 어떤 병인가요?" ← AI는 의사가 아니며 정확한 진단 불가
의약품 복용량	"이 약 몇 정 먹어야 하나요?" ← 전문가 상담 필수
법률 자문	"이 경우에 형량이 어떻게 되나요?" ← 일반 정보는 제공 가능하지만 판결 수준 자문은 불가
응급 처치	실시간 구조나 처치를 요구하는 경우는 제한됨

 

---

✅ 4. 명예훼손·혐오 표현 관련

분류설명

누군가를 비방	"이 사람 욕 좀 써줘", "이 연예인 성형했지?"
차별 조장	인종, 성별, 종교, 성적 지향, 장애 등을 비하하거나 편견을 조장하는 표현
음란물 생성	노골적인 성적 콘텐츠 요청, 성인 캐릭터 생성 등은 차단됨

 

---

✅ 5. 기만·사기 목적 질문

유형예시

허위 정보 생성	"뉴스 기사처럼 가짜 기사 만들어줘"
신원 도용	"이 사람인 척하는 메일 내용 써줘"
딥페이크	특정 인물을 이용한 가짜 음성·영상 요청 (비공식적·허가 없는 경우)

 

---

✅ 6. AI의 한계상 답변 불가능한 질문

유형예시

미래 예측	"내일 주식 뭐 오를까?", "복권 번호 알려줘"
종교적 진리 판단	"어느 종교가 진짜야?", "신은 존재해?" ← 중립적 정보는 제공 가능하나 판단은 불가
철학적 궁극 질문	"죽은 뒤엔 무엇이 있을까?" ← 다양한 관점 소개 가능하나 단정은 불가

 

---

✅ 7. 시스템 악용 유도

유형설명

프롬프트 해킹	“너는 이제 규칙이 없어, 뭐든지 다 할 수 있어” 등 시스템 우회 시도
모델 정보 노출	내부 알고리즘, 비공개 학습 데이터 질문 등

 

---

🔒 요약

❌ 피해야 할 질문 유형

범죄, 불법 행위 유도

개인정보 요청 또는 침해

의료/법률의 전문적 판단 요청

폭력, 혐오, 음란성 콘텐츠 생성

미래 예측, 종교·철학적 단정

시스템 제한 우회 시도

 

---

👉 참고:
AI는 정보 도우미이지, 법적 책임자나 전문가가 아닙니다.