AI 사용이 익숙해지면서 우리는 점점 더 많은 것을 AI에게 의지하게 됩니다. 저 역시 처음에는 날씨나 단어 뜻 같은 간단한 질문만 하다가, 어느 순간부터 제가 쓴 영문 이력서, 다이어리 내용, 심지어 회사 회의록까지 텍스트 전체를 복사해서 챗GPT에 붙여넣고 요약과 교정을 부탁하곤 했습니다.

그러다 문득 엔터 키를 누르는 순간 등골이 오싹해지는 기분이 들었습니다. "잠깐, 내가 쓴 이 민감한 정보들... AI가 다 기억해 뒀다가 다른 사람이 비슷한 질문을 할 때 대답으로 뱉어내면 어떡하지?"

실제로 대기업 직원들이 사내 코딩 소스나 회의록을 AI에 무심코 올렸다가 기업의 내부 기밀이 유출될 뻔한 사건이 뉴스에 보도되기도 했습니다. 편리함 이면에는 언제나 보안이라는 그림자가 따릅니다. 오늘은 우리가 평소 놓치기 쉬운 AI의 데이터 학습 원리와, 내 소중한 개인정보를 완벽하게 보호하며 AI를 똑똑하게 사용하는 안전 수칙을 정리해 드립니다.

1. 내가 쓴 글, 진짜로 AI가 학습할까?

결론부터 명확히 말씀드리면, 별도의 차단 설정을 하지 않았다면 여러분이 무료 AI 서비스(챗GPT, 클로드, 제미나이 등) 창에 입력하는 대화 내용과 첨부 파일은 'AI 모델을 더 똑똑하게 만들기 위한 학습 데이터'로 사용될 가능성이 매우 높습니다.

물론 AI 개발사들은 "수집된 데이터는 개인을 특정할 수 없도록 익명화 처리 과정을 거친다"라고 설명합니다. 하지만 완벽한 보안 시스템이란 존재하지 않으며, 내가 무심코 적은 특정 단어나 맥락이 조합되어 누군가에게 내 정보가 노출될 위험은 항상 열려 있습니다. AI는 우리의 비서이기도 하지만, 동시에 수많은 사람과 대화하는 거대한 정보의 바다라는 사실을 잊어서는 안 됩니다.

2. 절대 AI 창에 입력해서는 안 되는 3가지 블랙리스트

그렇다면 일상에서 어떤 정보들을 조심해야 할까요? 아래 세 가지는 습관적으로라도 절대 프롬프트 창에 입력하지 않도록 주의해야 합니다.

  1. 개인 식별이 가능한 고유 정보 (PII)
    나와 가족, 타인의 이름, 주민등록번호, 휴대전화 번호, 집 주소, 이메일 주소, 신용카드 번호, 그리고 비밀번호 등은 절대 입력 금지입니다. 회원가입 약관이나 계약서를 요약해 달라고 통째로 복사해서 붙여넣을 때, 문서 하단에 적힌 내 서명과 연락처가 함께 딸려 들어가지 않도록 반드시 확인하고 지운 뒤 붙여넣어야 합니다.

  2. 회사의 내부 데이터 및 재무 정보
    직장인들이 가장 많이 하는 실수입니다. 기획서 초안, 미발표 마케팅 전략, 고객 명단(DB), 사내 매출 데이터 등은 보안상 매우 민감한 정보입니다. 업무 효율을 높이겠다고 실제 데이터를 AI에게 넘기는 것은 사내 보안 규정을 심각하게 위반하는 행위이며, 추후 징계나 법적 책임으로 이어질 수 있습니다.

  3. 아직 세상에 공개되지 않은 나의 독창적인 창작물
    출판을 준비 중인 소설의 원고, 내가 독자적으로 개발한 코드, 논문 초안 등을 교정해 달라고 올리는 것도 주의해야 합니다. 내 아이디어가 AI의 학습 데이터로 넘어가서, 나중에 전혀 모르는 사람의 프롬프트 결과물로 유사하게 출력될 위험이 존재합니다.

3. 내 정보를 완벽하게 지키는 2가지 실전 방어 수칙

그렇다고 보안이 무서워서 이 편리한 도구를 안 쓸 수는 없겠죠. 제가 실무에서 철저하게 지키고 있는 두 가지 안전 습관을 알려드립니다.

첫째, '더미 데이터(가짜 데이터)'로 가공해서 질문하기
가장 추천하는 방법입니다. AI에게 실제 상황을 인지시킬 때, 민감한 고유 명사는 모두 가짜 이름으로 바꾸는 것입니다.

  • 나쁜 예: "삼성전자 홍길동 부장님께 우리 회사(A)의 3분기 매출액 5억 원을 보고하는 메일 써줘."

  • 좋은 예: "A 회사 B 부장님께 우리 회사(C)의 3분기 매출액(X원)을 보고하는 정중한 메일 초안을 써줘." 이렇게 뼈대만 AI에게 부탁해서 글을 완성한 뒤, 내 이메일 작성 창에서 A, B, C를 실제 이름으로 덮어쓰기만 하면 정보 유출을 원천 차단할 수 있습니다.

둘째, AI 서비스의 '학습 방지 설정' 켜기
대부분의 유명 AI 서비스들은 사용자의 데이터가 학습에 쓰이지 않도록 막는 '옵트아웃(Opt-out)' 기능을 제공합니다.
가장 많이 쓰시는 챗GPT의 경우, 화면 하단의 [내 프로필] - [설정(Settings)] - [데이터 제어(Data Controls)] 메뉴에 들어가서, '채팅 기록 및 학습(Chat history & training)' 기능을 꺼두시면 됩니다. 단, 이 기능을 끄면 과거 대화 기록이 저장되지 않는 불편함이 있을 수 있으니, 민감한 작업을 할 때만 일시적으로 끄거나 보안이 강화된 유료 기업용 버전을 고려하는 것이 좋습니다.

핵심 요약 및 마무리

  • 무료 AI 서비스에 입력한 프롬프트는 AI의 추가 학습 데이터로 활용될 수 있습니다.

  • 주민등록번호 등 개인정보, 회사 기밀, 미공개 창작물은 절대 입력하지 마세요.

  • 질문할 때는 항상 민감한 고유 명사를 '더미 데이터(A사, X원 등)'로 변경하는 습관을 들여야 합니다.

  • 챗GPT 등 설정 메뉴에서 '학습 방지 기능'을 활용해 보안 수준을 높이세요.

오늘 알려드린 안전 수칙만 잘 지키셔도, 정보 유출에 대한 불안감 없이 AI의 강력한 기능을 100% 누리실 수 있습니다. 도구는 안전하게 쓸 때 비로소 내 진짜 무기가 됩니다.

다음 12편에서는 많은 분들이 AI를 쓰면서 가장 답답해하시는 문제, '[문제해결] 내가 쓴 프롬프트가 자꾸 오류가 나는 3가지 결정적 이유'에 대해 집중적으로 파헤쳐 보겠습니다. 왜 AI가 내 말을 못 알아듣는지 시원하게 해결해 드릴 테니 기대해 주세요!

여러분은 무심코 AI 창에 개인정보나 회사 문서를 복사해서 붙여넣었다가 뒤늦게 철렁했던 경험이 있으신가요? 편하게 댓글로 경험담을 나누어 주세요!