회사 생성형 AI 사용 가이드: 입력 가능한 정보와 도입 전 체크리스트

회사에서 생성형 AI를 쓰려면 먼저 "어떤 정보까지 넣어도 되는가"를 정해야 합니다. 가장 안전한 출발점은 고객·직원 개인정보, 계약서 원문, 미공개 매출, 비밀번호와 API 키를 입력 금지로 두고, 공개 정보나 식별자를 지운 업무 자료부터 허용하는 것입니다. 그다음 회사가 승인한 계정, 보존 기간, 접근 권한, 결과물 검토 책임을 문서로 남기면 됩니다.

무료 계정 금지보다 데이터 등급표가 먼저다

"회사 자료는 AI에 넣지 마세요"라는 한 줄 공지는 오래 버티기 어렵습니다. 직원은 번역, 회의 요약, 고객 응대 초안처럼 당장 줄일 수 있는 일을 발견하면 다른 도구를 찾게 됩니다. 무엇이 금지인지 모호하면 공개 자료까지 막히거나, 반대로 민감한 원문이 개인 계정으로 흘러갈 수 있습니다.

OWASP는 민감정보의 범위에 개인 식별 정보, 금융정보, 건강정보, 기업 기밀, 보안 자격 증명, 법률 문서를 포함합니다.[3] 이 분류를 작은 회사에 맞게 줄이면 아래 세 단계면 충분합니다.

같은 문서라도 내용에 따라 등급은 달라집니다. 공개된 계약서 양식은 참고 자료지만, 서명과 금액이 들어간 실제 계약서는 제한 정보입니다.

개인정보보호위원회도 생성형 AI의 개발·활용 전 과정에서 개인정보 보호법 적용과 안전조치를 함께 검토하도록 안내서를 냈습니다.[4] 법무 검토를 도입 막판에 붙이기보다, 사용할 자료를 고르는 단계부터 개인정보 담당자나 책임자를 참여시키는 편이 낫습니다.

도구 약관에서 네 항목을 직접 확인한다

유료 제품이나 기업용 요금제라는 이름만으로 판단하지 마세요. 계약 화면과 공식 문서에서 아래 항목을 확인하고, 확인 날짜와 링크를 남겨야 합니다.

1. 입력과 출력이 모델 학습에 쓰이는가
2. 프롬프트와 파일이 얼마나 오래 보관되는가
3. 관리자가 사용자, 공유, 외부 연결을 통제할 수 있는가
4. 삭제 요청, 감사 기록, 사고 통지 절차가 있는가

예를 들어 OpenAI는 기업용 제품과 API의 사업 데이터를 기본적으로 모델 학습에 사용하지 않는다고 밝힙니다.[2] 하지만 "학습에 사용하지 않음"과 "저장하지 않음"은 다른 말입니다. OpenAI API는 기본적으로 남용 모니터링 로그에 고객 콘텐츠가 포함될 수 있고 최대 30일 보관될 수 있다고 설명합니다.[5] 승인받은 고객은 수정된 남용 모니터링이나 제로 데이터 보존을 신청할 수 있지만, 일부 기능은 애플리케이션 상태를 별도로 저장할 수 있습니다.[5]

따라서 제품 이름만 적은 허용 목록은 부족합니다. 다음처럼 사용 조건까지 붙이세요.

• 회사가 만든 워크스페이스 계정만 사용
• 개인 계정과 개인 결제 계정은 업무 자료에 사용하지 않음
• 파일 업로드, 웹 검색, 외부 앱 연결은 기본 차단 후 필요한 팀에만 허용
• 보존 설정과 학습 제공 선택 상태를 분기마다 다시 확인
• 퇴사자 계정은 다른 SaaS와 같은 날 회수

원문을 보내기 전에 식별자를 걷어낸다

데이터를 가리는 작업은 성명 몇 글자를 별표로 바꾸는 데서 끝나지 않습니다. 주문번호, 전화번호 뒷자리, 날짜와 지점 조합만으로도 특정 고객을 다시 알아볼 수 있습니다. AI에 보낼 자료는 업무 목적에 필요하지 않은 열과 문단을 먼저 삭제해야 합니다.

실무에서는 다음 순서가 단순합니다.

1. AI가 해야 할 일을 한 문장으로 적습니다. 예: "반품 문의를 다섯 가지 사유로 분류한다."
2. 그 일에 꼭 필요한 정보만 남깁니다. 문의 내용이 필요해도 이름, 전화번호, 주문번호는 대개 필요하지 않습니다.
3. 실제 값을 가상 식별자로 바꿉니다. "김OO"보다 "고객 A"처럼 문맥만 남기는 방식이 낫습니다.
4. 입력 전 금지 정보 검색을 한 번 더 합니다. 이메일, 전화번호, 계좌번호, 키 형식 등을 자동 검사하면 반복 업무에서 빠뜨릴 가능성이 줄어듭니다.
5. 결과물에 원문 정보가 되살아나지 않았는지 사람이 확인합니다.

OWASP도 입력 검증, 데이터 마스킹, 최소 권한, 연결할 데이터 소스 제한을 민감정보 노출을 줄이는 방법으로 제시합니다.[3] 시스템 프롬프트에 "개인정보를 출력하지 말라"고 쓰는 것만으로는 부족합니다. OWASP는 이런 제한이 프롬프트 인젝션 등으로 우회될 수 있다고 경고합니다.[3]

작은 팀은 한 업무로 2주간 시험한다

처음부터 전사 사용을 열면 누가 어떤 자료를 넣었는지 확인하기 어렵습니다. 반복적이고 원문 민감도가 낮은 업무 하나를 골라 짧게 시험하세요. 공개 상품 설명을 일정한 형식으로 정리하거나, 개인정보를 제거한 문의 유형을 분류하는 일이 적당합니다.

NIST의 생성형 AI 프로필은 조직이 설계, 개발, 사용, 평가 등 AI 생애주기 전반에 신뢰성 고려 사항을 넣도록 돕는 자율적 위험관리 자료입니다.[1] 작은 팀이라면 이 원칙을 다음 운영표로 줄일 수 있습니다.

시험을 마친 뒤에는 "AI가 잘 썼다"보다 수정 이력과 사고 가능성을 봐야 합니다. 초안 작성 시간이 줄어도 사실 확인과 개인정보 검수가 늘었다면 적용 범위를 다시 좁히는 편이 맞습니다.

사내 사용 규칙은 한 장이면 시작할 수 있다

첫 규칙은 길 필요가 없습니다. 직원이 작업 직전에 읽을 수 있어야 합니다.

바로 쓸 수 있는 최소 정책

• 회사 승인 계정과 승인 도구만 업무에 사용한다.
• 고객·직원 개인정보, 계약서 원문, 비밀값, 미공개 재무 자료는 입력하지 않는다.
• 사내 자료는 목적에 불필요한 식별자를 제거한 뒤 사용한다.
• AI 출력은 초안으로 취급하고, 외부 발송·게시·의사결정 전에 담당자가 검토한다.
• 새 플러그인, 외부 저장소, 메일·드라이브 연결은 관리자 승인 뒤 연다.
• 오입력을 발견하면 대화 삭제만으로 끝내지 않고 담당자에게 바로 알린다.

정책 옆에는 신고 창구와 담당 역할을 적어 두세요. 누가 승인하고, 누가 설정을 확인하며, 잘못 입력했을 때 누구에게 알릴지가 없으면 규칙이 멈춥니다.

도입 전 마지막 점검표

아래 항목에 답하지 못한 채 계정부터 배포하지 않는 것이 좋습니다.

• [ ] 공개·사내·제한 정보의 예시를 우리 회사 문서로 만들었는가
• [ ] 승인 제품의 학습 사용 여부와 보존 기간을 공식 문서에서 확인했는가
• [ ] 개인 계정 사용을 막고 퇴사자 회수 절차를 정했는가
• [ ] 파일 업로드와 외부 앱 연결을 필요한 사람에게만 열었는가
• [ ] 입력 전 마스킹과 출력 후 사람 검토 단계를 정했는가
• [ ] 오입력 신고, 삭제 요청, 사고 기록 담당자가 정해졌는가
• [ ] 한 업무를 제한된 인원으로 시험한 뒤 범위를 넓히는가

AI 도입은 계정을 나눠 주는 일이 아니라 자료가 지나가는 길을 정하는 일입니다. 내부 문서 흐름과 반복 업무를 함께 정리해야 한다면 POEMORA 자동화 서비스에서 현재 도구와 권한부터 점검할 수 있습니다.