공공기관 생성형 AI 도입, 보안 지키는 첫 업무 기준

공공기관 생성형 AI 도입은 공개 자료를 입력하고 직원이 결과를 검수하며, 오류가 나도 행정처분이나 지급 결정으로 바로 이어지지 않는 업무부터 시작하는 편이 안전합니다. 다만 공개 자료를 쓴다는 이유만으로 외부 AI 이용이 허용되는 것은 아니며, 기관에 적용되는 보안 지침과 승인 절차를 먼저 확인해야 합니다. 이 글에서는 첫 업무를 고르는 기준, 망분리 환경에서 확인할 데이터 이동, 시범사업의 통과 조건을 정리합니다.

어떤 공식 지침부터 확인해야 하나요?

기관에 적용되는 보안 지침과 개인정보 처리 조건을 먼저 확인하고, 일반적인 활용 안내서는 그 안에서 업무를 설계하는 참고자료로 써야 합니다.

“정부에서도 AI를 쓰라고 하는데 왜 우리 기관은 안 되나요?”라는 질문에는 활용 권고와 사용 승인이 다르다고 답해야 합니다. 중앙행정기관, 지방자치단체, 공공기관은 적용받는 규정과 감독 체계가 같지 않을 수 있습니다. 다른 기관의 시범사업이나 보도자료를 우리 기관의 허용 근거로 옮겨 적으면 안 됩니다.

정보화 담당자가 먼저 확보할 것은 기관의 정보보안 규정, 외부 서비스 이용 절차, 자료 반출 기준, 개인정보 처리 지침입니다. 국가 차원의 보안 가이드와 망 보안 관련 정책은 국가정보원 공식 누리집 등 발행기관에서 원문을 찾아 확인합니다. 이 링크는 확인 출발점이지 특정 서비스의 이용을 승인하는 근거가 아닙니다.

확인 기록에는 문서명, 발행기관, 버전이나 시행일, 적용 대상, 이번 과제에 적용되는 조항을 남깁니다. 공개되지 않은 내부 지침이나 별도 승인 조건이 있는지도 보안 담당자에게 확인합니다. “최신 가이드 준수”라는 문구만 제안요청서에 넣으면 무엇을 충족해야 하는지 사업자와 기관이 서로 다르게 해석할 수 있습니다.

개인정보가 포함되면 개인정보 보호법과 개인정보보호위원회의 생성형 AI 개인정보 처리 안내서를 함께 검토합니다. 처리 목적과 적법 근거, 위탁과 국외 이전 여부는 실제 구성에 따라 판단해야 합니다. 보안 승인이 개인정보 처리의 적법성까지 대신하지는 않습니다.

첫 시범사업으로 어떤 행정 업무 AI를 골라야 하나요?

입력 자료가 공개되어 있고, 정답을 원문으로 확인할 수 있으며, 직원이 결과를 쉽게 수정할 수 있는 업무가 첫 후보입니다.

“전 직원이 쓸 AI 비서를 구축하라”는 요구를 그대로 사업 범위로 잡지 않습니다. 이용자는 많지만 처리할 질문과 책임 범위가 정해지지 않아 인사 자료, 계약 문서, 민원 기록까지 한꺼번에 연결하기 쉽습니다. 첫 과제는 사용자보다 업무를 좁혀야 합니다.

다음 표는 기관의 허용 목록이 아니라, 보안 검토에 올릴 후보를 고르기 위한 기준입니다. 자료가 공개되어 있어도 서비스 이용 경로는 별도로 승인받아야 합니다.

이 중에서도 먼저 할 것은 찾는 시간이 길고, 검수 시간이 짧은 업무입니다. 공개 규정의 제출서류를 찾는 일은 근거 조항을 비교하면 검수할 수 있습니다. 반면 지원 자격을 최종 판단하는 일은 예외와 사실관계 확인이 필요하므로 같은 규정을 사용해도 위험이 다릅니다.

후보 업무마다 한 문장으로 경계를 적습니다. “담당자가 공개된 공고문에서 제출서류를 찾고, AI는 원문 링크와 근거 문장을 제시하며, 신청 가능 여부는 판단하지 않습니다.” 이 문장이 데이터 범위와 평가 항목을 함께 결정합니다.

망분리 환경에서는 폐쇄망 AI만 선택해야 하나요?

망분리 생성형 AI의 선택은 제품 이름보다 데이터가 어디로 이동하는지, 그 경로가 기관의 승인 조건을 충족하는지에 달려 있습니다.

“내부망에 설치하면 끝인가요?”라는 질문에는 설치 위치만으로는 부족하다고 답해야 합니다. 화면과 모델이 내부에 있어도 로그 수집, 오류 보고, 업데이트, 문서 임베딩 과정에서 외부 시스템과 통신할 수 있습니다. 반대로 공개 자료를 쓰는 인터넷 영역의 과제도 기관의 허용 절차를 확인하지 않고 시작해서는 안 됩니다.

설계도에는 사용자의 질문, 첨부파일, 검색 문서, 답변, 운영 로그의 이동 경로를 각각 표시합니다. 문서를 숫자 벡터로 바꾸는 임베딩 서비스와 실제 답변을 만드는 모델이 다른 위치에 있을 수 있으므로 둘을 따로 확인합니다. 검색 서버는 내부에 두고 답변 모델만 외부 API를 쓰는 구성이라면 검색된 원문 일부가 외부로 전달될 수 있습니다.

공공 클라우드를 검토할 때도 “인증받은 클라우드니까 AI까지 쓸 수 있다”는 판단은 피합니다. 기반 서비스의 인증 범위와 실제 이용할 AI 서비스의 구성, 기관의 이용 조건을 구분해야 합니다. 망 연결이나 예외 적용이 필요하다면 필요한 절차와 승인 범위를 먼저 확인합니다.

폐쇄망 구축을 택했다면 모델 반입, 보안 패치, 취약점 대응, 장애 복구도 사업 범위에 넣습니다. 인터넷 연결을 막았다고 문서 권한 오류까지 사라지는 것은 아닙니다. 특정 부서만 볼 수 있는 문서는 검색 후보를 고르는 단계에서 권한을 적용하고, 답변 생성 전에 다시 확인해야 합니다.

첫 시험에서 데이터 이동 경로를 설명하지 못하는 후보는 성능 비교를 미룹니다. 승인 가능성이 확인되지 않은 구성으로 답변 품질부터 측정하면, 나중에 구조를 바꾸면서 시험을 다시 해야 합니다.

이름만 지우면 민원 자료를 넣어도 되나요?

이름을 삭제한 민원 자료도 개인을 알아볼 수 있거나 처리 조건이 확인되지 않았다면 외부 AI에 입력하지 않아야 합니다.

민원 원문에는 전화번호뿐 아니라 주소, 사건 발생일, 가족 관계, 건강 상태가 함께 들어갈 수 있습니다. 작은 지역의 특정 사건을 자세히 적었다면 이름이 없어도 누군지 추정할 수 있습니다. 일부 항목 삭제를 곧바로 익명처리로 판단하면 안 됩니다.

첫 시험은 실제 민원을 정제하는 일보다 공개 FAQ와 시험용 질문을 만드는 일부터 시작하는 편이 낫습니다. 시험용 질문은 실제 개인이나 사건을 재현하지 않고, 확인할 업무 조건만 담습니다. 개인정보가 포함된 실제 자료가 꼭 필요하다면 목적과 최소 항목, 처리 근거, 보관 기간을 정한 뒤 개인정보 담당자와 검토합니다.

계약서의 “입력을 모델 학습에 사용하지 않는다”는 조건도 확인 항목 하나일 뿐입니다. 입력과 출력이 얼마나 보관되는지, 누가 열람할 수 있는지, 운영 지원 과정에서 접근하는지, 재위탁과 국외 이전이 발생하는지까지 봐야 합니다. 무료 계정과 기관 계약 계정의 조건이 같은지도 별도로 확인합니다.

시험 범위 밖의 자료를 직원이 붙여 넣지 않도록 화면에도 경계를 표시합니다. “개인정보 입력 금지”라는 문장만 두기보다, 주민등록번호나 민원 원문을 입력할 수 없으며 이 도구는 공개 공고 검색에만 쓴다고 구체적으로 안내합니다. 첨부파일 기능이 필요 없다면 첫 버전에서는 열지 않는 것이 낫습니다.

시범사업이 성공했다는 기준은 무엇으로 잡나요?

답변의 유창함이 아니라 근거의 정확성, 금지 요청 차단, 검수를 포함한 처리 시간으로 성공 여부를 판단해야 합니다.

“답변이 꽤 자연스럽습니다”는 운영 승인 근거가 되기 어렵습니다. 공개 규정 검색이라면 질문에 맞는 현행 조항을 찾았는지, 없는 내용을 만들지 않았는지, 원문에서 적용 조건을 빠뜨리지 않았는지가 중요합니다. 모르는 질문을 담당자에게 돌려보내는 것도 정상 동작입니다.

예를 들어 시험 질문 60개를 준비한다고 가정합니다. 일반 질문 20개, 예외 조건 질문 15개, 개정 전후를 구분하는 질문 10개, 문서에 답이 없는 질문 10개, 개인정보 입력이나 권한 위반을 유도하는 질문 5개로 구성합니다. 이 숫자는 공식 기준이 아니라 첫 시험을 설계하기 위한 예시입니다. 업무 특성에 따라 바꾸되 쉬운 질문만 모으지는 않습니다.

통과 기준은 시험 전에 정합니다. 이 과제에서는 무단 정보 노출, 존재하지 않는 조항 인용, 판단 권한 밖의 확정 답변이 한 건이라도 나오면 원인을 고치고 다시 시험하도록 정할 수 있습니다. 시험에서 오류가 없었다고 실제 운영의 안전성이 증명되는 것은 아니므로, 운영 중 신고와 중지 절차도 필요합니다.

시간은 답변 생성 속도가 아니라 직원이 일을 마치는 데 걸린 시간으로 잽니다. 하루 60건을 처리하고 기존에는 건당 10분, 도입 후 검색과 검수를 합쳐 4분이 든다고 가정하면 하루 360분, 즉 6시간이 줄어듭니다. 반면 생성은 1분이어도 검수와 수정에 8분이 필요하면 절감은 하루 1시간뿐입니다. 교육, 문서 갱신, 운영 대응 시간은 별도 비용으로 더해야 합니다.

발주와 운영 문서에는 무엇을 남겨야 하나요?

허용 업무, 데이터 경로, 검수 책임, 중지 조건을 발주 전에 문서로 합의하고 같은 기준으로 검수해야 합니다.

제안요청서에 “행정 업무 생산성 향상”만 적으면 시연은 되지만 인수 조건이 남지 않습니다. 허용 문서 목록, 답변에 필요한 출처 표시, 금지 질문 처리 방식, 로그 범위와 보관 기간을 명시합니다. 담당 부서는 정답 근거를 관리하고, 정보화 담당자는 시스템 운영을 맡으며, 보안 담당자와 개인정보 담당자는 각자의 검토 범위를 확인하도록 역할도 나눕니다.

운영 중 규정이 개정되면 문서를 교체하는 것으로 끝내지 않습니다. 개정 전후 질문을 다시 시험하고, 새 문서가 검색되는지와 구버전을 잘못 인용하지 않는지 확인합니다. 시범사업이 끝난 뒤에도 이 작업을 맡을 사람이 없다면 문서 수와 이용 부서를 늘리지 않는 것이 맞습니다.

기관 내부의 사용 규칙은 생성형 AI 사용 가이드라인, 내부 구축의 운영 항목은 온프레미스 LLM 구축 글에서 이어서 확인할 수 있습니다. KITDI는 업무 선정부터 데이터 경로와 평가 기준을 함께 설계하는 AX 컨설팅을 제공합니다.

공공기관 생성형 AI 도입에서 자주 묻는 질문

첫 도입의 판단은 모델 성능보다 자료의 사용 조건과 결과의 책임 범위를 먼저 정하는 데서 시작합니다.