AI 기본법 시행 석 달, 우리 회사가 지금 확인할 것

"우리 챗봇에도 'AI가 답합니다'라고 써야 하나요?" AI 기능이 들어간 서비스를 맡고 있다면 올해 한 번쯤 들어 봤을 질문입니다. 1월 22일 인공지능 기본법(이하 AI 기본법)이 시행됐고, 계도기간이라 당장 과태료는 없다고 들었지만 우리 회사가 어떤 의무에 해당하는지는 지금 정리해 두어야 합니다.

시행 석 달이 지난 지금, 기업에 생긴 의무와 확인 순서를 정리했습니다. 이 글은 이해를 돕기 위한 정리이며 법률 자문이 아닙니다. 실제 판단은 법령 원문과 과학기술정보통신부 안내, 법률 전문가의 검토를 거쳐 주세요.

무엇이 언제부터 시행됐나

AI 기본법의 정식 이름은 「인공지능 발전과 신뢰 기반 조성 등에 관한 기본법」입니다. 2024년 12월 26일 국회를 통과해 2025년 1월 21일 공포됐고(법률 제20676호), 1년의 준비 기간을 거쳐 2026년 1월 22일 시행됐습니다. 세부 기준을 정한 시행령(대통령령 제36053호)도 같은 날 시행됐습니다.

법의 큰 줄기는 AI 산업 진흥과 신뢰 기반 조성입니다. 기업 실무자가 챙겨야 할 부분은 주로 뒤쪽, 사업자의 의무를 정한 조항들입니다.

기업에 생긴 의무 네 가지

투명성: 가장 많은 회사가 해당합니다

생성형 AI로 글, 이미지, 음성을 만들어 고객에게 제공하는 서비스라면 대부분 이 조항의 영향을 받습니다. 법 제31조가 요구하는 것은 세 가지입니다. 제품이나 서비스가 고영향 AI 또는 생성형 AI에 기반해 운용된다는 사실을 이용자에게 미리 알리는 것, 생성형 AI가 만든 결과물에 그 사실을 표시하는 것, 그리고 실제와 구분하기 어려운 음성, 이미지, 영상이라면 이용자가 분명히 알아볼 수 있게 알리거나 표시하는 것입니다.

시행령은 표시 방법으로 사람이 알아볼 수 있는 표시 외에 워터마크처럼 기계가 읽는 방식도 인정합니다. 또 서비스 이름이나 화면만으로 AI임이 분명한 경우, 내부 업무용으로만 쓰는 경우 등을 고지와 표시의 예외로 둡니다. 다만 실제와 혼동될 수 있는 결과물은 이용자가 명확히 인식할 수 있는 방식이어야 합니다.

고영향 AI: 우리 서비스가 해당하는지부터

법 제2조는 사람의 생명, 신체의 안전, 기본권에 중대한 영향을 미치거나 위험을 초래할 우려가 있는 AI를 고영향 AI로 정하고, 에너지 공급, 먹는물 생산, 보건의료, 의료기기, 원자력 시설, 채용이나 대출 심사처럼 개인의 권리와 의무에 중대한 영향을 주는 판단, 교통, 공공 서비스 자격 판단 같은 국가기관의 의사결정, 학생 평가 등의 영역을 열거합니다.

이 영역에서 AI를 제공하는 사업자는 제33조에 따라 해당 여부를 미리 검토해야 하고, 판단이 어려우면 과학기술정보통신부에 확인을 요청할 수 있습니다. 해당한다면 위험관리 방안, 결과를 설명하는 방안, 이용자 보호 방안, 사람의 관리와 감독, 관련 문서의 작성과 보관 같은 조치를 해야 합니다(제34조). 기본권에 미치는 영향평가는 노력 의무로 정해져 있습니다(제35조).

안전성과 국내대리인: 대부분의 국내 기업은 해당하지 않습니다

제32조의 안전성 의무는 학습에 쓴 누적 연산량이 시행령이 정한 기준(10의 26제곱 플롭스 이상 등)을 넘는 초대형 모델을 대상으로 합니다. 이 정도 규모의 모델을 직접 학습시키는 기업은 세계적으로도 손에 꼽습니다.

제36조의 국내대리인 지정은 국내에 주소나 영업소가 없는 해외 사업자 가운데 전년도 매출액 1조 원 이상, AI 서비스 부문 매출액 100억 원 이상, 국내 일평균 이용자 100만 명 이상 중 하나에 해당하는 곳이 대상입니다(시행령 제29조). 해외 AI 서비스를 업무에 쓰는 국내 기업이 국내대리인을 지정해야 하는 것은 아닙니다.

과태료와 계도기간

법 제43조는 세 가지 경우에 3천만 원 이하의 과태료를 정합니다. 제31조제1항의 사전 고지 의무를 지키지 않은 경우, 제36조제1항의 국내대리인을 지정하지 않은 경우, 제40조제3항에 따른 중지명령이나 시정명령을 따르지 않은 경우입니다. 결과물 표시 의무(제31조제2항, 제3항)를 어긴 것만으로 바로 과태료가 부과되지는 않지만, 사실조사와 시정명령을 거쳐 명령을 따르지 않으면 과태료로 이어질 수 있습니다.

정부는 시행 초기 혼란을 줄이기 위해 계도기간을 최소 1년 이상 운영하고, 이 기간에는 사실조사와 과태료 부과를 유예하겠다고 밝혔습니다. 사람의 생명이나 인권에 중대한 피해가 생기는 극히 예외적인 경우는 제외됩니다. 4월 현재 계도기간이 정확히 언제 끝나는지는 정해지지 않았습니다.

우리 회사는 무엇부터 확인할까

시행 초기라 하위 가이드라인과 해석은 계속 보완되고 있습니다. 과학기술정보통신부 발표 자료를 주기적으로 확인하고, 서비스를 새로 낼 때마다 위 순서를 한 번씩 다시 밟는 것이 가장 확실합니다. AI 도입을 이제 막 검토하는 단계라면 기업 AI 도입 방법에서 법적 검토를 어느 단계에 넣을지 함께 볼 수 있습니다. 우리 서비스가 어디에 해당하는지 정리가 필요하다면 AX 컨설팅이나 문의로 연락 주세요.