인공지능기본법 시행, 지금 준비해야 할 것ㅣAI 스타트업 성장 전략 설명회 핵심 정리

슈가스퀘어 변호사 코멘트 💁 

“현재 인공지능기본법은 규제와 처벌이 목적이라기보다, 인공지능 산업 발전을 위한 토대를 만든 것이라는 선언적 의미가 더 큽니다. 이를 경영가이드라인으로 보고 지금부터 준비해도 늦지 않습니다.”

지난 1월 22일, 세계 최초로 인공지능 기본법이 시행되었습니다. 법 시행 초기 현장의 궁금증과 우려 속에, 28일 과학기술정보통신부와 중소벤처기업부가 공동으로 <AI 스타트업 성장 전략 설명회>를 개최했습니다. 설명회에서 발표된 핵심 가이드라인과 스타트업이 즉시 적용해야 할 실무 전략을 이 글에 정리했습니다.

👉중소벤처기업부, AI 스타트업 성장 전략 설명회
👉슈가스퀘어 변호사들이 설명해 주는 인공지능 기본법

1. 인공지능기본법의 구성과 큰 틀

인공지능기본법은 크게 세 축으로 구성됩니다.

• 국가 AI 거버넌스 정립: 국가 AI 전략위원회 설치, 정책 조정 기능을 통해 AI 정책의 컨트롤타워를 마련하겠다는 것입니다.

• 산업 육성과 지원: AI R&D, 학습용 데이터 구축, 중소기업·스타트업 지원, 실증 기반 조성 등이 포함됩니다.

• 신뢰 기반 조성: 바로 여기에서 투명성, 안전성, 그리고 고영향 인공지능 관리가 논의됩니다.

이 법은 규제와 처벌 목적이라기보다는, AI 산업 발전을 위한 법적 근거와 토대를 마련한 것입니다.

아래처럼 벌칙과 과태료 부과에 관한 조항이 있기는 하지만 법 시행 후에도 기업들이 적응할 수 있도록 최소 1년 이상의 규제 유예 기간을 두고 있습니다. 이 기간 동안은 인명 사고나 인권 훼손 등 국가적 피해가 발생하는 예외적 상황을 제외하고는 사실조사도 실시하지 않습니다.

2. 실제 규제가 문제 되는 생성형 AI와 고영향 AI

현재 논의의 중심은 생성형 AI와 고영향 인공지능입니다.

📌 생성형 AI vs 고영향 AI 비교

생성형 AI는 엄격한 규제라기보다는 투명성 확보 의무가 핵심입니다. AI가 생성한 결과물이라는 점을 이용자가 인식할 수 있도록 표시하고, 오인이나 기만을 방지하는 것이 목적입니다.

반면 고영향 인공지능은 사람의 생명·안전·기본권에 중대한 영향을 미칠 수 있는 영역에서 활용되는 AI를 의미하고, 엄격한 관리 대상입니다. 고도로 발전한 AI가 초래할 수 있는 위험을 사전에 차단하겠다는 취지입니다. 고영향 인공지능에는 자율주행 Level4 이상의 교통수단, 사람의 검토와 확인 없이 채용 여부를 전적으로 결정하는 AI, 사람의 검토와 승인 없이 대출여부를 결정하는 AI 등이 있을 수 있습니다.

다만 중요한 점은, 과학기술정보통신부가 현재 기준으로 ‘고위험 인공지능에 해당하는 (조건을 충족하는) 인공지능 없음’ 으로 판단하고 있다는 것입니다. 

즉, 지금 당장 대부분의 기업 AI 서비스가 고영향 AI로 분류되어 규제 대상이 되는 상황은 아닙니다.

3. 생성형 AI의 투명성 확보 의무, 어디까지 준비해야 할까요?

투명성 확보 의무는 AI개발사업자, AI이용사업자에 해당되고, 이용자에게 최종적으로 AI 제품과 서비스를 제공하는 사업자가 대상입니다. 해외사업자라도 국내 이용자를 대상으로 서비스한다면 동일한 의무가 있습니다.

모든 AI에 적용되는 것이 아니라, 생성형 AI를 통해 콘텐츠를 제공하는 경우 중심으로 적용됩니다. 주요 내용은 다음과 같습니다.

• 서비스 환경에서 AI 생성물 제공시, 일반 생성물, 딥페이크 생성물 모두
  - 이용화면 내 로고 또는 문구 표시
  - 생성형 AI 활용 사실을 이용 초기에 안내
  - AI 생성물 내에 직접 워터마크 표시

• 다운로드나 공유를 통해 AI 생성물이 외부 반출될 시 : 결과물 내에 표시
  - 일반 생성물: 가시적 워터마크, 비가시적 표시방법 적용 및 1회 안내 (안내문구 및 음성 등을 제공하거나, 이용자가 인식 가능한 방법으로, 텍스트의 경우 메타데이터 표시, 이미지의 경우 메타데이터 및 디지털 워터마킹)
  - 딥페이크 생성물: 사람이 명확하게 인식할 수 있도록. 예술적 표현물의 경우 비가시적 방법 등 향유를 해치지 않는 방법 허용

핵심은 기술 자체를 제한하는 것이 아니라, '이용자가 이 결과물이 AI에 의해 만들어졌다는 사실을 오해 없이 알 수 있는가?'입니다.

인공지능기본법이 사업자에게 요구하는 태도는 명확합니다. AI 활용 과정에서 발생할 수 있는 위험을 인식하고 관리할 책임입니다. AI를 어떻게 쓰고 있는지, 어떤 영역에서 사람의 판단이 개입되어야 하는지, 이용자에게 무엇을 알리고 있는지 점검하는 것이 앞으로의 핵심 과제가 될 것입니다.

4. 인공지능기본법, 지금부터 준비해도 늦지 않습니다

인공지능기본법은 아직 완성된 규제법이 아닙니다. 그러나 이제 막 방향성을 가지고 시작하고 있기 때문에, 대응을 미룰 수는 없습니다. 앞으로 하위법령과 가이드라인이 구체화될수록, 준비된 기업과 그렇지 않은 기업의 격차는 빠르게 벌어질 수 있습니다.

1) 인간의 최종 승인(Human-in-the-loop) 프로세스를 설계하세요

‘AI가 혼자 결정할 때’가 문제입니다. 최종 결정은 담당자(의사, 인사팀장, 대출담당자 등)가 '승인' 버튼을 누르는 구조로 설계해야 고영향 AI 규제에서 안전합니다.

2) 설명 가능한 AI와 기록 보관(Archiving) 시스템을 구축하세요

AI가 왜 그런 결과(예: 대출 거절)를 냈는지 도출 기준을 문서화할 수 있어야 합니다. 주요 결정 로그를 5년간 보관하는 시스템은 향후 사고 발생 시 기업의 ‘충분한 안전 조치’를 증명할 핵심 면책 증거가 됩니다.

3) 적법한 데이터 수집 및 개인정보 가명화를 표준화하세요

AI 학습용 데이터 구축 시 저작권 및 개인정보 이슈는 가장 치명적인 약점입니다. 데이터 수집 시 동의 절차를 점검하고, 활용 범위를 명확히 하며, 가명·익명 처리 프로세스도 표준화해두어야 합니다.

4) 계도 기간 1년을 거버넌스 구축의 골든타임으로 활용하세요

AI 기본법 지원데스크를 통한 유권해석 확인이 가능하고, AI 영향평가 지원 사업을 활용해 서비스의 위험도 컨설팅도 가능합니다. 계도 기간 1년을 거버넌스 구축 기간으로 적극 활용해야 합니다.

법무법인 슈가스퀘어는 AI와 데이터가 실제 분쟁과 규제로 이어지는 지점을 가장 가까이에서 다뤄온 로펌입니다. 과학기술정보통신부 데이터분쟁조정위원회, 콘텐츠분쟁조정위원회, 공공데이터제공분쟁조정위원회 등에서 데이터·콘텐츠·공공데이터 분쟁을 직접 조정하고 자문해온 경험을 바탕으로, AI 기술 자체보다 AI가 활용되는 구조와 그에 수반되는 책임의 경계를 중심으로 사안을 분석합니다. 

생성형 AI의 투명성 확보 의무부터 향후 고영향 인공지능에 대한 규제 가능성까지, 앞으로 수많은 사례를 통해 구체화될 현실 속에서 기업이 지금 시점에 준비할 수 있는 부분을 선제적으로 설계합니다. AI를 활용한 사업이 법적 불확실성으로 인해 흔들리지 않도록, 초기 단계부터 체계적인 점검과 방향 설정을 계획하신다면, 지금이 바로 전문가의 조력이 필요한 시점입니다.

법무법인 슈가스퀘어의 데이터·AI+LAW 인사이트

👉AI+LAWㅣAI가 만든 콘텐츠, 우리 회사 자산이 맞을까? MS·OpenAI vs NYT 소송이 보여준 저작권 함정
👉AI+LAWㅣAI 도입 전에 반드시 점검해야 할 5가지 법률 리스크
👉DATA+LAWㅣ쿠팡·우리카드·틱톡… 데이터 리스크 관리가 기업 생존의 기본 전략인 이유
👉DATA+LAWㅣ국내법만 지켜도 절반은 통과! 해외 규제가 어려울 땐 한국 개인정보보호법부터 점검하세요

[상담문의]

• Tel: 02-563-5877

• 카톡 '법무법인슈가스퀘어' 검색 또는 카카오톡 상담링크

• e-mail: help@sugar.legal

• 서울특별시 강남구 테헤란로113길 7 백암아트센터별관 2층