국내 최초 AI 개인정보 침해 판결: 이루다 사태로 본 AI 윤리 & 데이터 활용의 법적 쟁점
1. AI 챗봇 이루다, 논란의 시작
AI 챗봇 이루다는 2020년 출시 당시 딥러닝 기반의 자연어 처리 기술을 통해 실제 사람과 대화하는 듯한 높은 수준의 상호작용으로 큰 주목을 받았습니다. 그러나 개인정보 침해 및 성희롱 논란 등 심각한 문제들이 불거졌는데요. 가장 큰 문제는 이루다 개발사 스캐터랩이 약 100억 건에 달하는 카카오톡 대화 데이터를 동의 없이 수집하고 AI 학습에 활용했다는 겁니다. 이 데이터에는 이용자들의 민감한 대화 내용과 개인 신상 정보가 포함되어 있었고, 이에 2021년 4월 이용자들이 손해배상 소송을 제기해 4년만에 1심 법원의 판결이 나왔습니다.
2. 법원의 판결: 개인정보 침해와 손해배상 책임 인정
이번 판결에서 법원은 AI 이루다 개발사인 스캐터랩이 이용자들의 개인정보를 동의 없이 수집하고 AI 학습에 활용한 행위가 개인정보보호법을 위반했다고 판단했습니다.* 법원은 스캐터랩이 수집한 대화 데이터가 비식별 조치를 거쳤다고 주장했음에도 불구하고, 실제로는 특정 개인을 충분히 유추할 수 있는 정보가 포함되어 있었으며, 이는 개인정보에 해당한다고 보았습니다. 또한, 이용자들에게 명확한 동의를 받지 않고 민감한 대화 내용을 AI 학습에 사용한 것은 개인정보자기결정권을 침해하는 행위라고 판단했습니다. *서울동부지법 2021가합104007
이에 개인정보 유출이 입증된 26명에게 위자료 10만 원, 민감정보가 유출된 23명에겐 30만 원, 개인정보·민감정보가 모두 유출된 44명에겐 40만 원을 지급하라고 판결했는데요. 2017년 인터파크 해킹사건에서는 1인당 보상액 10만 원, 2020년 하나투어 개인정보 유출 사건에서는 10~30만 원이었던 것을 감안하면 기존 개인정보 유출 사건들 대비 1인당 보상액이 높은 편에 속합니다.
3. AI 시대의 법적 기준, 이제 막 시작되는 새로운 영역
개발사 스캐터랩 측은 바로 항소했지만, 이 판결이 AI의 개인정보 학습에 대한 첫 법적 제재인만큼 ‘기술 발전의 속도만큼 개인정보 보호와 윤리적 책임에 대한 고려가 필수적’이라는 법원의 메시지는 확실합니다.
앞으로 AI 개발 및 서비스 운영에 있어 기업들은 다음과 같은 사항들을 반드시 고려해야 합니다.
데이터 수집의 투명성과 동의: AI 학습에 필요한 데이터를 수집할 때에는 정보 주체로부터 명확하고 구체적인 동의를 받아야 합니다. 특히 민감 정보를 포함하는 경우에는 더욱 엄격한 동의 절차가 요구됩니다.
개인정보 비식별화 및 익명화: 수집된 데이터는 개인정보 유출의 위험을 최소화할 수 있도록 철저한 비식별화 및 익명화 조치를 거쳐야 합니다. 기술적으로 완전한 익명화가 어렵다면, 해당 데이터를 개인정보로 간주하고 그에 따른 보호 조치를 취해야 합니다.
AI 윤리 가이드라인 준수: AI 개발 단계부터 윤리적 가이드라인을 설정하고 이를 준수해야 합니다. AI 윤리는 단순히 법적 규제를 넘어, 사회적 신뢰를 구축하고 지속 가능한 AI 산업 발전을 위한 필수 요소입니다.
지속적인 개인정보 보호 시스템 강화: AI 기술이 발전함에 따라 개인정보 침해 방식도 다양해질 수 있으므로, 기업은 개인정보 보호 시스템을 지속적으로 업데이트하고 강화해야 합니다.
4. AI 시대 최적의 법률 파트너 법무법인 슈가스퀘어
법무법인 슈가스퀘어 정보통신기술팀은 IT 및 AI 분야의 소송과 자문 업무에 풍부한 경험을 갖춘 전문가들로 구성되어 있습니다. AI·데이터 산업 전반에 대한 깊이 있는 이해와 실무 역량을 바탕으로, 개인과 기업이 AI 시대의 다양한 법적 과제에 균형 있게 대응할 수 있도록 전문적으로 지원합니다.
데이터 활용과 개인정보 보호 간 균형을 고려한 개인정보보호법 준수 자문
데이터 기반 서비스의 법률 자문
AI 윤리 및 책임성 확보를 위한 내부 가이드라인 수립
분쟁 발생 시 피해자 보호와 기업의 책임을 함께 고려한 법적 대응 전략 마련
AI 산업의 빠른 성장 속에서, 기술 혁신과 함께 개인정보 보호 및 윤리적 책임에 대한 고려는 더 이상 선택의 문제가 아닙니다. 법무법인 슈가스퀘어는 AI 기술이 신뢰받는 방식으로 사회에 자리 잡을 수 있도록, 기업과 사회 구성원이 모두 공감할 수 있는 법적 기준과 실천 방안을 함께 고민합니다.
AI와 데이터 관련 법률 문제로 고민 중이시라면, 언제든 슈가스퀘어에 문의하세요.
균형 잡힌 AI 비즈니스를 위한 든든한 파트너가 되어 드리겠습니다.
[상담문의]
Tel: 02-563-5877
H.P: 010-2931-5873
카톡 '법무법인슈가스퀘어' 검색 또는 카카오톡 상담링크
e-mail: help@sugar.legal
서울특별시 강남구 테헤란로113길 7 백암아트센터별관 2층