로봇청소기까지…개인정보침해 논란 생성형AI

프린트

Live 중기 ㅣ 경제일반 로봇청소기까지…개인정보침해 논란 생성형AI 학습데이터에서 개인정보 배제 등 조치 확산

기사입력2025-03-06 00:00

이창호 기자 (xg139@junggi.co.kr) ㅣ다른기사보기

로봇청소기까지 개인정보의 수집과 이용에 활용되는 시대다. 이제는 로봇청소기를 이용할 때도 개인정보 수집·이용 항목 및 목적, 개인정보 보관·이전·전송 방식, 제3자 제공·공유 여부 등을 확인할 필요가 생긴 것이다.

개인정보보호위원회는 영상·음성 정보 등을 처리하는 로봇청소기의 개인정보 수집·이용 현황에 대한 사전 실태점검을 진행할 예정이라고 5일 밝혔다. 국내에 출시된 로봇청소기의 주요 브랜드 제품을 중심으로 개인정보법 준수 여부를 살펴볼 계획이라며, 삼성전자·LG전자·로보락·에코백스·샤오미 등을 거론하기도 했다.

로봇청소기는 최근 확대되고 있는 개인정보 수집 논란의 한 단면을 보여준다. 가장 뜨거운 논란은 단연 생성형 AI에서 발생하고 있다. 대화를 나누듯 질문을 던지면 그에 맞는 텍스트나 이미지, 영상 등을 만들어 제공하는 생성형 AI는 사용자가 입력한 다양한 정보를 학습데이터 등으로 활용한다. 결과적으로 AI에 넣은 개인정보가 또 다른 사용자에게 노출되는 일까지 벌어질 수 있다.

최근 시장에 큰 충격을 준 중국의 AI 앱 딥시크는 개인정보 논란 영향으로 국내 서비스를 잠정 중단하기까지 했다.

지난 2월 국내 앱마켓에서 딥시크 서비스가 잠정 중단됐다. 개인정보 처리 미흡을 이유로 개인정보위가 운영 중단을 권고한 결과다. <이미지=이미지투데이>

딥시크 서비스가 출시된 1월 개인정보위는 딥시크 본사에 개인정보 수집·처리 방식 관련 공식 질의서를 보내고 서비스에 대한 자체 분석에 착수했다. 그 결과, 제3사업자와의 통신 기능, 개인정보 처리방침 등에서 미흡한 부분이 확인됐다.

이후 개인정보위는 국내 개인정보법에 따라 딥시크 서비스를 시정하기까지는 상당한 시일 소요가 불가피하다고 판단하고, 추가적인 우려가 확산되지 않도록 우선 잠정 중단 후 개선·보완하도록 딥시크 사에 권고했다. 딥시크 사가 이를 수용해 지난 2월 15일부터 국내 앱마켓에서 딥시크 서비스를 잠정 중단하기에 이르렀다.

AI 활용 확대로 늘어난 개인정보 수집·이용 논란

딥시크만의 문제도 아니다. 지난 2024년 개인정보위는 국내에서 AI 서비스를 제공하는 오픈AI와 구글, MS, 네이버 등 6개 사업자에 대해 개인정보 보호의 취약점을 보완하도록 개선을 권고한 바 있다. 생성형 AI 서비스의 확산에 따른 개인정보 침해 우려에 대한 대응의 일환이었다.

점검 결과, AI 서비스 제공사업자는 인터넷에 공개된 데이터를 수집해 AI 모델 학습데이터로 사용하는데, 이 과정에서 주민등록번호, 신용카드번호 등 한국 정보주체의 중요한 개인정보가 포함될 수 있는 것으로 밝혀졌다.

오픈AI, 구글, 메타는 개인정보 집적 사이트를 AI 모델 학습에서 배제하고, 학습데이터 내 중복 및 유해 콘텐츠 제거조치와 AI 모델이 개인정보를 답변하지 않도록 하는 조치는 적용하고 있으나, 학습데이터에서 주민등록번호 등 주요 식별정보를 사전 제거하는 조치가 충분하지 않은 것으로 확인됐다.

이에 개인정보위는 AI 서비스 제공 단계별 보호조치 강화를 요구하는 한편, 사전 학습단계에서 주요 개인식별정보 등이 제거될 수 있도록 인터넷에 우리 국민의 개인정보가 노출된 것을 탐지한 데이터를 사업자에게 제공하기로 했다.

지금까지는 개인정보위가 행정조치를 취하는 방식으로 AI의 개인정보 논란에 대응해 왔지만, 서비스가 확산되면 보다 체계적인 법제도와 대응이 필요해질 수 있다.

이에 국회는 지난해 12월 본회의에서 AI 기본법을 통과시켰다. 오는 2026년 1월 시행 예정인 AI 기본법은 AI 사업자에게, 생성형 AI 등을 기반한 서비스를 할 경우 이를 사용자에게 고지해야 한다는 등의 의무를 부과하고 있다. 또 대규모 AI를 활용하는 경우에는 안전성을 확보할 의무도 명시했다. 기본권 등에 중대한 영향을 미칠 수 있는 AI인 경우에는 위험의 식별 및 평가와 완화조치 등을 취하도록 했다.

최근 국회 입법조사처에서 펴낸 ‘인공지능(AI) 기본법 시행 전 보완을 위한 입법 과제’ 보고서는, 기본법 상 AI 개발사업자와 이를 이용해 서비스를 제공하는 이용사업자간에 책무를 구분해 법률에 명시할 필요가 있다고 지적했다. 한국의 AI 기본법은 이를 구분하지 않고 있는데, EU의 인공지능법은 AI 제공자와 배포자를 구분하고 각각에 필요한 의무를 부과하고 있다는 것이다. 중기이코노미 이창호 기자