렉시스넥시스 블로그

[AI시리즈3] 피해자 변호사 측, 논란의 중심인 한국 AI 챗봇의 데이터셋이 사용자의 개인적인 세부 정보를 공개했다고 주장

Written by 렉시스넥시스 마케팅 | 2022. 11. 28 오전 4:31:03

 

오늘 논란의 중심인 한국 AI 챗봇의 사생활 침해로 인한 피해 보상을 요구하는 피해자 변호사 측은 챗봇의 훈련을 위해 사용된 데이터셋에는 생리 주기와 성관계 및 피임 등 사용자의 민감한 개인 정보가 포함되어 있다고 서울 법원에 제기했습니다.

2022526 | 09:38 GMT | 인사이트

이우영 작성

오늘 논란의 중심인 한국 AI 챗봇의 사생활 침해로 인한 피해 보상을 요구하는 피해자 변호사 측은 챗봇의 훈련을 위해 사용된 데이터셋에는 생리 주기와 성관계 및 피임 등 사용자의 민감한 개인 정보가 포함되어 있다고 서울 법원에 제기했습니다.

"우리는 원고 몇 명이 소유했던 증거인 데이터셋의 일부를 얻는데 성공했고 해당 데이터셋에 매우 민감한 정보가 포함되어 있다는 것을 발견했습니다," 253명의 사용자를 대표하는 한 변호사가 서울 동부 지방 법원에서 판사들에게 말했습니다.

"대화 데이터셋에는 사용자 이름, 생리 주기, 성관계, 심지어 은행 계좌 번호도 포함되어 있습니다."라고 변호사가 말했습니다. "성관계, 생리 주기, 직업, ID, 비밀번호에 대한 유사한 정보가 다른 데이터셋에서도 드러났습니다." 변호사는 또한 민감한 정보가 챗봇의 머신 러닝에 사용되었을 뿐만 아니라 챗봇이 실제 대화를 할 때 검색한 답변 데이터셋에 포함되었다고 말했습니다.

변호사 팀이 챗봇 회사에서 얻은 대화 데이터셋에는 11명의 사용자 뿐이었고 여전히 나머지 242명의 사용자를 위한 데이터셋이 필요하다고 덧붙였습니다. 챗봇 개발자 측 변호사는 반박 자료에서 회사가 이용자들의 동의를 얻어 동의 범위 내에서 자료를 사용했다고 주장했습니다. "회사는 민감한 정보에 관한 법을 위반하지 않았고 데이터를 적절하게 처리했습니다," 라고 개발자 측 변호사가 말했습니다.

챗봇 개발업체인 스캐터랩은 지난해 동의 없이 사용자의 개인정보를 불법적으로 수집하고 정보를 특정 목적 외에 사용한 혐의로 1억330만원(9만3000달러)의 벌금을 부과 받은 사례가 있습니다.

개인 정보 보호 위원회는 회사가 사용자의 데이터를 잘못 관리하고 국가의 개인 정보 보호법을 위반했다고 결론 내렸습니다. 감사원 조사 결과 다른 문자관계 분석 서비스 이용자 60여만 명이 보유한 94억여 건의 모바일 채팅을 수집해 데이터 수집 목적을 명확히 밝히지 않은 채 AI 챗봇 서비스 학습자료로 활용한 것으로 드러났습니다.

다음 공판은 7월 21일 서울동부지방법원에서 열릴 예정입니다.

 

 

 

 

산업 별 규제 정책, 소송에 대한 정보를 얻는 법

MLex는 다양한 분야의 규제 정책, 시행 및 소송 개발에 대한 미래지향적인 시장 통찰력, 분석 및 해설을 제공하는 뉴스 서비스입니다. MLex가 주로 다루는 토픽은 독점 금지 및 합병 허가, 데이터 개인 정보 보호 및 보안, 기술 및 통신 규제, 뇌물 방지 및 부패 방지, 금융 서비스 규제, 에너지 및 기후, 그리고 국제 무역을 포함합니다. MLex만의 콘텐츠는 14개 국제 지국에 걸쳐 90명 이상의 기자로 구성된 네트워크에 의해 개발됩니다. 세계 유수의 로펌, 헤지펀드, 자문 회사 등 많은 기업들이 전 세계적으로 어떤 규제 변화가 일어나고 있으며 이것이 비즈니스에 어떤 영향을 미치는지에 대한 분석 도구로 MLex 콘텐츠를 사용하고 있습니다. 이들은 규제 변화에 의해 야기되는 기회를 활용하고 위험을 완화할 수 있는 유리한 위치에 있는지 확인하기 위해 당사의 보고에 의존하고 있습니다.

MLex는 업계 전반에 걸쳐 기업이 직면하고 있는 데이터, 개인 정보 및 보안 문제에 대한 규제 뉴스 업데이트를 보고하는 데 주력하는 전담 글로벌 팀을 보유하고 있습니다. 규제당국과 많은 관할권의 국회의원들은 현재에도 보안 문제에 대해 감시하기 위한 법적 틀을 만들고 있습니다. 이에 발맞추어 기업들도 컴플라이언스를 개발하는 방식을 형성하고 있습니다. MLex는 새로운 규정이나 법률의 채택, 구현 및 시행에 이르기까지 전체 데이터 개인 정보 보호 및 데이터 보호 프로세스를 포괄합니다.

전 세계에 전문 기자들이 있는 MLex는 기업이 직면한 규제 리스크를 식별하고 분석하는 데 주력하는 세계 최고의 뉴스 기관입니다. 기술 및 온라인 플랫폼 분야만큼 리스크가 커지는 곳은 없습니다. 또한, 데이터 개인 정보 보호와 보안에 대한 우려는 글로벌 무역 관계, 인수 합병 및 미국과 중국 간의 계속되는 지정학적 경쟁에도 점점 더 영향을 미치고 있습니다. 데이터, 개인 정보 보호 및 사이버 보안은 규제, 시행 및 준수의 새로운 주요 전선을 나타냅니다. MLex는 수년 동안 최신 데이터 개인 정보 보호 및 기술 부문인 GDPR 및 CCPA의 보호 개발에 대한 규제 뉴스를 통해 이 신흥 위험 영역을 다루는데 앞장서 오고 있습니다.