인공지능(AI) 서비스가 폭넓게 확산되면서 개인정보 유출과 사생활 침해 우려가 커지고 있다.
이에 개인정보보호위원회는 '생성형 AI 개발·활용을 위한 개인정보 처리 안내서'를 공개했다.
AI 기업이 서비스를 출시할 때 불확실성을 해소하고, 지속적인 혁신 경영을 가능케 하는 가이드라인이 될 것으로 기대된다.
개인정보위는 6일 서울 중구 소재 정동 1928 아트센터에서 생성형 AI와 프라이버시 관련 세미나를 열고 해당 안내서를 발표했다.
챗GPT 등 상용 거대언어모델(LLM) 서비스를 활용하거나 오픈소스 LLM을 미세조정해 서비스를 개발·제공하는 사업자에게 유용한 안내서가 될 것으로 보인다.
개인정보위는 올해 초부터 내부 검토와 외부 전문가 의견 수렴을 거쳐 안내서 초안을 마련하고 지난달 민관 정책협의회와 전체회의를 거쳐 공개본을 확정했다.
안내서 주요 내용을 보면, 먼저 생성형 AI 기술을 통해 달성하고자 하는 구체적 목적을 설정토록 했다.
또 학습에 필요한 데이터에 개인정보가 포함될 수 있으므로, 개인정보 처리 목적은 구체적이고 명확하며 합법적으로 설정돼야 한다고 강조했다.
공개된 개인정보라고 해도 무분별한 스크래핑은 권리 침해 우려가 있기 때문에 적법성, 안전성 확보에 주의를 기울여야 한다고 밝혔다.
사용자 동의와 계약, 정당한 이익 등에 기초해 수집된 개인정보는 AI 서비스 개선과 고도화해 이용할 수 있도록 했다.
다만 데이터를 악의적으로 손상시키는 데이터 오염, 데이터 편향성과 부정확성 등의 문제에 체계적으로 대응할 필요가 있다고 밝혔다.
특히 주민등록번호와 그밖의 고유식별번호, 계좌번호, 신용카드번호 등은 AI 학습 전 삭제하거나 가명·익명화해야 한다고 강조했다.
생성형 AI 모델로부터 학습데이터에 포함된 개인정보를 추출하는 적대적 공격에 대한 대응도 중요한 과제로 꼽았다.
끝으로 사내 개인정보보호책임자(CPO) 중심으로 AI 책임자, 정보보호 책임자들과 긴밀한 협력을 유지하며 AI 프라이버시 거버넌스 체계를 구축할 것을 당부했다.
중대한 취약점이 발견될 경우 기업 기관 내 이사회 등 최고 의사결정기구에 보고하고, 관련 정부 부처에 신속히 정보를 공유하는 것이 바람직하다고 권고했다.
고학수 개인정보위 위원장은 "명확한 안내서를 통해 실무 현장의 법적 불확실성이 해소되고, 생성형 인공지능 개발·활용에 개인정보 보호 관점이 체계적으로 반영될 수 있을 것으로 기대된다"며 "앞으로도 개인정보위는 '프라이버시'와 '혁신' 두 가치가 상호 공존할 수 있도록 정책 기반을 마련해 나가겠다"고 말했다.
김보경 기자 bkly477@asiae.co.kr
<ⓒ투자가를 위한 경제콘텐츠 플랫폼, 아시아경제 무단전재 배포금지>
