/AI Chasm Catalyst

◆ 개인정보위, 생성형 AI 생애주기별 처리 기준 안내서 공개

개인정보보호위원회는 6일 서울 중구 정동 1928 아트센터에서 ‘생성형 인공지능과 프라이버시’ 오픈 세미나를 개최하고 ‘생성형 인공지능 개발·활용을 위한 개인정보 처리 안내서’를 공개했다고 밝혔다.

이번 안내서는 AI 개발 기업과 기관이 개인정보 보호법 적용의 불확실성을 해소하고 자율적 법준수 역량을 높이는데 목적을 두고 있다.

고학수 개인정보보호위원회 위원장은 이번 안내서의 의미를 설명하며 개인정보 보호와 혁신의 균형점을 제시했다. 고 위원장은 서울대 법학전문대학원 교수 출신으로 인공지능과 개인정보 보호 분야의 전문가다.

◆ 4단계 생애주기별 맞춤형 기준 제시

안내서는 생성형 AI 개발과 활용을 4단계 생애주기로 분류해 각 단계별 최소한의 안전조치를 체계적으로 제시했다. 목적 설정 단계에서는 인공지능 개발 목적을 명확히 하고 개인정보 종류와 출처별로 적법 근거를 마련하도록 했다.

전략 수립 단계에서는 개발 방식을 유형별로 나눠 리스크 경감 방안을 안내한다. 서비스형 대형언어모델 활용과 기성 모델 활용, 자체 개발 등 각 유형에 따른 법적 기준과 안전성 확보 방안을 구체적으로 제시했다.

학습 및 개발 단계에서는 데이터 오염과 탈옥 등의 리스크를 고려한 다층적 안전조치를 마련했다. 특히 AI 에이전트 관리 방안도 포함해 최신 기술 동향을 반영했다. 적용 및 관리 단계에서는 정보주체 권리 보장에 중점을 두고 있다.

◆ 업계 현장 적용 가능한 구체적 해결방안 제공

개인정보위는 그간 생성형 인공지능에 대한 안내자료 마련, 사전실태점검 등 집행 사례, 규제샌드박스 및 사전적정성 검토 등을 통해 다양한 정책적 경험을 축적해왔다.

이러한 경험에서 얻은 구체적 사례에 기반한 법 해석 기준과 안전조치 기준을 안내서에 반영했다.

특히 이용자 개인정보를 AI에 학습시킬 수 있는 법적 기준 등 개발과 활용 과정에서 불확실성이 높은 이슈들에 대해 실제 정책 및 집행 사례를 바탕으로 구체적인 해결방안을 제시했다는 점이 주목된다.

◆ 전문가들 “현장 법적 불확실성 해소에 기여”

김병필 KAIST 교수는 “지금 AI는 멀티 에이전트 시스템으로 빠르게 나아가고 있다”며 “변화하는 환경 속에서 발전된 기술을 활용하면서도 충실하게 개인정보를 보호하기 위해 민관이 함께 지혜를 모으는 것이 꼭 필요하다”고 제언했다.

업계에서는 이번 안내서가 챗GPT 등 상용 대형언어모델 서비스를 활용하거나 라마 등의 오픈소스 모델을 미세조정하여 서비스를 개발하는 사업자들에게 실질적 도움이 될 것으로 평가하고 있다.

◆ 최신 기술 동향과 국제 기준 반영

안내서는 AI 에이전트, 지식증류, 머신러닝 등 생성형 AI 개발과 활용에 관련한 최신 기술 동향과 연구 성과를 반영했다. 또한 미국, 영국, 유럽연합 등 주요국 최신 정책자료를 참고해 국제적 흐름도 반영했다.

개인정보위는 안내서가 향후 급속한 기술 발전과 국내외 개인정보 보호 정책 변화에 발맞춰 지속적으로 업데이트될 예정이라고 밝혔다.

◆ CPO 중심 거버넌스 구축 방안 포함

안내서는 전체 과정에서의 개인정보 보호 관점을 내재화하기 위해 개인정보보호책임자 중심의 거버넌스 구축 방안을 제시했다. 이러한 기반에서 기업과 기관이 위 과정을 반복하며 시스템을 고도화하고 개발하는 것을 권장했다.

개인정보위는 이번 안내서를 통해 실무 현장의 법적 불확실성이 해소되고, 생성형 AI 개발과 활용에 개인정보 보호 관점이 체계적으로 반영될 수 있을 것으로 기대한다고 밝혔다.

◆ 국내 데이터 활용 기반 마련 기대

우리나라는 의료, 공공, 금융분야 등에서 세계 최고 수준의 데이터를 축적하고 있다. 이들 데이터는 생성형 AI 발전을 견인하는 핵심 재료로 활용된다.

그러나 생성형 AI의 발전은 프라이버시 침해 위험을 동반할 우려가 있어 개인정보 처리에 관한 명확한 기준 마련이 필수적이었다.

일선 현장에서도 생성형 AI 활용과 관련한 개인정보 보호법 적용의 불확실성을 해소할 수 있는 체계적 안내가 필요하다는 요구가 지속적으로 제기되어 왔다.

◆ 민관 협의회 통해 의견 수렴 과정 거쳐

개인정보위는 올 초부터 내부 검토와 외부 전문가 의견 수렴을 거쳐 안내서 초안을 마련했다. 7월 8일 ‘AI 프라이버시 민관 정책협의회’와 7월 23일 개인정보보호위원회 제16회 전체회의를 거쳐 공개본을 확정했다.

‘인공지능 프라이버시 민관 정책협의회’는 학계, 법조계, 산업계, 시민단체 등 인공지능 분야 차세대 전문가 30여 명으로 구성된 조직으로 2023년 10월 발족했다.

고학수 개인정보위 위원장은 “명확한 안내서를 통해 실무 현장의 법적 불확실성이 해소되고, 생성형 인공지능 개발과 활용에 개인정보 보호 관점이 체계적으로 반영될 수 있을 것으로 기대된다”며 “앞으로도 개인정보위는 ‘프라이버시’와 ‘혁신’ 두 가치가 상호 공존할 수 있도록 정책 기반을 마련해 나가겠다”고 말했다.