개인정보위, AI 관련 자율점검표 발표…개인정보보호 기준 정해 < 정책 < 기사본문

개인정보위원회(위원장 윤종인)는 인공지능(AI) 서비스를 개발하고 운영할 때 발생할 수 있는 개인정보 침해 예방을 위한 'AI 개인정보보호 자율점검표(개발자‧운영자용)'를 31일 공개했다.

인공지능으로 개인정보 처리시 대규모 데이터 처리, 복잡성, 불투명성, 자동화, 불확실성 등이 발생한다. 이 같은 특성을 고려한 조치로 인공지능을 통한 설계, 개발, 운영시 개인 정보를 안전하게 사용할 수 있도록 적용할 예정이다.

이번에 발표한 자율점검표는 개인정보 처리시 개인정보 보호법 관련해 의무적으로 지켜야 할 주요 권장사항에 대해 자율점검할 수 있도록 단계별로 알기 쉽게 담아낸 안내서다.

인공지능 개발과 운영시 관련 개인정보보호 업무처리 과정에서 지켜져야 할 6대 원칙인 ▲적법성 ▲안전성 ▲투명성 ▲참여성 ▲책임성 ▲공정성을 기반으로 16개 항목과 54개의 확인사항을 제시했다.

AI 관련 개인정보보호 6대 원칙

적법성 개인정보의 수집·이용·제공 등 처리의 근거는 적법·명확해야 한다.

안전성 개인정보를 안전하게 처리하고 관리한다.

투명성 개인정보 처리 내역을 정보주체가 알기 쉽게 공개한다.

참여성 개인정보 처리에 대한 소통체계를 갖추고 정보주체의 권리를 보장한다.

책임성 개인정보 처리에 대한 관리 책임을 명확히 한다.

공정성 개인정보를 수집 목적에 맞게 처리하여 사회적 차별·편향 등 발생을 최소화한다.

'개인정보 보호법', AI 윤리기준(’20.12, 과학기술정보통신부), 국제적으로 통용되는 개인정보보호 중심설계 원칙 등을 포함, 산업계의 의견을 충분히 수렴하고 전문가 전체회의 논의 등을 통해 나온 자율점검표는 설문지 형식으로 'YES / NO / 미해당' 중 해당 부분을 선택, 답변하며 점검해 볼 수 있다.

업무처리 주요 점검항목은 8단계별로 다음과 같다.

신규 서비스 개발 관련해서 개인정보 수집에 대한 동의가 필요한 경우 목적을 구체적으로 작성하고, 이용자가 충분히 이해하고 예측할 수 있게 개인정보 수집을 하는 의미 등에 대해 구체적으로 알려야 한다.

AI 학습용 데이터 수집·이용 동의 받는 예시

개인정보 수집항목은 'OO SNS 대화정보'와 같이 이용 항목에 대해 구체적으로 작성한다.

수집·이용 목적에 대해서도 'OO 서비스의 챗봇 알고리즘 개발(학습용)'과 같이 구체적으로 작성한다.

보유·이용 기간은 OO 알고리즘 개발을 위해 O개월 보관하고 이용할지 명시해야 한다.

단, 과학적 연구, 통계 작성, 공익적 기록보존 등 목적으로는 가명 처리해 필요한 최소한의 기간 동안 보유하고, 이용한다.

또한, 동의를 거부할 권리가 있음을 알리고, 거부 시 불이익이 있을 경우에는 그 내용에 대해 기재해야 한다.

잘못된 동의 예시로는 개인정보처리방침에 포괄적인 수집과 이용 목적 등을 포함시켜서 링크를 제공하는 등 정보주체가 해당 내용을 확인하지 않았음에도 동의로 갈음하는 방식 등이 있다.

SNS 대화에서 개인정보가 나오는 데이터인 경우 발화자의 식별정보 뿐 아니라 특정 개인의 식별가능 정보와 사생활 침해 우려 정보를 전부 가명처리 해야 한다. 처리된 가명정보도 불특정 제3자에게 공개, 제공하는 것은 사실상 제한되며, 익명으로 처리하는 것을 원칙으로 한다.

개인정보 유출과 해킹 방지 등을 위해 안전조치를 점검하고, 불필요시에는 개인정보를 안전하게 파기하도록 한다.

AI 서비스 관리, 감독을 통해 인공지능 개발과 운영과정에서 직원의 실수 또는 고의로 개인정보 침해가 발생하지 않도록 했다.

이용자 보호를 목적으로 개인정보를 열람, 정정, 삭제, 처리정지 등 정보주체에 대한 권리보장하는 절차를 마련, 이행하며 개인정보 유출사고에 대비한 점검내용을 제시했다.

개인정보 처리 시 사회적 차별과 편향 등에 대해 최소화할 수 있게 AI를 점검, 개선하고 윤리적 이슈에 대한 판단은 AI 윤리 기준을 참고하도록 조치했다.

그동안 국내·외 논의된 AI 관련 개인정보에 관한 사항은 추상적인 원칙 수준이었다. 그러나 이번 자율점검표는 AI 서비스를 가지고 발생한 개인정보 침해사례와 산업계의 관심사항 등에 대한 실태를 구체적으로 반영해 실제 상황에 도움이 되도록 만들었다.

자율점검표는 인공지능 외 다양한 ICT 서비스 개발과 운영에도 활용할 수 있으며, 신기술 분야의 개인정보 침해 요인에 대한 사전 예방에도 도움을 줄 예정이다.

6월 초에 AI 스타트업 대상 설명회를 개최, 중소기업 컨설팅과 교육 등에 적극 활용하며 지속적인 홍보를 통해 자율점검표가 AI 분야에서 널리 활용할 수 있게 할 전망이다.

윤종인 개인정보위 위원장은 "AI 개발자·운영자가 이번 자율점검표를 적극 활용해 인공지능으로 인한 개인정보 침해를 예방하고, 보다 안전하고 신뢰할 수 있는 인공지능 서비스 환경을 조성하는데 도움이 되길 바란다" 며 "앞으로도 개인정보위는 바이오정보, 자율주행차, 드론 등 신기술 환경변화에 대응하며, 현장에서 개인정보가 안전하게 보호될 수 있도록 노력하겠다"고 말했다.

아울러 관련 기술이 급속도록 발전하면서 개인정보보호 관련법을 제·개정하는 등 인공지능을 둘러싼 환경의 변화를 효율적으로 반영하며 자율점검표를 지속적으로 현행화해 갈 계획임을 밝혔다.

AI타임스 이하나 기자 22hnxa@aitimes.com