본문 바로가기

개인정보 보호3

[IITP] 영상 속 개인식별 정보 비식별화 기술 - 출처 : [IITP] 영상 속 개인식별 정보 비식별화 기술 - 이명재 스마트랩스 부장 II. 기술의 개념 및 내용 1. 영상 속 개인식별 정보 비식별화 기술 - 가상의 얼굴, 가상의 차량 번호판을 생성하여 영상 속 개인식별 정보를 학습이 가능하도록 비식별화하는 기술 - 개인정보 비식별화 동의 여부를 반영한 개인별, 가변적 비식별화 기술 - 비밀키 기반의 비식별화된 개인식별 정보 복원 기술 2. 기술의 특성 및 성능 - 현재의 익명화 방법(블러링, 픽셀화 등)과 달리, 원본 이미지와 매우 유사한 시각적 자연스러움을 유지하여 데이터 유용성을 보장할 수 있음 - 개인정보 비식별화 동의 여부에 따른 선택적 비식별화가 가능 - 특정한 상황에서 비밀키를 기반으로 선택적 재식별화가 가능 3. 우수성 및 차별성 2021. 11. 1.
자연어 처리 논문 리뷰 : [나동빈] 딥러닝 기반의 최신 언어 모델(GPT)의 개인정보 유출 문제: Extracting Training Data from Large Language Models ● 리뷰하신 나동빈님의 설명 요약 - 오늘 영상에서 다루는 논문은 GPT-2처럼 큰 언어 모델(large language model)에서 학습 데이터(training data)를 추출하는 공격 방법을 제안합니다. - 본 논문은 2020년 12월에 출간되었으며, 다양한 AI 서비스에서 널리 쓰이고 있는 "학습된 GPT-2 네트워크로부터 해당 네트워크가 학습 당시에 사용했던 개인정보가 포함된 학습 데이터"를 추출하는 것이 가능함을 보였습니다. - 본 논문에서 제안한 메서드는 언어 모델을 기반으로 하는 서비스가 배포되기 전에, 모델의 취약점을 분석하기 위한 목적으로 효과적으로 사용될 수 있습니다. ● 학습 기대 효과 ① 딥러닝 기반의 큰 언어 모델에 대한 개인정보 추출 공격 방법을 이해할 수 있습니다. ② 언.. 2021. 6. 30.
[Pew Research Center] Privacy in the Digital Age Privacy in the Digital Age from Pew Research Center 2015. 6. 9.