GPT3 자연어 처리 논문 리뷰 : [나동빈] 딥러닝 기반의 최신 언어 모델(GPT)의 개인정보 유출 문제: Extracting Training Data from Large Language Models ● 리뷰하신 나동빈님의 설명 요약 - 오늘 영상에서 다루는 논문은 GPT-2처럼 큰 언어 모델(large language model)에서 학습 데이터(training data)를 추출하는 공격 방법을 제안합니다. - 본 논문은 2020년 12월에 출간되었으며, 다양한 AI 서비스에서 널리 쓰이고 있는 "학습된 GPT-2 네트워크로부터 해당 네트워크가 학습 당시에 사용했던 개인정보가 포함된 학습 데이터"를 추출하는 것이 가능함을 보였습니다. - 본 논문에서 제안한 메서드는 언어 모델을 기반으로 하는 서비스가 배포되기 전에, 모델의 취약점을 분석하기 위한 목적으로 효과적으로 사용될 수 있습니다. ● 학습 기대 효과 ① 딥러닝 기반의 큰 언어 모델에 대한 개인정보 추출 공격 방법을 이해할 수 있습니다. ② 언.. 2021. 6. 30. [KoreaUniv DSBA] 강필성 교수: 08-4: GPT (Kor) Unstructured Data Analysis 08-4: GPT - Generative Pre-Trained Word Vectors - Transformer Decoder https://github.com/pilsung-kang/text-... 2021. 3. 8. [NIA] 지능정보사회 - 새로운 지능화 시대 도래 ■ 목차 "지능화 시대, 새로운 대한민국으로 빅디자인하라" Ⅰ. 새로운 지능화 시대 도래 Ⅱ. 지능화 서비스의 현실화(AI Everywhere) Ⅲ. 지능화로 급변하는 경제사회 모습 Ⅳ. 지능화의 시급성과 대응 전략 ........................................................................................... I. 새로운 지능화 시대 도래 "인간과 지능 기술의 협업과 공존" 1. 범용기술(GPT: General-Purpose Technology)로 진화하는 지능기술 □ 범용기술은 장기간에 걸쳐 인류사회를 근본적으로 변화시키고 혁신을 유발 - 산업사회 발전에 따라 개발된 철도·자동차·전기 등의 범용기술이 지속적으로 사회 혁신을 견인하고 .. 2017. 3. 18. 이전 1 다음
