본문 바로가기

IT 와 Social 이야기6017

자연어 처리 강의 영상 추천 : [고현웅] Large-scale LM에 대한 얕고 넓은 지식들 (part 1) - 발표 자료 : https://github.com/jiphyeonjeon/season2/tree/main/advanced ★ 영상에서 다룬 내용들 GPT 1, 2, 3 BERT T5 Switch Transformers Message Passing MPI, NCCL, DP Ring All-reduce Horovod DDP Mesh-tensorflow Megatron-LM GPipe, PipeDream, Interleaved Scheduling 3D Parallelism Mixed Precision ZeRO, ZeRO-offload, ZeRO-infinity Deep Speed 1-Bit Adam Progressive Layer Dropping 2021. 6. 17.
자연어 처리 강의 영상 추천 : [Ready-To-Use Tech] 자연어 처리 1차 : 자연어 처리 개요 및 Bag of words 와 TFIDF - 코드: https://github.com/kiyoungkim1/ReadyT... 2차 : word2vec, fasttext와 doc2vec - 코드 : https://github.com/kiyoungkim1/ReadyT... 3차 : transformers - 코드 : https://github.com/kiyoungkim1/ReadyT... 4차 : huggingface 라이브러리 코드 : https://github.com/kiyoungkim1/ReadyT... 2021. 6. 16.
Database 연동하기 (1) - SQLite 1. Database 생성, DB 연결 - 데이터베이스명 : kleagueplayers 2. 테이블 생성 3. 데이터 입력 - 데이터 위치 : https://data.kleague.com/ 데이터센터 > 선수 > 선수목록 4. 데이터 불러오기 5. DB 연결 해제 2021. 6. 15.
[SQLite3로 가볍게 배우는 데이터베이스:SQL 기초 실습] 따라하기 B03 실전 예제 (3) [ 출처 : [SQLite3로 가볍게 배우는 데이터베이스:SQL 기초 실습] 따라하기 B03 실전 예제 (3) ] ■ 전기차 충전소 데이터 정제 1. 데이터 다운로드 - 다운로드 페이지 및 대상 파일 : https://www.data.go.kr/data/15013115/standard.do 2. 데이터베이스 및 테이블 생성 - 데이터베이스 생성 DB명 : 전기차충전소 - 테이블 생성 : CSV 파일 임포트 3. 데이터 정제 - 데이터 확인 : 휴점일 확인 ** 휴점일이 119가지나 되는 것은 상식에 맞지 않음 - 데이터 정제 : 휴점일 기준 정리 ** 휴점일이 69가지로 줌 - 위의 휴점일2와 기존 데이터 비교 조회 - 새로운 컬럼 추가 : 컬럼명 '휴점일2' - 추가한 컬럼 '휴점일2'에 정제한 데이터.. 2021. 6. 14.