💿 Data/부트캠프

[TIL] 83. Image Segmentation, Object Detection/Recognition

키워드 Segmentation(Semantic / Instance) Transpose Convolution Object Detection/Recognition Image Segmentation 하나의 이미지에서 같은 의미를 가진 물체를 단위로 구분해내는 Task 이미지 분류 : 이미지 자체를 하나의 label로 예측(나무 사진을 나무로 예측) 이미지 분할 : 이미지 내에 여러 사물들을 의미있는 단위로 구분 -> 픽셀 단위로 label 예측 [Segmentation] Semantic VS (semantic) Instance Semantic : 위에서와 같이 의미있는 단위로 물체를 구분 ex) 사람 -> 사람, 강아지 -> 강아지 Semantic Instance : 각 개체 별로 구분 ex) 사람1, 사람2..

[TIL] 82. 합성곱 신경망(CNN) 및 전이 학습(Transfer Learning)

키워드 CNN(Convolutional Neural Network) padding, stride, filter Pooling Transfer Learning Image Data Augmentation CNN(Convolutional Neural Network ; 합성곱 신경망) 컴퓨터 비전에서 자주 사용되는 신경망 이미지의 공간적인 특성을 최대한 보존하며 학습하기에 좋음 [CNN]구조 크게 특징 추출 부분 과 분류를 위한 신경망 부분으로 나눌 수 있습니다. [CNN] 특징 추출 부분 [CNN] 합성곱(Convolution) 격자 형태를 가진 이미지 데이터를 특정 격자의 크기를 가진 필터를 통해 합성곱을 진행해나아갑니다. 필터의 격자 갯수가 곧 가중치들이 됩니다. ex) 필터 (5, 5), 필터 갯수 3,..

[TIL] 81. Section4 Sprint2

자연어처리(Natural Language Processing)에 대해서 배웠던 스프린트 추후에 딥러닝 파트에 대해 더 공부하게 된다면 가장 관심 가는 분야여서 많이 기대했던 스프린트이기도 하다. :) - 자연어 처리로 할 수 있는 일들 분류, 번역, 요약, 챗봇, 이미지 캡션 등등 - 텍스트에 대한 전처리 과정 내장메소드 이용, 정규 표현식, 불용어 처리, 통계적 트리밍, 어간/표제어 추출 - 텍스트의 벡터화(컴퓨터가 이해하기 좋게) 회숫 기반 단어 표현(TF, TF-IDF) 분포 기반 단어 표현(Word2Vec) (임베딩 방법 중 하나) - 자연어 모델링 with 순환 신경망(RNN) 연속형 데이터(sequential data), 병렬화 불가/기울기 소실(장기 의존성 문제) LSTM, GRU 등장, A..

[TIL] 80. Transformer

Transformer 기계 번역을 위한 새로운 모델 Attention 메커니즘을 극대화한 모델 구조적 단어가 순차적으로 들어오는 RNN 모델의 단점을 해결하기 위해 등장한 모델 모든 토큰(단어)를 동시에 입력받아 병렬 처리하기때문에 GPU 연산에 최적화(시간이 빠름) 2017년 구글이 발표한 "Attention is all you need"에서 등장한 모델 기존의 seq2seq의 구조인 인코더-디코더 구조를 따르면서 RNN을 사용하지 않고 Attention만으로 구현한 모델 Positional Encoding(위치 인코딩) RNN과 다르게 순차적으로 토큰을 입력받지 않기 때문에, 토큰의 위치 정보에 대한 벡터를 따로 제공해주는 단계입니다. Self-Attention(셀프-어텐션) - 인코더에 위치 The..

[TIL] 79. 인코더-디코더, Attention

인코더-디코더 RNN의 다대일(many to one) 구조는 주로 분류 문제에 사용됩니다.(문장이 들어오면 긍정인지 부정인 판단하는 감성분석 등) 다대다(many to many) 구조는 주로 개체명 인식, 품사 태깅과 같은 문제를 풀게됩니다. 인코더-디코더의 구조는 하나의 RNN을 인코더, 또 다른 하나의 RNN을 디코더로 두는 구조 두개의 RNN을 연결해서 사용합니다. 인코더-디코더 구조는 주로 입렵 문장과 출력 문장의 길이가 다를 때 사용합니다. 대표적으로 번역기, 텍스트 요약 등이 있습니다. seq2seq(Sequence to Sequence) 입력된 시퀀스로부터 다른 도메인의 시퀀스를 출력하는 모델 챗봇, 기계 번역 등 다양한 분야에서 활용되고 있습니다. 입력 시퀀스를 질문, 출력 시퀀스를 대답 ..