Jayden`s

[TIL] 81. Section4 Sprint2

자연어처리(Natural Language Processing)에 대해서 배웠던 스프린트 추후에 딥러닝 파트에 대해 더 공부하게 된다면 가장 관심 가는 분야여서 많이 기대했던 스프린트이기도 하다. :) - 자연어 처리로 할 수 있는 일들 분류, 번역, 요약, 챗봇, 이미지 캡션 등등 - 텍스트에 대한 전처리 과정 내장메소드 이용, 정규 표현식, 불용어 처리, 통계적 트리밍, 어간/표제어 추출 - 텍스트의 벡터화(컴퓨터가 이해하기 좋게) 회숫 기반 단어 표현(TF, TF-IDF) 분포 기반 단어 표현(Word2Vec) (임베딩 방법 중 하나) - 자연어 모델링 with 순환 신경망(RNN) 연속형 데이터(sequential data), 병렬화 불가/기울기 소실(장기 의존성 문제) LSTM, GRU 등장, A..

[TIL] 80. Transformer

Transformer 기계 번역을 위한 새로운 모델 Attention 메커니즘을 극대화한 모델 구조적 단어가 순차적으로 들어오는 RNN 모델의 단점을 해결하기 위해 등장한 모델 모든 토큰(단어)를 동시에 입력받아 병렬 처리하기때문에 GPU 연산에 최적화(시간이 빠름) 2017년 구글이 발표한 "Attention is all you need"에서 등장한 모델 기존의 seq2seq의 구조인 인코더-디코더 구조를 따르면서 RNN을 사용하지 않고 Attention만으로 구현한 모델 Positional Encoding(위치 인코딩) RNN과 다르게 순차적으로 토큰을 입력받지 않기 때문에, 토큰의 위치 정보에 대한 벡터를 따로 제공해주는 단계입니다. Self-Attention(셀프-어텐션) - 인코더에 위치 The..

[1157]단어 공부

import sys import string S = sys.stdin.readline().lower() alpha_ls = string.ascii_lowercase alpha_ct = [] for i in alpha_ls: count = 0 for j in S: if i == j: count += 1 alpha_ct.append(count) max_ls = [i for i in alpha_ct if i == max(alpha_ct)] if len(max_ls) == 1: print(alpha_ls[alpha_ct.index(max(alpha_ct))].upper()) else : print('?') 1157 단어 공부 words = input().upper() unique_words = l..

[10809]알파벳 찾기

import sys import string S = sys.stdin.readline() alpha_str = string.ascii_lowercase for i in alpha_str: if i in S: print(S.index(i), sep=' ') else: print(-1, sep=' ') 10809 알파벳 찾기

[11720]숫자의 합

import sys N = int(sys.stdin.readline()) n = sys.stdin.readline().rstrip() tot = 0 # for i in range(N): # tot += int(n[i]) for i in n: tot += int(i) print(tot) 11720 숫자의 합 for 문의 int값을 리스트 인덱스에 넣는 게 좋은 방법같진않다. 근데 그렇게 안하자니 N을 사용할 곳이 없어진다.