WakaraNai

Computer Vision Task의 종류 Semantic Segmentation 사진 속에 어떤 대상이 나타나는지 식별 다만 대상 별 개수를 셀 수 없음 이는 그저 해당 군집(class)에 맞는 픽셀로 지정하는 것뿐이라서 sliding window를 이용하여 분류 문제로 처리할 수 있다. 각 픽셀 별로 축소된 이미지를 unpooling(upsampling) 하면서 커지게 생성하는 식으로 진행 Semantic Segmentation Encoder-Decoder Model이라고도 부르며, 대표적으로 FCN(Fully Convoluitonal Network)가 있다 인접 픽셀의 값을 복사해가면서 진행 Instance Segmentation 각 클래스마다 개수를 셀 수 있다 대표적으로 Mask RCNN이 있..

convolutional 방식은 구조적으로 바로 옆 픽셀이 아니라면 볼 수 없음 즉 전체적인 이미지를 고려하는 것이 어려움 그래서 attention을 이용 각 픽셀의 중요도를 또다른 행렬로 표현하여 곱셈을 통해 중요한 지점을 부각시키기 Key, Query, Value key와 query의 유사도를 찾기 위해 를 구한 뒤 softmax를 적용하여 0~1로 치환 이렇게 나온 attention map을 value에 곱해서 어떤 녀석이 더 중요한지 알아냄 Attention은 GPT-3, BERT, Transformer 등 다양히 이용 Transformer Model Architecture Encoder Block Decoder Block

Generator는 진짜같은 가짜를 생성하고 Discriminator는 진짜와 생성된 가짜를 구분하며 서로 성장하는 구조 Generator는 Latent Space로부터 기본 이미지를 가져와 fake image를 생성 GAN 종류 0-1. Generative Adversarial Nets (2014) - Ian Goodfellow가 최초로 제안한 논문 - Generator에 ReLU activation과 Discriminator에 Max activiation을 배치 0-2. DCGAN (Deep Convolutional Generative Adversarial Network) (2015) GAN의 Generator와 Disciminator에 deep convolutional neural network를 ..

https://towardsdatascience.com/understanding-latent-space-in-machine-learning-de5a7c687d8d Latent 데이터를 압축하는 방식. 이 과정에서 '숨겨진', '잠재의' latent 단어를 사용하게 된 것. 데이터 압축은 원래 표현보다 적은 비트를 사용하여 정보를 encoding하는 과정. 이미지 분류 모델이 학습이 진행될 수록 이미지 차원이 기하 급수적으로 증가한다. 그래서 이전에 감소시키는 과정을 넣음. 여기서 압축된 데이터를 재구성하는 모델이 필요한데 decoder역할을 하게 된다. 그럼 noise를 무시하는 방법을 학습하여 불필요한 정보를 제거할 수 있다는 장점이 있다 Space t-SNE와 같은 도구를 통해 2,3 차원 너머의 공..

순서 편향은 사물의 순서가 사물 선택에 영향을 줄 수 있는 경우입니다. 예를 들어 좋아하는 TV 프로그램을 물어보고 "왕좌의 게임", "킬링 이브", "트래블러", "닥터 후"의 순서로 나열하면 '왕좌의 게임'을 선택할 가능성이 더 큽니다. '왕좌'는 여러분이 잘 알고 계시며 가장 먼저 보게 되는 것입니다. 다른 TV 프로그램과 동일하더라도. 따라서 데이터 세트의 데이터를 훈련할 때 시퀀스가 ​​비슷한 방식으로 훈련에 영향을 미치는 것을 원하지 않으므로 섞는 것이 좋습니다. https://www.coursera.org/learn/tensorflow-sequences-time-series-and-prediction/supplement/Qo0TU/sequence-bias Coursera | Online Co..

e의 지수승을 표현하는 방법 1. math.exp(x) math 라이브러리는 실수(real number)를 입력값으로 받아 그 반환값도 real number 형태로 나온다 2. np.exp(x) import numpy as np 에 있는 함수로, 실수가 아닌 입출력 모두 vector 형태로 처리한다 vector 형태를 이용하게 되면 for-loop을 거치지 않고 처리하게 되어 처리 속도가 굉장히 빨라진다 함수로 처리하기 import numpy as np def sigmoid(x): s = 1 / (1+np.exp(-x) return s Sigmoid Gradient back propogation으로 loss 함수를 최적화하기 위해 gradient를 계산해야 한다. def sigmoid_derivative..