반응형 신경망9 [EECS 498-007] lec7. Convolutional Networks *강의 영상*: https://www.youtube.com/watch?v=ANyxBVxmdZ0 이전 강의에서 기울기 계산을 효율적으로 수행하기 위한 역전파 알고리즘과 Computational Graph에 대해 알아보았다. 오늘은 딥러닝에서 중요한 주제 중 하나인 Convolutional Neural Networks, CNN에 대한 내용을 다루고 있다. 강의를 통해 CNN의 기본 개념부터 작동 원리, 다양한 레이어의 구성 요소까지 상세히 알아보자. 기존의 선형 분류기와 Fully Connected Neural Network은 이미지의 2D 공간 구조를 무시한다는 문제가 있다. 이미지를 1차원 벡터로 flatten한 후 이를 모델에 입력하는 방식은 이미지의 중요한 공간적 정보를 손실하게 만든.. 2024. 8. 12. [EECS 498-007] lec6. Backpropagation *강의 영상*: https://www.youtube.com/watch?v=dB-u77Y5a6A 이전 강의에서 Space Wrapping, 신경망의 비선형성과 비볼록성(non-convexity)으로 인해 이론적인 보장이 적다는 단점이 있고 이론적으로 보장된 결과를 얻기 어렵지만, 그럼에도 신경망이 선형 분류기보다 훨씬 강력한 계산 능력을 제공한다는 것을 배웠다. 신경망은 비선형 결정 경계를 학습할 수 있으며, 이를 통해 보다 복잡한 데이터 구조를 처리할 수 있다. 그러나 이전에 말했던 convexity issue로 인해 손실 함수를 최소화하는 것이 어려울 수 있으며, 여기서 역전파 알고리즘이 중요해진다. 오늘 6강에서는 역전파(Backpropagation) 알고리즘에 대해 다루며, 이는 신경.. 2024. 8. 8. [EECS 498-007] lec5. Neural Networks *강의 영상*: https://www.youtube.com/watch?v=g6InpdhUblE&list=PL5-TkQAfAZFbzxjBHtzdVCWE0Zbhomg7r 이전 강의에서는 선형 모델을 사용해 분류기를 구축하는 방법과 손실 함수를 통해 분류기의 성능을 평가하는 방법을 다루었다. 그리고 확률적 경사 하강법(stochastic gradient descent)과 그 변형을 사용해 목적 함수를 최소화하는 방법에 대해 알아 보았었다. 오늘은 Linear classifier, 선형 분류기의 제한과 NN(Neural Network), 신경망에 관하여 알아보겠다. 선형 분류기는 이해하기 쉽고 단순하지만 표현할 수 있는 함수의 종류에 제한이 있으며, 이로 인해 복잡한 데이터셋에서는 성능.. 2024. 8. 7. RNN 사용해서 감정 분석 해보기 Sentiment analysis란 텍스트 데이터에서 감정 상태를 식별하는 자연어 처리의 중요한 과제이다. 저번에는 BERT를 사용해봤고 이번에는 RNN을 사용해 감정 분석을 수행하고 그 성능을 비교해 보겠다. 두 모델의 코드 설명, 성능 지표 분석, 모델 특성 및 성능 비교, 그리고 프로젝트를 통해 얻은 교훈을 포함한다. 다음 사진은 SSLSTM(Sentiment and Semantic LSTM) 아키텍처 구조를 나타내는 사진이다. 감정 분석 분야에 순환 신경망, Recurrent Neural Network 구조가 눈에 띄게 성능을 잘 보이는 듯 하다. 데이터 전처리RNN 모델의 경우에도 BERT와 동일한 전처리 과정을 거친다. URL, 멘션, 해시태그, 숫자, 특수 문자를 제거하고, 중.. 2024. 6. 20. 이전 1 2 3 다음 반응형
