본문 바로가기
반응형

분류 전체보기46

[EECS 498-007] lec8. CNN Architectures *강의 영상*: https://www.youtube.com/watch?v=XaZIlVrIO-Q&t=2390s      저번 강의에서 우리는 CNN의 구성요소와 각 layer와 하이퍼 파라미터들이 어떤 것을 하고 왜 존재하는지에 대해 배워보았고 이러한 기본 요소들을 어떻게 조합하여 고성능의 CNN을 만들 수 있는지에 대한 생각을 해보게 되었다.  오늘은 해가 지남에 따라 CNN 아키텍처의 발전에 대해 알아보자.ImageNet 대회는 CNN 아키텍처의 발전에 중요한 역할을 했다. 2010년과 2011년 대회 초기에는 CNN이 아닌 전통적인 방법들이 사용되고 그나마 지금같은 형태를 띄는 아키텍처 중 LeNet-5가 있었지만, 2012년 AlexNet이 등장하면서 상황이 크게 변화했다. AlexNet은 당시로서.. 2024. 8. 13.
[EECS 498-007] lec7. Convolutional Networks *강의 영상*: https://www.youtube.com/watch?v=ANyxBVxmdZ0     이전 강의에서 기울기 계산을 효율적으로 수행하기 위한 역전파 알고리즘과 Computational Graph에 대해 알아보았다. 오늘은 딥러닝에서 중요한 주제 중 하나인 Convolutional Neural Networks, CNN에 대한 내용을 다루고 있다. 강의를 통해 CNN의 기본 개념부터 작동 원리, 다양한 레이어의 구성 요소까지 상세히 알아보자.      기존의 선형 분류기와 Fully Connected Neural Network은 이미지의 2D 공간 구조를 무시한다는 문제가 있다. 이미지를 1차원 벡터로 flatten한 후 이를 모델에 입력하는 방식은 이미지의 중요한 공간적 정보를 손실하게 만든.. 2024. 8. 12.
[알고리즘/Python] Brute Force 심화 문제 백준 1065번 문제이다 https://www.acmicpc.net/problem/7568  문제우리는 사람의 덩치를 키와 몸무게, 이 두 개의 값으로 표현하여 그 등수를 매겨보려고 한다. 어떤 사람의 몸무게가 x kg이고 키가 y cm라면 이 사람의 덩치는 (x, y)로 표시된다. 두 사람 A 와 B의 덩치가 각각 (x, y), (p, q)라고 할 때 x > p 그리고 y > q 이라면 우리는 A의 덩치가 B의 덩치보다 "더 크다"고 말한다. 예를 들어 어떤 A, B 두 사람의 덩치가 각각 (56, 177), (45, 165) 라고 한다면 A의 덩치가 B보다 큰 셈이 된다. 그런데 서로 다른 덩치끼리 크기를 정할 수 없는 경우도 있다. 예를 들어 두 사람 C와 D의 덩치가 각각 (45, 181), (5.. 2024. 8. 11.
[EECS 498-007] lec6. Backpropagation *강의 영상*: https://www.youtube.com/watch?v=dB-u77Y5a6A    이전 강의에서 Space Wrapping, 신경망의 비선형성과 비볼록성(non-convexity)으로 인해 이론적인 보장이 적다는 단점이 있고 이론적으로 보장된 결과를 얻기 어렵지만, 그럼에도 신경망이 선형 분류기보다 훨씬 강력한 계산 능력을 제공한다는 것을 배웠다. 신경망은 비선형 결정 경계를 학습할 수 있으며, 이를 통해 보다 복잡한 데이터 구조를 처리할 수 있다. 그러나 이전에 말했던 convexity issue로 인해 손실 함수를 최소화하는 것이 어려울 수 있으며, 여기서 역전파 알고리즘이 중요해진다.      오늘 6강에서는 역전파(Backpropagation) 알고리즘에 대해 다루며, 이는 신경.. 2024. 8. 8.
반응형