반응형 AI5 [논문리뷰 & 코드살펴보기] Bridging the Gap between Model Explanations in Partially Annotated Multi-label Classification 오늘은 다중 레이블 분류 문제에 대한 논문을 다루어보겠다. 논문:Bridging the Gap Between Model Explanations in Partially Annotated Multi-Label Classification, Youngwook Kim, Jae Myung Kim, Jieun Jeong, Cordelia Schmid, Zeynep Akata, Jungwoo Lee; Proceedings of the IEEE/CVF Conference on Computer Vision and Pattern Recognition (CVPR), 2023, pp. 3408-3417 링크: https://openaccess.thecvf.com/content/CVPR2023/html/Kim_Bridging.. 2024. 10. 30. 컨볼루션 신경망(CNN)(1) 저번 시간엔 각 신경망에 따라 코드로 딥러닝 구현을 해보았다. 이번 시간엔 컨볼루션 신경망(CNN)에 대해 알아보자. CNN에서는 컨볼루션층, 풀링층, 전결합층이 등장한다. 또한 이미지를 유연하고 정밀하게 인식하기 위해 CNN은 일반적인 신경망과는 구조가 조금 다르다. 일반적으로 이미지는 각 픽셀이 인접한 픽셀과 강한 연관성이 있어, 컨볼루션층에서는 출력값이 입력값의 일부로부터만 영향을 받는 국소성(local connectivity, locality)이 강한 처리가 수행된다. 또한 풀링층에서는 인식하는 대상의 위치를 유연하게 처리할 수 있는 구조로 구성되어있다. 이제 CNN의 원리와 구조를 배워보자. 시각 처리 세계 CNN은 생물체의 시각 구조를 모델링한 것으로 우선은 CNN.. 2024. 2. 14. 딥러닝 구현 및 시각화 해보기 저번 시간에 딥러닝 구현에 대한 디테일을 살펴보았다. 이번에는 코드로 구현해보자. #붓꽃 품종 분류 문제(전체 코드))#은닉층 활성화 함수: ReLU#출력층 활성화 함수: 소프트맥스 함수#손실 함수: 교차 엔트로피 오차#최적화 알고리즘: 확률적 경사 하강법#배치 사이즈: 8#은닉층의 뉴런 수: 25#코드 흐름#1. 데이터 입력과 전처리#2. 각 층 구현#3. 신경망 구축#4. 미니 배치법으로 학습#5. 정답률 측정import numpy as npimport matplotlib.pyplot as pltfrom sklearn import datasetsiris_data = datasets.load_iris()input_data = iris_data.datacorrect = iris_data.targetn.. 2024. 2. 14. 딥러닝 다층화에 의한 문제점 및 구현에 필요한 과정 딥러닝의 다층화에 따른 문제는 몇가지 존재한다. - 국소 최적해 함정- 과적합- 기울기 손실- 장기간의 학습 시간 A같은 지점에서 전역 최적해가 아닌 국소 최적해에 빠져 학습이 더 이상 진행이 되지않을 수 있다. 큐브 맞출 때를 예로 들자면, 한 면만 맞춘 것이 A에 대한 예이다. 또한 B의 지점 같은 경우는 기울기가 급감해서 더 이상 진행 되지 않는다. 큐브를 아무리 맞춰도 면이 맞추어지지 않는 상황을 예로 들 수 있다. 문제 해결 방안 최적화 알고리즘으로 변경배치 사이즈 최적화하이퍼 파라미터 최적화규제화가중치 초깃값 최적화조기 종료데이터 확장드롭아웃(dropout)데이터 전처리 하이퍼 파라미터 최적화는 매우 필수 적이다. 가중치와 편향은 학습을 통해 조정되지만, 신경망 층 수와 뉴런 수.. 2024. 2. 11. 이전 1 2 다음 반응형
