반응형 딥러닝 구현2 딥러닝 구현 및 시각화 해보기 저번 시간에 딥러닝 구현에 대한 디테일을 살펴보았다. 이번에는 코드로 구현해보자. #붓꽃 품종 분류 문제(전체 코드))#은닉층 활성화 함수: ReLU#출력층 활성화 함수: 소프트맥스 함수#손실 함수: 교차 엔트로피 오차#최적화 알고리즘: 확률적 경사 하강법#배치 사이즈: 8#은닉층의 뉴런 수: 25#코드 흐름#1. 데이터 입력과 전처리#2. 각 층 구현#3. 신경망 구축#4. 미니 배치법으로 학습#5. 정답률 측정import numpy as npimport matplotlib.pyplot as pltfrom sklearn import datasetsiris_data = datasets.load_iris()input_data = iris_data.datacorrect = iris_data.targetn.. 2024. 2. 14. 딥러닝 다층화에 의한 문제점 및 구현에 필요한 과정 딥러닝의 다층화에 따른 문제는 몇가지 존재한다. - 국소 최적해 함정- 과적합- 기울기 손실- 장기간의 학습 시간 A같은 지점에서 전역 최적해가 아닌 국소 최적해에 빠져 학습이 더 이상 진행이 되지않을 수 있다. 큐브 맞출 때를 예로 들자면, 한 면만 맞춘 것이 A에 대한 예이다. 또한 B의 지점 같은 경우는 기울기가 급감해서 더 이상 진행 되지 않는다. 큐브를 아무리 맞춰도 면이 맞추어지지 않는 상황을 예로 들 수 있다. 문제 해결 방안 최적화 알고리즘으로 변경배치 사이즈 최적화하이퍼 파라미터 최적화규제화가중치 초깃값 최적화조기 종료데이터 확장드롭아웃(dropout)데이터 전처리 하이퍼 파라미터 최적화는 매우 필수 적이다. 가중치와 편향은 학습을 통해 조정되지만, 신경망 층 수와 뉴런 수.. 2024. 2. 11. 이전 1 다음 반응형
