▶ 딥러닝에서의 최적화 이번 글에서는 이전 글에서 언급된 Gradient Descent와 Regularization 기법에 대해 알아보려고 합니다 :) 0. 최적화 개념 최적화(Optimization) 딥러닝 분야에서 최적화(Optimization)란 손실 함수(Loss Function) 값을 최소화 하는 파라미터를 구하는 과정입니다. 딥러닝에서는 학습 데이터를 입력하여 네트워크 구조를 거쳐 예측값을 얻습니다. 이 예측값과 실제 정답과의 차이를 비교하는 함수가 손실 함수(Loss Function)입니다. 즉, 모델이 예측한 값과 실제값의 차이를 최소화하는 네트워크 구조의 파라미터(Feature)를 찾는 과정이 최적화입니다. 최적화 기법에는 여러 가지가 있으며, 잠시후 살펴봅시다. 1. Gradient D..
▶ MLP(Multi-Layer Perceptron) A to Z 이번 글에서는 MLP가 등장하게 된 배경부터 학습하는 방법까지 알아보려고 합니다 :) 1. Deep Learning Perceptron 딥러닝의 시작 개념 classification의 알고리즘 중 하나 구조적인 building blocks로 이루어져 있음 비선형 활성화 함수를 사용 XOR문제를 풀 수가 없음 Neural Networks multi-layer perceptron 뉴럴 네트워크를 형성하기 위해 퍼셉트론을 쌓는 것 backpropagation을 통해 최적화(optimization) layer마다 도출해야 하는 weight들을 backpropagation으로 탐색 2. Perceptron 퍼셉트론은 forward propagati..
▶CNN과 MLP 차이 이전 글에서 딥러닝 종류에 대해서 알아보았습니다. 그런데 특히 CNN(Convolution Neural Network)와 MLP(Multi Layer Percepron)의 그림을 보는 중에 두 그림이 비슷해 보여서 둘의 차이가 궁금해 정리해 보려고 합니다 :) CNN MLP ✔️ kernel을 통해 valid padding과 pooling을 통해 특징점을 추출 ✔️ 이미지의 행렬인 2차원 배열에서 가로, 세로 축 전부 합성곱 연산과 풀링 연산으로 정보 손실 적음 ✔️ 풀링으로 추출한 특징점에 대한 가중치만 계산 ✔️ 연산량이 MLP보다 적음 ✔️ 이미지 행렬을 1차원 배열로 만듦 ✔️ 이를 신경망에 입력으로 넣어서 가중치 계산 ✔️ 공간 정보 손실이 큼
▶딥러닝(ANN, DNN, CNN, RNN, SLP, MLP) 비교 1. Machine Learning vs Deep Learning 딥러닝과 머신러닝의 차이점 실질적으로는 인공지능 > 머신러닝 > 딥러닝 이렇게 포함관계가 됩니다. 하지만 머신러닝과 딥러닝의 차이는 '사람의 개입 여부'가 되겠습니다. 머신러닝과 딥러닝 모두 데이터를 분류하는데 사용하는 기술이지만, 두 기술의 가장 큰 차이점은 사람의 개입 여부입니다. 머신러닝은 주어진 데이터를 인간이 먼저 처리합니다. 사람이 먼저 컴퓨터에 특정 패턴을 추출하는 방법을 지시하고, 그 이후 컴퓨터가 스스로 데이터의 특징을 분석하고 축적합니다. 이렇게 축적된 데이터를 바탕으로 문제를 해결하도록 하는건데요. 예를 들어 개와 고양이의 사진을 보고 개와 고양이의 특..
▶딥러닝 CNN 모델 구현 CNN 모델을 Sequential하게 layer를 쌓아 만들려고 합니다. 참고하면 좋은 도큐먼트를 링크해 놓겠습니다. Sequential 모델 | TensorFlow Core Sequential 모델 컬렉션을 사용해 정리하기 내 환경설정을 기준으로 콘텐츠를 저장하고 분류하세요. 설정 import tensorflow as tf from tensorflow import keras from tensorflow.keras import layers Sequential 모델을 사용하 www.tensorflow.org 이 중에서 다음 부분을 참고하여 모델을 만들어주는 함수를 정의하려고 합니다. 1) 필요한 라이브러리 import import tensorflow as tf from tenso..
▶딥러닝 CNN 알아보기 ⊙ CNN(Convolutional Neural Network) 합성곱 인공 신경망이라고 불리는CNN은 전통적인 뉴럴 네트워크 앞에 컨볼루셔널 계층을 붙인 형태입니다. 컨볼루셔널 계층을 통해서 입력 받은 이미지에 대한 특징(Feature)를 추출하게 되고, 추출한 특징을 기반으로 기존의 뉴럴 네트워크에 이용하여 분류합니다. ⊙ Convolutional Layer 컨볼루셔널 레이어는 입력 데이터로부터 특징을 추출하는 역할을 합니다. 특징을 추출하는 필터(Filter)를 사용하게 되는데, 이때 필터의 값을 비선형 값으로 바꿔주는 액티베이션(activation) 함수를 사용합니다. Filter 필터는 특징이 데이터에 있는지 없는지 검출하는 함수입니다. 필터는 구현할 때 행렬로 정의하게..
- Total
- Today
- Yesterday
- 자바
- 프론트엔드 공부
- 머신러닝
- 리액트 훅
- HTML
- 리액트
- 프론트엔드 기초
- 스타일 컴포넌트 styled-components
- styled-components
- jest
- frontend
- 타입스크립트
- next.js
- 데이터분석
- Python
- 자바스크립트 기초
- 파이썬
- 프론트엔드
- rtl
- react
- react-query
- 프로젝트 회고
- 인프런
- testing
- 자바스크립트
- TypeScript
- JSP
- 딥러닝
- 디프만
- CSS
일 | 월 | 화 | 수 | 목 | 금 | 토 |
---|---|---|---|---|---|---|
1 | 2 | 3 | 4 | 5 | 6 | 7 |
8 | 9 | 10 | 11 | 12 | 13 | 14 |
15 | 16 | 17 | 18 | 19 | 20 | 21 |
22 | 23 | 24 | 25 | 26 | 27 | 28 |
29 | 30 |