doeunn.log

▶ 딥러닝에서의 최적화 이번 글에서는 이전 글에서 언급된 Gradient Descent와 Regularization 기법에 대해 알아보려고 합니다 :) 0. 최적화 개념 최적화(Optimization) 딥러닝 분야에서 최적화(Optimization)란 손실 함수(Loss Function) 값을 최소화 하는 파라미터를 구하는 과정입니다. 딥러닝에서는 학습 데이터를 입력하여 네트워크 구조를 거쳐 예측값을 얻습니다. 이 예측값과 실제 정답과의 차이를 비교하는 함수가 손실 함수(Loss Function)입니다. 즉, 모델이 예측한 값과 실제값의 차이를 최소화하는 네트워크 구조의 파라미터(Feature)를 찾는 과정이 최적화입니다. 최적화 기법에는 여러 가지가 있으며, 잠시후 살펴봅시다. 1. Gradient D..

▶ MLP(Multi-Layer Perceptron) A to Z 이번 글에서는 MLP가 등장하게 된 배경부터 학습하는 방법까지 알아보려고 합니다 :) 1. Deep Learning Perceptron 딥러닝의 시작 개념 classification의 알고리즘 중 하나 구조적인 building blocks로 이루어져 있음 비선형 활성화 함수를 사용 XOR문제를 풀 수가 없음 Neural Networks multi-layer perceptron 뉴럴 네트워크를 형성하기 위해 퍼셉트론을 쌓는 것 backpropagation을 통해 최적화(optimization) layer마다 도출해야 하는 weight들을 backpropagation으로 탐색 2. Perceptron 퍼셉트론은 forward propagati..

▶CNN과 MLP 차이 이전 글에서 딥러닝 종류에 대해서 알아보았습니다. 그런데 특히 CNN(Convolution Neural Network)와 MLP(Multi Layer Percepron)의 그림을 보는 중에 두 그림이 비슷해 보여서 둘의 차이가 궁금해 정리해 보려고 합니다 :) CNN MLP ✔️ kernel을 통해 valid padding과 pooling을 통해 특징점을 추출 ✔️ 이미지의 행렬인 2차원 배열에서 가로, 세로 축 전부 합성곱 연산과 풀링 연산으로 정보 손실 적음 ✔️ 풀링으로 추출한 특징점에 대한 가중치만 계산 ✔️ 연산량이 MLP보다 적음 ✔️ 이미지 행렬을 1차원 배열로 만듦 ✔️ 이를 신경망에 입력으로 넣어서 가중치 계산 ✔️ 공간 정보 손실이 큼

▶딥러닝(ANN, DNN, CNN, RNN, SLP, MLP) 비교 1. Machine Learning vs Deep Learning 딥러닝과 머신러닝의 차이점 실질적으로는 인공지능 > 머신러닝 > 딥러닝 이렇게 포함관계가 됩니다. 하지만 머신러닝과 딥러닝의 차이는 '사람의 개입 여부'가 되겠습니다. 머신러닝과 딥러닝 모두 데이터를 분류하는데 사용하는 기술이지만, 두 기술의 가장 큰 차이점은 사람의 개입 여부입니다. 머신러닝은 주어진 데이터를 인간이 먼저 처리합니다. 사람이 먼저 컴퓨터에 특정 패턴을 추출하는 방법을 지시하고, 그 이후 컴퓨터가 스스로 데이터의 특징을 분석하고 축적합니다. 이렇게 축적된 데이터를 바탕으로 문제를 해결하도록 하는건데요. 예를 들어 개와 고양이의 사진을 보고 개와 고양이의 특..

▶파이토치로 딥러닝 모델 구현하기 앞서 공부한 내용을 통합해서 딥러닝 모델 구현 실습을 해보겠습니다. [머신러닝] ⑭ 딥러닝 선형 회귀(Linear Regression) ▶딥러닝 선형회귀 선형 회귀의 핵심은 학습 데이트와 가장 잘 맞는 직선을 찾는 작업이라고 할 수 있습니다. ▷라이브러리 import 우선 필요한 라이브러리를 import 해주겠습니다. import torch import t doeunn.tistory.com [머신러닝] ⑮ 딥러닝 다중선형회귀 ▶딥러닝 다중선형회귀 앞서 X와 Y가 하나씩 존재하는 선형회귀에 대해 공부해 보았습니다. 이번에는 X변수가 여러 개인 다중 선형회귀에 대해서 알아보겠습니다. 다중선형회귀는 여러 개의 특 doeunn.tistory.com [머신러닝] ⑯ 딥러닝 로지스..

▶딥러닝 로지스틱 회귀 우선 로지스틱에 대해 알아보고 코드를 살펴봅시다. ▷선형회귀 vs 로지스틱 회귀 션형 회귀도 로지스틱 회귀 모두 지도학습으로 학습 데이터로부터 x → y의 관계를 설명하는 함수(f)를 찾습니다. 둘의 차이점은 선형 회귀는 출력 변수가 연속형, 로지스틱 회귀는 출력 변수가 범주형이라는 것입니다. 선형회귀와 로지스틱 회귀는 공톡적으로 y값을 잘 예측하는 선형식을 찾는 것이 목표이지만, 이때 로지스틱 회귀는 선형식 중에서도 class1과 class2를 구별하기 위한 판별식을 찾아 새로운 관측치가 왔을 때 이를 기존 범주 중 하나로 예측하게 됩니다. ▷로지스틱 회귀모델의 필요성 나이에 따른 혈압 데이터를 예시로 들어보겠습니다. 만약 위 데이터를 선형 회귀 모델로 만들게 된다면 나이에 따른..