Today I Learned/밑바닥부터 시작한 딥러닝

밑바닥부터 시작하는 딥러닝1,2를 공부하며,,,

이 카테고리에 있는 글들은 제가 '밑바닥부터 시작하는 딥러닝1,2를 공부하면서 정리하기 위해 쓴 글입니다. 모든 글의 출처와 이미지는 이 책의 저자와 출판사에게 있음을 밝힙니다. https://www.aladin.co.kr/shop/wproduct.aspx?ISBN=8968484635&start=pnaver_02 밑바닥부터 시작하는 딥러닝 라이브러리나 프레임워크에 의존하지 않고, 딥러닝의 핵심을 ‘밑바닥부터’ 직접 만들어보며 즐겁게 배울 수 있는 본격 딥러닝 입문서이다. 술술 읽힐 만큼 쉽게 설명하였고, 역전파처럼 어려운 내용은 ‘계산 그래... www.aladin.co.kr 이 글에 사용된 이미지 파일은 아래 깃허브 사이트에서 사용된것임을 밝힙니다. https://github.com/WegraLee/d..

밑바다부터 시작하는 딥러닝1-4장 신경망 학습

CHAPTER 4 신경망학습 학습 : 훈련 데이터로부터 가중치 매개변수의 최적값을 자동으로 획득하는 것. 손살 함수의 결과값을 가장 작게 만드는 가중치 매개변수를 찾는 것이 목표. 함수의 기울기를 활용하는 경사법을 배운다 4.1 데이터에서 학습한다! 신경망은 데이터를 보고 학습할 수 있다.(가중치 매개변수의 값을 데이터를 보고 자동으로 결정한다) 4.1.1 데이터 주도 학습 기계학습은 데이터에서 답을 찾고, 패턴을 발견하고, 이야기를 만든다. 기계학습의 중심은 데이터라고 할 수 있다. 이미지에서 특징을 추출하고 특징의 패턴을 기계학습 기술로 학습한다. 이미지의 특징은 벡터로 기술. 즉, 신경망은 모든 문제를 주어진 데이터 그대로를 입력 데이터로 활용해 ‘END-TO-END’로 학습할 수 있다. 4.1.2..

밑바닥부터 시작하는 딥러닝1 3장-신경망

3.1 퍼셉트론에서 신경망으로 3.1.1 신경망의 예 가장 왼쪽에서부터 입력층, 출력층, 은닉층이라고한다. 은닉층에는 사람 눈에 보이지 않고, 입력층부터 0층, 1층, 2층이라고 한다. 3.1.2 퍼셉트론 복습 퍼셉트론의 수식을 다른 형태로 만들어 보면, 조건 분기의 동작을 하나의 함수로 나타낸다. 이 함수를 h(x)라고 한다. 이 식에서는 입력 신호의 총합이 h(x)라는 함수로 거쳐 변환되어 그 값이 y의 출력됨을 보여준다. 3.1.3 활성화 함수의 등장 활성화 함수는 입력 신호의 총합을 출력 신호로 변환하는 함수. 입력 신호의 총합이 활성화를 일으키는지 정하는 역할을 한다. 3.2 활성화 함수 활성화 함수는 임계값을 경계로 출력이 바뀌는데 이를 계단 함수라고 한다. 그러므로 퍼셉트론에서sms 활성화 ..

밑바닥부터 시작하는 딥러닝1-7장 CNN

Chapter 7. 합성곱 신경망(CNN) 7.1 전체 구조 CNN에서는 새로운 합성곱 계층과 풀링 계층이 추가된다. CNN 계층은 conc-relu-pooling 흐름으로 연결된다. 여기서 중요한 것은 출력에 가까운 층에서는 affine-relu 구성을 사용할 수 있다. 7.2 합성곱 계층 CNN에서는 패딩, 스트라이드 등 CNN 고유의 용어가 등장한다. 그리고 각 계층 사이에 3차원 데이터같이 입체적인 데이터가 흐른다는 점에서 완전연결 신경망과 다르다. ////////그림 7.2 7.2.1 완전연결 계층의 문제점 완전연결계층에서는 인접하는 계층의 뉴런이 모두 연결되고 출력의 수는 임의로 정할 수 있다. 하지만, 완전연결계층은 데이터의 형상이 무시된다는 문제점이 있다. 예를 들면, 이미지는 3차원 데이..

밑바닥부터 시작하는 딥러닝1 2장-퍼셉트론

chapter 2. 퍼셉트론 퍼셉트론(perceptron) : 신경망(딥러닝)의 기원이 되는 알고리즘. 퍼셉트론의 구조를 배우는 것은 신경망과 딥러닝으로 나아가는데 중요한 아이디어를 배우는 일이다. 2.1 퍼셉트론이란? 다수의 신호를 입력으로 받아 하나의 신호를 출력한다. 이 때 신호는 전류나 강물처럼 흐름이 있는 것. 신호도 흐름을 만들고 정보를 앞으로 전달. 가지는 값 : 흐른다/안 흐른다(1 혹은 0). 1 : 신호가 흐른다, 0 : 신호가 흐르지 않는다. X1, X2는 입력신호, Y는 출력신호, W1, W2는 가중치. 그림의 원은 뉴런(노드). 입력 신호가 뉴런에 보내질 때는 각각 고유한 가중치가 곱해진다(W1X1, W2X2). 뉴런에서 보내온 신호의 총합이 정해진 한계를 넘어설 때만 1을 출력(..