[머신러닝] Neural Network

Neural Network

[Neural Network]

1. 인공신경망의 개요

• 생물의 신경망에서 영감을 받은 학습 알고리즘
• 시냅스의 결합으로 네트워크를 형성한 인공 뉴런이 학습을 통해 시냅스의 결합 세기를 변화시켜 문제해결능력을 가지는 비선형 모델
• 다층인공신경망의 경우, 입력층(input layer), 은닉층(hidden layer), 출력층(output layer) 세가지 층으로 구분됨
• 각 층 들은 노드들로 구성되어 있음

1) 입력층: 출력변수를 도출하기 위한 입력변수의 값을 입력하는 역할을 함, n개의 입력 값이 있으면 입력층은 n개의 노드를 가짐

2) 은닉층: 모든 입력노드부터 입력값을 받아 가중합을 계산하고, 이 값을 전이함수에 적용하여 출력층에 전달함, 각 입력노드와 은닉노드들은 모든 가중치를 가지는 망으로 연결되어 있으며, 은닉노드와 출력노드도 연결되어 있음, 가중치는 연결강도로 표현되고 초기에 랜덤으로 주어졌다가 예측값을 잘 맞추는 값으로 조정됨, 전이함수는 비선형함수를 사용하게 되며, 이러한 전이함수를 통하여 출력층에 예측값이 전달되므로 인공신경망이 비선형 모델로서 역할을 함

-인공뉴런: 하나 이상의 이진(on/off)입력과 하나의 이진 출력을 가짐

인공뉴런은 단순히 일정 개수의 입력이 활성화되었을 때 출력을 내보냄

-퍼셉트론: 가장 간단한 인공 신경만 구조 중 하나로 프랑크 로젠블라트가 제안함, 퍼셉트론은 TLU라는 조금 다른 형태의 인공 뉴런을 기반으로 함, 입력과 출력이 이진 on/off가 아니라 어떤 숫자고 각각의 입력 연결은 가중치와 연관되어 있음. TLU는 입력의 가중치 합을 계산하고 그런 다음 계산된 합에 계단 함수를 적용하여 그 결과를 출력함

하나의 TLU는 간단한 선형 이진 분류 문제에 사용할 수 있음, 입력의 선형 조합을 계산해서 그 결과가 임계값을 넘어서면 양성 클래스를 출력하고 그렇지 않으면 음성 클래스를 출력함