[인공지능 만화] 8. 신경세포의 초기모델 ADALINE

1943년 맥클럭 Warren McCulloch 과 피츠 Walter Pitss 가

뇌세포를 처음으로 모델링합니다.

이후 1958년 프랭클린 로젠블랫 Frank Rosenblatt 이

맥클럭과 피츠의 뇌모델에

도널드 헵 Donald Olding Hebb 의 학습이론에서 힌트를 얻은 weight를 추가함으로써

퍼셉트론을 만들어냅니다

이번 이야기의 주제는 사람이 아닌 모델입니다.

신경세포의 초기 모델로 불리는 아달라인 ADALINE 은

스탠포드 대학의 버나드 위드로 Bernard Widrow 와그

의 제자 테드 호프 Ted Hoff 가1960년에 개발한 모델입니다.

퍼셉트론은 순입력함수의 리턴값을

임계값을 기준으로 1과 -1로 분류합니다.

 

아달라인은 순입력함수의 리턴값과

실제 결과값의 오차가 최소화되도록

가중치를 조정합니다.

이 비용함수를 J(w)라 하고,

오차를 계산하기 위해 편차제곱을 합합니다.

이 식은 선형적인 계단함수가 아닌 곡률을 나타내므로

미분이 가능합니다.

좀 더 이해하기 쉽게 그래프로 보면

비용함수 J(w)는 2차함수입니다.

이 곡선의 기울기가 0에 수렴할 때까지 w를 조정하면

J(w)가 최저가 됩니다.

아달라인은 이런 경사하강법 Gradient Descent 을 이용하는데 w를 조금씩 조정하며 찾아갑니다.

 

비용함수 J(w)의 미분값은 이렇게 구합니다.

정리하면

아달라인은 비용함수가 최저가 되는 w값을 찾는 문제로 귀결됩니다.

(출처)아달라인 : Adaline : Adaptive Linear Neuron

http://www.aistudy.co.kr/neural/adaline.htm 

아달라인 : Adaline : Adaptive Linear Neuron

 

ADALINE - Wikipedia

https://en.wikipedia.org/wiki/ADALINE 

ADALINE - Wikipedia

 

[6편] 아달라인(Adaline)과 경사하강법(Gradient Descent) : 네이버 블로그

https://m.blog.naver.com/PostView.nhn?blogId=samsjang&logNo=220959562205&navType=tl 

[6편] 아달라인(Adaline)과 경사하강법(Gradient Descent)

 

---

적송 권건우

http://blog.naver.com/redpine71 

적송 숲에서 한가로이 거닐다 : 네이버 블로그

공무원을 꿈꾸며 대학에 들어갔으나 동서양문화에 심취하여 수많은 사부님들을 찾아다녔고 기나긴 갈구끝에 서울 인사동과 중국 하남성 황토벌판 그리고 실리콘밸리에서 스승을 만났다. 지금은 산에서 내려와 많은 친구들과 동서문명을 융합시키는 새로운 도전의 여정에 있다.

前 삼성SDS technical architect

現 위데이터랩 대표이사

現 디랩아카데미 원장

現 성균관대, 한양대 겸임교수

現 세계진소왕태극권총회 서울분회장

#야만인 #동서양문화연구 #위데이터랩 #서예 #진소왕태극권

루나 허령

https://brunch.co.kr/@hvnpoet 

루나의 브런치

 

컴퓨터과학과 소프트웨어공학을 전공하고, 지금은 금융회사의 상품과 서비스를 분석, 설계, 구현하는 일을 하고 있다. 대학 초년생 시절 마인드맵을 접한 이후 즐겁게 생각하는 방법을 깨달았고, 소프트웨어공학의 모델링 사상을 이해하고부터는 마인드맵과 모델링을 아우르는 마인드맵모델링을 연구 중이다. 세상에 대한 공학적인 접근 이외에도 마음공부와 서예, 태극권 등으로 자신과 세상의 경계를 넘어 진리를 탐구하고 있다.

#야만인 #마음공부 #마인드맵 #모델링 #서예 #진소왕태극권 #천상병