[인공지능 만화] 10. 홉필드 네트워크 톺아보기

1982년 물리학자 존 홉필드 John J. Hopfield 가 제안한

홉필드 네트워크는

신경망의 물리적 모델로서

최적화나 연상기억 등에 사용되는 모델입니다.

홉필드 네트워크는

모든 뉴런이 양방향으로 연결된

신경회로망의 동작모델로서

이진 입력(0, 1)을 받아

양(+)과 음(-)의 에너지 상태를 출력합니다.

이 모델은 다음과 같은 알고리즘으로 구성됩니다.

(1) 학습패턴에 양극화 연산 적용
(2) 학습패턴에 대한 가중치 행렬 계산
(3) 계산된 가중치 행렬 저장
(4) 입력패턴에 대한 학습패턴을 연상

사례를 들어보겠습니다.

먼저 학습패턴이 주어집니다.

이 학습패턴은 이미 이전의 학습으로 주어진 패턴입니다.

홉필드 네트워크 알고리즘의 첫번째 단계는

기존의 학습패턴을 양극화(특징을 증폭)하는 것입니다.

이것은 중요한 특징을 중심으로 일치하는지 보기 위함입니다.

다음 단계로 가중치 행렬을 구합니다.

 

가중치 행렬을 저장합니다.

이 글에서는 '그냥 기억해두겠습니다'가 더 어울릴 듯 합니다.

아래서 써먹을 예정이거든요.

이제 새로운 입력패턴이 들어옵니다.

보다 정확히는 새로운 입력패턴이 제시된다고 봐야겠습니다.

우리는 이것이

우리가 알고 있던 어떤 학습패턴과 일치하는지를

파악하고자 합니다.

먼저 임계값을 구합니다.

이 임계값은 정확한 답이 안나왔을 때(일치하는 학습패턴이 없을 때) 조정하게 됩니다.

 

이제 최종적으로 뉴런이 동작할 차례입니다.

이런 뉴런의 기능은 활성함수가 담당합니다.

이로써 입력패턴의 홉필드 네트워크를 통한 변형된 입력패턴이 구해졌습니다.

이 입력패턴을 보니 기존 학습패턴 중 하나와 일치하는군요.

그러면 반복없이 '일치하는 학습패턴으로 연상'합니다.

용어가 어렵습니다. 쉽게 풀어쓰면 '일치하는 학습패턴과 같다고 판단'합니다.

만일 기존 학습패턴과 일치하지 않으면

임계치를 조정해가며

어느 학습패턴에 유사한지 파악합니다(반복).

(출처)

https://twinw.tistory.com/26 

홉필드 네트워크(Hopfield network)

 

---

적송 권건우

http://blog.naver.com/redpine71 

적송 숲에서 한가로이 거닐다 : 네이버 블로그

공무원을 꿈꾸며 대학에 들어갔으나 동서양문화에 심취하여 수많은 사부님들을 찾아다녔고 기나긴 갈구끝에 서울 인사동과 중국 하남성 황토벌판 그리고 실리콘밸리에서 스승을 만났다. 지금은 산에서 내려와 많은 친구들과 동서문명을 융합시키는 새로운 도전의 여정에 있다.

前 삼성SDS technical architect

現 위데이터랩 대표이사

現 디랩아카데미 원장

現 성균관대, 한양대 겸임교수

現 세계진소왕태극권총회 서울분회장

#야만인 #동서양문화연구 #위데이터랩 #서예 #진소왕태극권

루나 허령

https://brunch.co.kr/@hvnpoet 

루나의 브런치

 

컴퓨터과학과 소프트웨어공학을 전공하고, 지금은 금융회사의 상품과 서비스를 분석, 설계, 구현하는 일을 하고 있다. 대학 초년생 시절 마인드맵을 접한 이후 즐겁게 생각하는 방법을 깨달았고, 소프트웨어공학의 모델링 사상을 이해하고부터는 마인드맵과 모델링을 아우르는 마인드맵모델링을 연구 중이다. 세상에 대한 공학적인 접근 이외에도 마음공부와 서예, 태극권 등으로 자신과 세상의 경계를 넘어 진리를 탐구하고 있다.

#야만인 #마음공부 #마인드맵 #모델링 #서예 #진소왕태극권 #천상병