안녕하세요
딥러닝은 인간의 뇌를 본따서 만들었습니다. 인간의 뇌는 뉴런으로 연결되어있습니다. 뉴런이란 신경전달물질을 통해 신호를 전달하고 정보를 받아들이며 처리하는 역할을 합니다.
위 그림을 보면 뉴런과 뉴런사이에 시냅스라는 연결 부위가 있는데 신경말단부위의 자극이 오면 이 시냅스라는 부위에서 전기적 신호가 생성되어 이 신호가 임계값을 넘으면 신호를 전달하고 못넘으면 아무것도 하지 않습니다.
이 매커니즘은 앞서 포스팅한 로지스틱 회귀랑 매우 닮았습니다.
https://ruminz.tistory.com/278 (로지스틱 회귀란 무엇인가)
이 매커니즘을 본따서 만든 이론이 퍼셉트론 입니다.
퍼셉트론과 아달리안
퍼셉트론은 입력 값을 여러 개 받아 출력을 만드는데 이때 입력값에 가중치를 조절할수 있게 만들어 최초로 '학습'을 하게 되었습니다. 그리고 여기에 경사 하강법을 도입해 최적의 경계선을 그릴 수 있게 한 아달라인이 개발됩니다. 아달리안은 여러 머신러닝의 중요한 알고리즘들로 발전해 가는데 이중 시그모이드 활성화 함수로 사용 한것이 바로 로지스틱 회귀입니다.
퍼셉트론의 한계
이렇게 완벽할것만 같은 퍼셉트론의 치명적인 한계가 보이기 시작했습니다. 퍼셉트론은 위 그림처럼 2차원 평면상에서만 선을 긋는게 가능합니다. 하지만 2차원 평면상에서 최적에 선을 긋는건 한계가 있습니다. 다음 그림을 살펴봅시다.
위와 같은 그림이 있다고 해봅시다. 여기서 직선의 한쪽 편에는 파란색 점만있고 다른 한쪽에는 흰색 점만 있게끔 그을수 있을까요?? 아무리 선을 그어도 해결되지않습니다.
이게 바로 XOR 문제입니다.
XOR 문제
XOR는 논리 회로에 쓰이는 기호중 하나입니다. 논리 회로란 1개 이상의 논리 입력을 일정한 논리 연산에 의해 1개의 논리 출력을 얻는 회로입니다. 흔히 많이 쓰이는 기호는 AND, OR ,NOT 등이 있습니다. 예를들어 AND일경우 두 전자회로에 전기신호의 값이 0이면 결괏값이 0이고 둘중하나가 0이면 0 둘다 1이면 1을 출력합니다.
AND 게이트의 소자는 다음과 같은게 있습니다.
XOR 같은경우 두 전기신호의 값중 하나가 1이면 1을 출력하고 둘다 0이거나 1이면 0을 출력합니다.
AND게이트 ,OR 게이트, XOR 게이트를 그래프로 나타내면 다음과 같습니다.
세로가 x1 가로가 x2 입니다. 그리고 검은색점이 1 흰색점이 0입니다. 보시면 AND와 OR은 두 부분으로 선이 그어지는데 XOR 같은경우 선이 안그어집니다.
이를 해결하기 위해 나온 기법이 다층 퍼셉트론이랑 오차 역전파입니다.
'Coding > AI' 카테고리의 다른 글
| 오차역전파 딥러닝의 시작 (0) | 2023.10.15 |
|---|---|
| 다층퍼셉트론이란 무엇인가 (0) | 2023.10.11 |
| 로지스틱 회귀란 무엇인가 (0) | 2023.10.10 |
| Tensorflow로 선형회귀를 구현해보자 (0) | 2023.10.08 |
| 다중선형회귀란 무엇인가 (0) | 2023.10.07 |
