본문 바로가기

과학/딥러닝22

오차역전파 딥러닝의 시작 안녕하세요 단층 퍼셉트론의 XOR 문제를 해결하기위해 다층 퍼셉트론이 제시되었습니다. 다층 퍼셉트론은 은닉층을 추가하여 단층 퍼셉트론의 XOR문제를 해결하였는데요 https://ruminz.tistory.com/280 다층퍼셉트론이란 무엇인가 안녕하세요 퍼셉트론은 인공지능의 시작 이론이라고 했습니다. 퍼셉트론의 한계는 XOR문제라고 했습니다. 저번 포스팅을 참고해주세요 https://ruminz.tistory.com/279 (인공지능의 시작 퍼셉트론 아달 ruminz.tistory.com 다층 퍼셉트론의 한계 하지만 다층 퍼셉트론은 하나의 문제가 있습니다. 바로 은닉층에 포함된 가중치를 업데이트할 방법이 없었던 것입니다. 왜냐면 은닉층에 있는 값들을 파악할수가 없기 때문이죠 수백~수천만개의 파라미터가 있.. 2023. 10. 15.
다층퍼셉트론이란 무엇인가 안녕하세요 퍼셉트론은 인공지능의 시작 이론이라고 했습니다. 퍼셉트론의 한계는 XOR문제라고 했습니다. 저번 포스팅을 참고해주세요 https://ruminz.tistory.com/279 (인공지능의 시작 퍼셉트론 아달리안) XOR 문제 이 XOR 문제를 해결하기 위해 다층퍼셉트론이랑 오차역전파가 나왔습니다. 먼저 다시한번 XOR 문제를 살펴보죠 XOR 문제는 저 도형에서 같은색끼리 한쪽으로 나눌수있는 선을 긋는 문제였습니다. 하지만 저 도형에서는 어떠한 선도 그을수 없습니다. XOR 문제해결 해결방법은 종이를 접는것입니다. 즉 평면을 휘어주는것이죠 2차원에서 3차원으로 넘어가면 되는것입니다. 즉 종이를 휘어 준다음 선 두개를 동시에 긋는 방법입니다. 퍼셉트론에 의하면 두개를 각각 처리하는 은닉층을 만드는것.. 2023. 10. 11.
인공지능의 시작 퍼셉트론 아달리안 안녕하세요 딥러닝은 인간의 뇌를 본따서 만들었습니다. 인간의 뇌는 뉴런으로 연결되어있습니다. 뉴런이란 신경전달물질을 통해 신호를 전달하고 정보를 받아들이며 처리하는 역할을 합니다. 위 그림을 보면 뉴런과 뉴런사이에 시냅스라는 연결 부위가 있는데 신경말단부위의 자극이 오면 이 시냅스라는 부위에서 전기적 신호가 생성되어 이 신호가 임계값을 넘으면 신호를 전달하고 못넘으면 아무것도 하지 않습니다. 이 매커니즘은 앞서 포스팅한 로지스틱 회귀랑 매우 닮았습니다. https://ruminz.tistory.com/278 (로지스틱 회귀란 무엇인가) 이 매커니즘을 본따서 만든 이론이 퍼셉트론 입니다. 퍼셉트론과 아달리안 퍼셉트론은 입력 값을 여러 개 받아 출력을 만드는데 이때 입력값에 가중치를 조절할수 있게 만들어 최.. 2023. 10. 10.
로지스틱 회귀란 무엇인가 로지스틱 회귀 개요 안녕하세요 시험을 보면 점수가 중요합니다. 하지만 점수보다 더중요한게 있죠 바로 합격과 불합격입니다. 몇시간 공부해서 점수 예측이 아닌 합격 불합격 예측을 하고자할때 쓰이는 회귀가 로지스틱 회귀 입니다. 로지스틱 회귀 정의 다음과 같은 표가있다고 해봅시다. 이걸 그래프로 나타내 봅시다. 합격을 1 불합격을0 이라고 해봅시다. 이 표를 그래프로 나타내면 직선으로는 나타낼수 없습니다. 다음과 같이 s자형태가 됩니다. 이 점들을 선으로 그어보면 다음과 같습니다. 회귀란 데이터에 가장 적절한 선을 찾는 과정입니다. 로지스틱 회귀도 마찬가지로 적절한 선을 찾는 그런 과정인데요 저 s자 그래프선을 가장 적절하게 나타내는 선을 찾는 과정이 로지스틱 회귀입니다. 그리고 이 그래프 선을 나타내는함수가.. 2023. 10. 10.