이번 포스팅에서는 backpropagation과 supervised learning에 대한 것을 주제로 정해보았다.
딥러닝 분야에서의 backpropagation은 supervised learning이나 feedback learning의 가장 기초가 되는 학습 원리일 것이다.
하지만 spiking neural network (SNN) 에서는 backpropagation의 설계 방식과 그 목적을 결정하기 무척 어려운 문제다.
SNN은 feedfoward network를 기본으로 많이 설계되어 왔고, spike timing dependency plasticity (STDP) 와 같이 unsupervised Hebbian learning rule 이 학습 규칙으로 정의되어 설계되는 경우가 많기 때문이다.
내가 항상 궁금증으로 가지고 있는 것은, 뇌의 학습 규칙을 적용하였을 때, 정말로 application으로 사용이 가능할 정도의 성능과 속도 등이 보장되는 SNN model이 나올 수 있을까 하는 것이다.
'Deep Learning Tools > Nengo' 카테고리의 다른 글
Nengo에서 PES learning을 이용해 supervised learning 구현해보기 (0) | 2018.11.30 |
---|---|
Nengo로 one-hot-vector에 반응하는 one-hot-neuron 만들기 (0) | 2018.11.28 |
Nengo synapse에 PES learning 적용 예제 (0) | 2018.11.26 |
Prescribed Error Sensitivity (PES) learning rule (0) | 2018.11.10 |
Bienenstock, Cooper, and Munro (BCM) learning rule (0) | 2018.11.10 |