현재 인공신경망의 주류 학습 알고리즘은 오류 역전파 (backprop) 방식에 의존하고 있다. 해당 알고리즘의 성능이 탁월하다는 것은 다양한 분야에서 이미 입증되었다. 인공신경망은 뇌의 뉴런들의 연결 구조에서 영감을 받아 만든 구조이다. 즉 bio-inspired하다. 그런데 이 bio-inspired한 구조를 학습하는 주류 방법인 backprop 방법은 bio-inspired가 아니다. 하지만 bio-inspired가 아니어도 biologically plausible(생물학적으로 설명 가능)할 수도 있다. 과연 이 backprop 방법이 biologically plausible할까? 즉 실제 우리 뇌에서 실현이 가능할까? 결론은 간접적으로 타당하다. 한번 살펴보도록 하자. 본 글에서는 feedback ..

사색/인지과학적 사유 2021. 2. 2. 05:48