대사 가소성 예산 개념을 도입한 감성적 스파이킹 신경망의 지속 학습

한줄 요약

생물학적 대사 예산 개념(Prana)을 스파이킹 신경망의 지속 학습에 도입하여 학습률을 동적으로 조절하는 방법을 제안한다.

풀어야 하는 문제

지속 학습에서 신경망이 새로운 작업을 학습할 때 이전 지식을 잊어버리는 파괴적 망각을 완화해야 한다. 생물학적 시스템은 에너지 대사 제약 아래에서도 효율적으로 학습하지만, 인공 신경망은 이러한 생물학적 제약을 반영하지 못한다.

접근 방법

별세포-뉴런 젖산 셔틀(ANLS)에서 영감을 받아 Prana라는 스칼라 예산을 정의한다. Prana는 그래디언트 크기와 신경 활동에 비례하여 소모되고, 저활동 배치에서 회복되며, 작업 경계에서 부분적으로 복원된다. 유효 학습률은 기본 학습률에 Prana와 Buddhi(지혜) 계수를 곱하여 계산된다. 생물학적 보정 상수(PRANA_COST_RATE=0.002315)를 사용하여 ANLS 문헌과 일관된 예산 유지 동작을 보장한다.

결과·기여

Split-CIFAR-100(10개 작업)에서 6가지 조건의 ablation 실험을 수행했다. Prana 예산이 고갈되지 않아 기존 방법과 유사한 성능(AA=12.72%)을 보였고, Prana만 단독으로 사용할 경우 성능이 저하되어 통합된 Antahkarana 프레임워크의 중요성을 확인했다. Buddhi 변조가 없는 조건에서 예상치 못한 최고 성능(AA=13.68%)을 보여 Buddhi-Prana 상호작용에 대한 추가 연구 필요성을 제기한다.