Projekt
Rekurencyjne wnioskowanie z małymi sieciami (TRM w Keras)
Własna implementacja pracy „Less is More: Recursive Reasoning with Tiny Networks“ w Keras.
Kontekst
Praca „Less is More: Recursive Reasoning with Tiny Networks“ pokazuje, że bardzo mała sieć może rozwiązywać trudne zadania wymagające rozumowania, wielokrotnie stosując te same warstwy. Interesuje mnie właśnie ten kierunek: mniej parametrów, więcej rekurencji.
Wkład
Samodzielnie odtworzyłem architekturę z pracy w Keras, aby dokładnie zrozumieć strukturę pętli rekurencyjnej i przebieg treningu.
Podejście i wynik
Wyniki pomiarów i liczby porównawcze nie zostały jeszcze zatwierdzone do publikacji na tej stronie, dlatego ich nie podaję. Kod nie jest jeszcze publicznie dostępny.