Проєкт
Рекурсивне міркування з малими мережами (TRM у Keras)
Власна реалізація статті TRM «Less is More: Recursive Reasoning with Tiny Networks» у Keras.
Контекст
Стаття «Less is More: Recursive Reasoning with Tiny Networks» показує, що дуже мала мережа може розв'язувати складні задачі на міркування завдяки багаторазовому застосуванню одних і тих самих шарів. Мене цікавить саме цей напрям: менше параметрів, більше рекурсії.
Внесок
Я самостійно відтворив архітектуру зі статті в Keras, щоб детально зрозуміти структуру рекурсивного циклу та процес навчання.
Підхід і результат
Результати вимірювань і порівняльні показники для цієї сторінки ще не затверджені, тому не наводяться. Код поки що не є публічним.