Cieľom druhého zadania je aplikovať teoretické poznatky o backpropagation v programovej implementácii tohto algoritmu. Vašou úlohou je implementovať algoritmus backpropagation a použiť ho pri trénovaní neurónovej siete. Pri riešení zadania používajte Python 3, funkčnosť Vášho riešenia preukážete trénovaním neurónovej siete pomocou Vami vytvoreného algoritmu backpropagation na ľubovoľnom datasete.
Vaše riešenie sa skladá z troch častí:
- implementácia algoritmu backpropagation – hlavná časť zadania, definuje spôsob trénovania neurónovej siete pomocou spätného šírenia chyby. Môže byť implicitnou súčasťou implementácie neurónovej siete z bodu 2. alebo môže byť samostatný modul.
- implementácia jednoduchej neurónovej siete – trieda s možnosťou pridávania vrstiev, ktorá obsahuje základné prvky neurónových sietí (môžete používať implementáciu z cvičenia alebo vytvoriť vlastnú):
- vrstvy
- aktivačné funkcie
- predikcia
- trénovanie (používajte algoritmus backprop z bodu 1.)
- ukážka použitia backpropu v trénovaní neurónovej siete – hlavná funkcia
main, v ktorej vytvoríte jednoduchú sieť, načítate dataset, a natrénujete neurónovú sieť na tomto datasete. Proces trénovania musíte znázorniť (graficky, výpisom chyby na konzolu, atď.)
Vaše riešenia odovzdajte do 18. 4. 2021 cez MS Teams. Odovzdávate ZIP súbor, ktorý musí obsahovať použitý dataset a Python skript (ak máte viac skriptov, vytvorte súbor main.py, ktorý obsahuje hlavnú funkciu). Riešenie musí byť out-of-the-box, t.j. spustiteľné bez konfigurácie a zmien kódu.
Za zadanie môžete získať maximálne 10 bodov, ktoré sa udeľujú nasledovne:
- implementácia algoritmu backpropagation – 5 bodov
- aplikácia backpropu v neurónovej sieti – 3 body
- ukážka trénovania neurónovej siete pomocou backpropu – 2 body
Pozor: pre získanie bodov musíte mať implementované všetky tri časti aspoň čiastočne!