Im folgenden Beispiel wird ein einfaches Regressionsmodell vorgestellt und verschiedene Frameworks benutzt, um das Netz zu trainieren.
Wir differenzieren zwischen dem Training des Neuronalen Netzes, welches teilweise erhebliche Computing Ressourcen benötigen kann und der Inferenz (inference), wo das trainierte Modell zur Vorhersage bereitgestellt wird. Der letzte Teil wird insbesondere im Deployment Tutorial bereitgestellt.
Folgende Frameworks betrachten wir:
- PhotonAI
- Tensorflow von Google
- (tbd) pytorch
- (tbd) Huggingface
Wir geben ebenfalls ein Beispiel, wie ein solches Netz mit Tensorflow auf PALMA II trainiert werden kann.
Allgemein ist zu beachten, dass das Training eines Netzes meist deutlich effizienter auf Grafikkarten (GPU) durchgeführt werden kann. Hierzu muss auf dem entsprechenden Rechner CUDA installiert sein.
Auf dem JupyterHub der WWU ist CUDA voristalliert und kann mit Tensorflow oder pyTorch einfach genutzt werden. Für WWU Mitarbeitende bietet die WWU derzeit NVIDIA A40 Grafikkarten mit 12 GB RAM an, auf welchen auch größere Netze trainiert werden können. Sollte das nicht ausreichen, kann zum Beispiel auch PALMA II mit GPU Unterstützung genutzt werden.
Eine Anleitung zum JupyterHub findet man hier.