Einführung in Deep Learning mit Pytorch: MLP und CNN

Lineare und logistische Regression

• Einführung in die Problemstellung
• Implementierung mit Python und NumPy
• Backpropagation und Gradient Descent
• Visualisierung mit Matplotlib
• Erweiterung zur logistischen Regression für Klassifizierungsaufgaben

Mathematische Grundlagen

• Vektoren, Matrizen und lineare Transformationen
• Partielle Ableitungen und Analysis in höheren Dimensionen
• Kettenregel, wichtige Funktionen und geometrische Intuition

Neural Networks mit PyTorch

• Historischer Überblick über PyTorch
• Tensoren als Basistyp und automatische Gradientenberechnung
• Datenverarbeitung mit DataSet, DataLoader und ImageFolder
• Arbeit mit Standarddatensätzen wie MNIST
• Aufbau neuronaler Netze mit nn.Module
• Multilayer Perceptron: Struktur und Funktionsweise
• Aktivierungsfunktionen (Sigmoid, Softmax, ReLU u. a.)
• Loss-Funktionen und Optimizer (SGD, Adam usw.)
• Trainings- und Validierungsschleifen, Umgang mit Over- und Underfitting
• Visualisierung der Ergebnisse mit TensorBoard

Convolutional Neural Networks (CNN)

• Grundlagen und Einsatz bei Bildklassifizierung
• Datenaufbereitung mit Transforms
• Aufbau und Training von Convolution-Layern in PyTorch
• GPU-gestütztes Training, z. B. in Google Colab
• Überblick über wichtige Architekturen: AlexNet, VGG, ResNet, ResNeXt
• Transfer Learning und Autoencoder