Dr. Matthieu Deru ist Senior Software-Engineer (R&D) und UX-Designer für interaktive Systeme am Deutschen Forschungszentrum für Künstliche Intelligenz GmbH (DFKI). Seine Projekterfahrung umfasst Themengebiete, die so vielseitig sind wie die Anwendungsfelder der KI, von intelligenten Benutzerschnittstellen bis zu komplexen Vorhersagenmodellen für die Elektromobilität.

Inkl. tf.keras, TensorBoard, ml5.js u. v. m.

1. Einführung ... 15

1.1 ... Über dieses Buch ... 15

1.2 ... Ein Einblick in Deep Learning ... 17

1.3 ... Deep Learning im Alltag und in der Zukunft ... 19

2. Machine Learning und Deep Learning ... 33

2.1 ... Einführung ... 33

2.2 ... Lernansätze beim Machine Learning ... 38

2.3 ... Deep-Learning-Frameworks ... 44

2.4 ... Datenbeschaffung ... 46

2.5 ... Datasets ... 48

2.6 ... Zusammenfassung ... 65

3. Neuronale Netze ... 67

3.1 ... Aufbau und Prinzip ... 67

3.2 ... Lernprozess neuronaler Netze ... 73

3.3 ... Datenaufbereitung ... 81

3.4 ... Ein einfaches neuronales Netz ... 82

3.5 ... Netzarchitekturen ... 91

3.6 ... Bekannte Netze ... 98

3.7 ... Fallstricke beim Deep Learning ... 101

3.8 ... Zusammenfassung ... 106

4. Python und Machine-Learning-Bibliotheken ... 107

4.1 ... Installation von Python 3.7 mit Anaconda ... 108

4.2 ... Alternative Installationen von Python 3.7 ... 113

4.3 ... Programmierumgebungen ... 116

4.4 ... Jupyter Notebook ... 121

4.5 ... Python-Bibliotheken für das Machine Learning ... 126

4.6 ... Nützliche Routinen mit NumPy und Scikit-learn für ML ... 129

4.7 ... Ein zweites Machine-Learning-Beispiel ... 133

4.8 ... Zusammenfassung ... 137

5. TensorFlow: Installation und Grundlagen ... 139

5.1 ... Einführung ... 139

5.2 ... Installation ... 143

5.3 ... Google Colab: TensorFlow ohne Installation benutzen ... 153

5.4 ... Tensoren ... 154

5.5 ... Graphen ... 160

5.6 ... Benutzung der CPU und GPU ... 171

5.7 ... Erstes Beispiel: Eine lineare Regression ... 174

5.8 ... Von TensorFlow 1.x zu TensorFlow 2 ... 180

5.9 ... Zusammenfassung ... 183

6. Keras ... 185

6.1 ... Von Keras zu tf.keras ... 185

6.2 ... Erster Kontakt ... 189

6.3 ... Modelle trainieren ... 191

6.4 ... Modelle evaluieren ... 193

6.5 ... Modelle laden und exportieren ... 194

6.6 ... Keras Applications ... 197

6.7 ... Keras Callbacks ... 198

6.8 ... Projekt 1: Iris-Klassifikation mit Keras ... 200

6.9 ... Projekt 2: CNNs mit Fashion-MNIST ... 204

6.10 ... Projekt 3: Ein einfaches CNN mit dem CIFAR-10-Dataset ... 213

6.11 ... Projekt 4: Aktienkursvorhersage mit RNNs und LSTMs ... 220

6.12 ... Zusammenfassung ... 226

7. Netze und Metriken visualisieren ... 227

7.1 ... TensorBoard ... 228

7.2 ... TensorBoard.dev ... 246

7.3 ... Debugging mit TensorBoard (nur TF 1.x) ... 248

7.4 ... Der TensorBoard-Debugger mit Keras (nur TF 1.x) ... 257

7.5 ... Visualisierung mit Keras ... 259

7.6 ... Visualisierung von CNNs mit Quiver (nur mit Keras.io) ... 267

7.7 ... Interaktive Visualisierung mit Keras-Callbacks, Node.js und HTML5 selbst implementieren ... 271

7.8 ... Weitere Visualisierungsmöglichkeiten ... 281

8. TensorFlow.js ... 285

8.1 ... Anwendungsfälle ... 285

8.2 ... Installation von BrowserSync ... 288

8.3 ... Installation von TensorFlow.js ... 290

8.4 ... Konzepte ... 293

8.5 ... Ihr erstes Modell mit TensorFlow.js: Eine quadratische Regression ... 304

8.6 ... Laden und Speichern von Modellen ... 318

8.7 ... PoseNet-Modell mit TensorFlow.js ... 327

8.8 ... Eine intelligente Smart-Home-Komponente mit TensorFlow.js und Node.js ... 343

8.9 ... TensorFlow.js noch einfacher: ml5.js ... 356

9. Praxisbeispiele ... 361

9.1 ... Projekt 1: Verkehrszeichenerkennung mit Keras ... 363

9.2 ... Projekt 2: Intelligente Spurerkennung mit Keras und OpenCV ... 379

9.3 ... Projekt 3: Erkennung der Umgebung mit YOLO und TensorFlow.js bzw. ml5.js ... 392

9.4 ... Projekt 4: Haus oder Katze? Vorgefertigte Modelle mit Keras benutzen -- VGG-19 ... 403

9.5 ... Projekt 5: Buchstaben- und Ziffernerkennung mit dem Chars74K-Dataset und Datenaugmentierung ... 410

9.6 ... Projekt 6: Stimmungsanalyse mit Keras ... 418

9.7 ... Projekt 7: Sentiment-Analyse mit TensorFlow.js ... 425

9.8 ... Projekt 8: Benutzung von TensorFlow Hub ... 429

9.9 ... Projekt 9: Hyperparameter-Tuning mit TensorBoard ... 437

9.10 ... Projekt 10: CNN mit Fashion-MNIST und TensorFlow-Estimators (nur TF 1.x) ... 442

9.11 ... Allgemeine Tipps und Tricks ... 455

10. Ausblick ... 463

10.1 ... Deep Learning in der Cloud ... 463

10.2 ... Bildgenerierung mit Deep Learning ... 471

10.3 ... Musik mit Deep Learning ... 476

10.4 ... Videogenerierung mit Deep Learning ... 478

10.5 ... Deep Learning einfacher gemacht ... 480

11. Fazit ... 489

Index ... 492