Bert Gollnick ist Senior Data Scientist mit Schwerpunkt auf künstlicher Intelligenz. Er unterrichtet Kurse zu Data Science und Machine Learning inklusive generativer KI und natürlicher Sprachverarbeitung. Bert hat an der Technischen Universität Berlin Luft- und Raumfahrttechnik und an der Universität Hagen Volkswirtschaftslehre studiert. Nach 17 Jahren in der Industrie fokussiert er sich nun auf seine Schulungsfirma, um Teilnehmern künstliche Intelligenz näherzubringen.

Er lebt und arbeitet in Hamburg und bietet Präsenzkurse im deutschsprachigen Raum sowie Online-Kurse auch für ein internationales Publikum an.

Materialien zum Buch ... 13
1. Vorwort ... 15

1.1 ... Zielsetzung des Buches ... 16

1.2 ... Zielgruppe ... 17

1.3 ... Was Sie schon wissen sollten ... 18

1.4 ... Struktur des Buches ... 18

1.5 ... Wie man dieses Buch effektiv nutzt ... 22

1.6 ... Code zum Herunterladen und weitere Materialien ... 23

1.7 ... Systemeinrichtung ... 23

1.8 ... Danksagung ... 30

1.9 ... Konventionen in diesem Buch ... 30

2. Einführung in die generative KI ... 33

2.1 ... Einführung in die künstliche Intelligenz ... 36

2.2 ... Die Säulen des Fortschritts in der generativen KI ... 40

2.3 ... Deep Learning ... 43

2.4 ... Schwache und allgemeine KI ... 46

2.5 ... Natural Language Processing (NLP) ... 49

2.6 ... Large Language Models (LLMs) ... 55

2.7 ... Use-Cases ... 57

2.8 ... Die Grenzen von LLMs ... 59

2.9 ... Large Multimodal Models (LMMs) ... 60

2.10 ... Generative KI-Anwendungen ... 62

2.11 ... Zusammenfassung ... 64

3. Vortrainierte Modelle ... 67

3.1 ... Was sind vortrainierte Modelle? ... 69

3.2 ... Hugging Face ... 69

3.3 ... Modellauswahl ... 70

3.4 ... Coding: Textzusammenfassung ... 71

3.5 ... Übung: Übersetzung ... 73

3.6 ... Coding: Zero-Shot-Klassifikation ... 74

3.7 ... Coding: Füllmaske ... 78

3.8 ... Coding: Frage-Antwort Modelle ... 79

3.9 ... Coding: Erkennung bekannter Entitäten (Named Entity Recognition) ... 81

3.10 ... Coding: Text-zu-Bild ... 83

3.11 ... Übung: Text-zu-Audio ... 85

3.12 ... Abschlussprojekt: Kunden-Feedback analysieren ... 86

3.13 ... Zusammenfassung ... 89

4. Large Language Models ... 91

4.1 ... Eine kurze Geschichte der Sprachmodelle ... 92

4.2 ... LLMs mithilfe von Python nutzen ... 93

4.3 ... Modellparameter ... 107

4.4 ... Modellauswahl ... 111

4.5 ... Messages ... 115

4.6 ... Prompt Templates ... 116

4.7 ... Chains ... 120

4.8 ... LLM-Schutz und -Sicherheit ... 135

4.9 ... Modellverbesserungen ... 143

4.10 ... Neue Trends ... 144

4.11 ... Zusammenfassung ... 151

5. Prompt Engineering ... 153

5.1 ... Prompting -- die Grundlagen ... 154

5.2 ... Coding: Few-Shot Prompting ... 163

5.3 ... Chain-of-Thought ... 166

5.4 ... Zero-Shot Chain-of-Thought ... 166

5.5 ... Coding: Self-Consistency Chain-of-Thought ... 167

5.6 ... Coding: Prompt-Chaining ... 171

5.7 ... Coding: Self-Feedback ... 173

5.8 ... Zusammenfassung ... 178

6. Vektordatenbanken ... 181

6.1 ... Einleitung ... 181

6.2 ... Der Data-Ingestion-Prozess ... 184

6.3 ... Dokumente importieren ... 185

6.4 ... Dokumente aufteilen ... 193

6.5 ... Einbettungen erstellen ... 209

6.6 ... Daten speichern ... 225

6.7 ... Daten abrufen ... 231

6.8 ... Abschlussprojekt ... 238

6.9 ... Zusammenfassung ... 251

7. Retrieval-Augmented Generation ... 253

7.1 ... Einleitung ... 254

7.2 ... Ein einfaches System zur Retrieval-Augmented Generation ... 258

7.3 ... Fortgeschrittene Techniken ... 265

7.4 ... Coding: Prompt-Caching ... 287

7.5 ... Evaluierung ... 293

7.6 ... Zusammenfassung ... 299

8. Agentensysteme ... 301

8.1 ... Einführung in KI-Agenten ... 302

8.2 ... Verfügbare Frameworks ... 304

8.3 ... Einfache Agentensysteme ... 306

8.4 ... Agenten-Framework: LangGraph ... 314

8.5 ... Agenten-Framework: AG2 ... 330

8.6 ... Agenten-Framework: CrewAI ... 346

8.7 ... Agenten-Framework: OpenAI Agents ... 374

8.8 ... Agenten-Framework: Pydantic AI ... 379

8.9 ... Überwachung von Agentensytemen ... 382

8.10 ... Zusammenfassung ... 388

9. Deployment ... 391

9.1 ... Die Anwendungsarchitektur ... 392

9.2 ... Die Deploymentstrategie ... 394

9.3 ... Entwicklung einer eigenständigen Anwendung ... 403

9.4 ... Deployment auf Heroku ... 410

9.5 ... Deployment auf [...] ... 419

9.6 ... Deployment auf Render ... 421

9.7 ... Zusammenfassung ... 424

10. Ausblick ... 427

10.1 ... Fortschritte in der Modellarchitektur ... 427

10.2 ... Limitierungen und Probleme von LLMs ... 428

10.3 ... Regulatorische Entwicklungen ... 434

10.4 ... Künstliche allgemeine Intelligenz und künstliche Super-Intelligenz ... 434

10.5 ... KI-Fähigkeiten in der nahen Zukunft ... 435

10.6 ... Hilfreiche Ressourcen ... 438

10.7 ... Zusammenfassung ... 439

Über den Autor ... 441
Index ... 443