In diesem Podcast spricht Björn Brundert mit Raiko Mesterheide, Client Strategist bei VMware, über den Architekturansatz "Private AI" sowie wie Unternehmen Künstliche Intelligenz (KI) in ihre IT-Infrastruktur implementieren und mit den Sicherheits- und Compliance-Anforderungen in Einklang bringen können. Zeitstempel: 01:16 - Vorstellung Raiko Mesterheide und persönliche Ausbildung rund um Künstliche Intelligenz 04:03 - Privacy: Datensicherheit und Datenschutz 09:15 - Choice: Sehr hohe Innovationsgeschwindigkeit im AI-Ökosystem 12:24 - Parallelen zum “Cloud Hype” und “Flut hebt alle Boote” 14:09 - Neue Foundational und Large-Language-Modelle 18:48 - Open Source und AI: Wichtigkeit von Daten, MLOps, Frameworks & Co. 23:15 - Was ist eigentlich ein “Modell” und wo bekomme ich das her? 30:28 - Was sind die Infrastrukturanforderungen für die Ausführung eines Modells? 32:17 - Wie kann ich ein Modell mit meinen Daten nutzen? Fine-Tuning oder Retrieval Augmented Generation (RAG)? 40:36 - Daten vektorisieren - wie bekomme ich die Daten in eine Vektordatenbank? 42:29 - Wie stelle ich eine AI Applikation sicher zur Verfügung? 46:07 - Wie stelle ich eine Infrastruktur für AI zur Verfügung? Was hat VMware im Portfolio? Private AI Referenzarchitektur, Partnerschaften mit NVIDIA, Intel, IBM, Kyndryl 49:40 - Zusammenfassung Ein VMware by Broadcom Podcast