Die Burda.Product.Tech Conference 2023, war mit ihrer Themenvielfalt ein ganz besonderes Event. Sie fand am 09. November, sowohl live an zwei Standorten in München, als auch als online Stream statt. Mit 30 Speaker:innen, 22 Vorträgen und über 300 Teilnehmer:innen bot die Konferenz eine internationale, dynamische Plattform für Austausch und interessante Einblicke in die Welten von Produktmanagement, User Experience (UX) und Technologie. Im Fokus stand dabei das Potential gegenwärtiger Trends und Technologien und die darauf basierenden Ideen und Innovationen der Zukunft.
Fünf unserer Kollegen der Valiton präsentierten Expertise in ihren jeweiligen Schlüsselthemen.
Vorstellung der Burda Web Services (BWS) durch Thomas und Uwe
Thomas (Burda Digital Systems GmbH) und Uwe stellten die Burda Web Services (BWS) in einer Live-Demonstration vor. Diese Lösung soll Unabhängigkeit von großen Cloud-Anbietern und ihren Diensten ermöglichen. Sie bietet Flexibilität und volle Kontrolle über die IT-Infrastruktur. Zudem können Unternehmen mit BWS ihre Cloud-Umgebungen eigenständig überwachen, verwalten und mithilfe von Tools automatisieren und anpassen.
Die Entwicklung von Datenbanklösungen: Eine spannende Reise mit Matti und Christoph
Matti und Christoph teilten ihre Erfahrungen mit Datenbanklösungen in einer spannenden Reise von 2016 bis heute. Dabei lag der Fokus auf datenintensiven Anwendungen wie dem Burda Digital Data Hub oder der BurdaForward Data Platform. Von PostgreSQL zu Snowflake und schließlich ClickHouse – jede Änderung war eine Antwort auf neue Herausforderungen. Ihre Empfehlungen bei solch einer Reise?
- Allzweckdatenbanken sind zu Beginn nicht falsch,
- nutze Datenplattformen, um den Fokus auf Entwicklung von Datenprodukten zu legen
- spezielle Anforderungen erfordern spezielle Lösungen.
Jedoch warnten die beiden auch vor eventuellen Stolperfallen, wie zum Beispiel, dass Serverless nicht immer kostengünstiger ist. Außerdem sollte man sich bewusst sein, dass die Organisation einer Datenplattform herausfordernd sein kann.
Large Language Models (LLM): Ein Einblick in die Herangehensweise von Sven
Sven gab einen spannenden Einblick in unsere Herangehensweise beim Aufbau von Anwendungen, die Large Language Modelle (LLM) einsetzen. Dabei ging er auf Applikationen ein, die bei Burda bereits im Einsatz sind, wie zum Beispiel AISSIST, oneAI und der Prototyp des Shopping Assistants von InStyle. Anschließend wurde detailliert auf den Ansatz zur Entwicklung von LLM-Anwendungen eingegangen, indem Sven die entsprechende Architektur des Prozesses erläuterte. Der Vortrag vertiefte die Kernelemente von LLM-betriebenen Apps und erklärte die Rahmenbedingungen für die Koordination von Large Language Models. Zuletzt wurden insbesondere die operativen Herausforderungen angesprochen, darunter z.B. die Rate Limits der Anbieter wie z.B. Azure OpenAI.
Die potenzielle Nutzung von Open Source LLMs: Perspektiven und Möglichkeiten mit Christian
Christian, der letzte Redner des Events, präsentierte verschiedene Perspektiven zur potenziellen Nutzung von Open Source LLMs. Dabei ging er auf die Machbarkeit der Nutzung von Open Source LLMs im Vergleich zu proprietären (herstellerspezifischen) LLMs ein. Gründe für diesen Einsatz sind Datenschutz, Anpassungsmöglichkeiten jenseits von Finetuning der Modelle, Kostenaspekte und die Vermeidung von Abhängigkeiten von „Big Tech“-Unternehmen. Praktische Aspekte wie die erforderliche Infrastruktur, Kostenüberlegungen und Lösungen für spezifische Anwendungsfälle wurden ebenfalls erörtert.
Als abschließendes Fazit betonte Christian, dass das Training von großen Open Source LLMs nur für sehr wenige Unternehmen sinnvoll sein wird. Kosteneffiziente Lösungen werden sich durch spezialisierte kleinere Modelle, die manchmal auch LLMs für das Training verwenden, für bestimmte Anwendungsfälle ergeben.
