Edge AI: Wie LLMs am Smartphone laufen - feat. Vivien von Objectbox

Wenn wir ChatGPT und Co heute mit Aufgaben beauftragne, dann wird das in der Cloud von Microsoft, Google und Amazon erledigt. Doch das muss nicht so sein: Edge AI verspricht, dass KI-Modelle lokal auf Smartphone oder Notebook Aufträge erledigen können, ohne Daten in die Cloud senden zu müssen. Mittendrin in dem Trend - Objectbox von Gründerin Vivien Dollinger aus Berlin - und mit ihr wollen wir heute über Edge AI und alles was dazu gehört sprechen. Die Themen:

- Edge AI vs. Cloud

- RAG - Retrieval Augmented Generation

- Vectordatenbaken als Datenbunker

- Kleine LLMs direkt am Gerät

- Worauf Apple setzt

- Die Pläne von Objectbox

Botschaft unseres Sponsors:

The Green 100 am 6. Juni ist eine Veranstaltung des Klima- und Energiefonds. Sie findet bereits zum zweiten Mal statt. Heuer erstmals in Kooperation mit den Impact Days. Ziel ist es, vermehrt Klimaschutzprojekte zur Umsetzung zu bringen und privates Kapital für sie zu mobilisieren. Im Rahmen von The Green 100 präsentieren sich Ausstellende aus den Bereichen grüne Finanzierung und Veranlagung. Die Angebote richten sich zum einen an grüne Unternehmen und geben Unterstützung auf der Suche nach Kapital oder bei der wirtschaftlichen Darstellung der Projekte. Zum anderen an Privatpersonen, die ihr Geld grün veranlagen und mehr rund um Greenwashing erfahren möchten. Begleitend wird ein abwechslungsreiches Rahmenprogramm rund um das Thema Green Finance stattfinden. Alle Infos und kostenlose Tickets findet ihr unter www.thegreen100.com

Wenn dir diese Folge gefallen hat, lass uns doch vier, fünf Sterne als Bewertung da und folge dem Podcast auf Spotify, Apple Music und Co. Für Anregungen, Kritik, Feedback oder Wünsche zu künftigen Gästen schick uns jederzeit gerne eine Mail an ⁠⁠⁠⁠⁠⁠⁠feedback@trendingtopics.at⁠⁠⁠⁠⁠⁠⁠.