Die Zukunft der KI auf Smartphones und ihre Herausforderungen

Sprachmodelle wie ChatGPT haben Schwächen: Sie haben zum Beispiel keinen Zugang zu aktuellen oder privaten Informationen, und sie kennen ihre Quellen nicht. RAG will das ändern, demnächst auch auf Smartphones. Der ganze Podcast im Überblick (00:02:28) Nachteile der grossen Sprachmodelle (00:05:25) Die Vorteile von RAG (00:07:25) Wo kann man RAG heute schon einsetzen? (00:11:40) Nachteil Monopol (00:13:07) Wie funktioniert RAG? (00:14:47) Wie aus Sprache Mathematik wird (00:22:42) So funktioniert eine Abfrage mit RAG (00:25:31) Die Herausforderungen kleiner Sprachmodelle (00:32:12) RAG auf mobilen Geräten