DevTalk DevTalk #130 – O RAG do Eksploracji Kodu z Łukaszem Szydło– O Przewadze w Świecie LLM-ów z Tomaszem Ducinem
12 snips
Oct 27, 2025 Łukasz Szydło, architekt oprogramowania i współtwórca narzędzia Noesis, omawia innowacyjne podejście RAG do przeszukiwania kodu. Wyjaśnia, jak RAG rozwiązuje problem nieaktualnej dokumentacji oraz jak wykorzystać chunking i embeddingi do efektywnego przeszukiwania. Szydło porównuje graf wiedzy z podejściem wektorowym i podkreśla zalety deterministycznego parsowania kodu. Dzieli się także praktycznymi doświadczeniami z wdrożeń oraz tym, jak RAG może zredukować przerwy w pracy programistów.
AI Snips
Chapters
Books
Transcript
Episode notes
RAG To Dopasowywanie Kontekstu, Nie Trenowanie
- RAG (Retrieval Augmented Generation) dopasowuje kontekst do zapytania zamiast trenować cały model na nowych danych.
- Dzięki temu używasz gotowego LLM i dokładnie dobierasz fragmenty wiedzy zamiast ciągłego i kosztownego fine-tuningu.
Dziel Dokumenty Na Sensowne Chunki
- Dziel dokumenty na sensowne chunki, bo mniejsze fragmenty lepiej trafiają do kontekstu i obniżają koszty tokenów.
- Dzięki chunkowaniu zmniejszasz halucynacje i wrzucasz do LLM tylko istotne fragmenty dla zapytania.
Embeddingi To Semantyczne Wektory Tekstu
- Embeddingi zamieniają tekst na wektory w przestrzeni wielowymiarowej, co pozwala wyszukiwać semantyczne podobieństwa.
- Zapytanie też konwertujesz na embedding i znajdujesz najbardziej podobne chunki w bazie wektorowej.
