Wyszukiwanie hybrydowe: slowa kluczowe plus embeddingi
Asystenci oparci na retrieval augmented generation stoją albo upadają na tym, które fragmenty trafią do modelu. Budujemy takie systemy na dokumentach firmowych i za każdym razem dzieje się to samo: samo wyszukiwanie wektorowe zostawia dziury, które wychodzą dopiero wtedy, gdy prawdziwi użytkownicy zaczynają zadawać prawdziwe pytania. Dołożenie do tego wyszukiwania po słowach kluczowych to nie jest szlif. To podstawowe pokrycie.
Dlaczego samo wyszukiwanie wektorowe zawodzi na dokumentach firmowych
Embeddingi oddają znaczenie, ale rozmywają dokładne ciągi znaków. Numery katalogowe, kody błędów, identyfikatory klauzul umownych, wewnętrzne nazwy produktów - to wszystko traci ostrość. Pytasz o "błąd E-4412", a wraca semantycznie zbliżona proza o rozwiązywaniu problemów, podczas gdy jedyny akapit, w którym ten kod naprawdę pada, siedzi poniżej progu odcięcia. Korpusy firmowe są pełne rzadkich tokenów, których enkoder nigdy nie widział na treningu, więc lądują w mglistych rejonach przestrzeni wektorowej. A ta awaria pięknie się ukrywa: asystent nadal odpowiada płynnie, tyle że z niewłaściwego fragmentu. Zwykle wyłapujemy to na testach akceptacyjnych, w momencie gdy eksperci dziedzinowi zaczynają używać własnego, wewnętrznego słownictwa.
W czym wyszukiwanie po słowach kluczowych nadal jest lepsze
BM25 i pokrewne metody punktują dokładne pokrycie terminów i premiują terminy rzadkie - czyli dokładnie tam, gdzie potykają się wektory. Są deterministyczne i dają się wytłumaczyć, więc gdy ktoś kwestionuje odpowiedź, możemy wskazać term, który się dopasował. Nie zależą też od enkodera, co utrzymuje wyszukiwanie przy życiu dla żargonu albo dla języków, które model embeddingowy obsługuje słabo. Indeksowanie jest tanie w utrzymaniu i tanie w powtórzeniu, a to bardzo dużo znaczy przy dokumentach poprawianych co tydzień. Słabość to po prostu odwrócona siła: parafrazy, synonimy i pytania sformułowane zupełnie inaczej niż źródło przelatują obok.
Jak naprawdę działa wyszukiwanie hybrydowe
Oba mechanizmy pracują na tym samym zbiorze fragmentów, a potem dwie listy wyników łączą się w jedną. Reciprocal rank fusion łączy je po pozycji, a nie po wyniku punktowym, co omija cały bałagan z porównywaniem nieporównywalnych skal. Ważona fuzja wyników normalizuje oba rozkłady i miesza je regulowaną alfą - w porządku, tylko że domaga się rekalibracji przy każdej zmianie korpusu.
- Podziel na fragmenty raz, zaindeksuj i w bazie wektorowej, i w indeksie słów kluczowych.
- Pobierz top-k z każdej strony niezależnie.
- Połącz obie listy w jeden ranking.
- Opcjonalnie zrób reranking cross-enkoderem.
- Przekaż do modelu fragmenty, które przetrwały.
Pobieraj z nadmiarem przed fuzją. Wyciągnięcie trzydziestu kandydatów z każdej strony i przycięcie do ośmiu po rerankingu bije wyciąganie ośmiu z każdej.
Jak wybrać strategię fuzji bez zgadywania
Zacznij od reciprocal rank fusion. Nie wymaga kalibracji wyników i zachowuje się przewidywalnie od pierwszego zapytania. Przejdź na fuzję ważoną dopiero wtedy, gdy zestaw ewaluacyjny pokaże stałe przechylenie w stronę jednego z mechanizmów dla twojego typu dokumentów. Mierz recall na etapie wyszukiwania osobno od jakości odpowiedzi, inaczej winę za porażki zbierze niewłaściwy element. A reranking często daje więcej poprawy niż strojenie fuzji - płacisz za to opóźnieniem na zapytanie.
Wskazówka: zbuduj mały, oznaczony zestaw pytań z prawdziwych pytań użytkowników, zanim ruszysz alfę. Bez niego strojenie jest tylko poprawianiem liczb, aż zadziała ostatnie pytanie z demo.
Ile kosztuje wyszukiwanie hybrydowe
Teraz masz dwa indeksy. Oba monitorowane, oba trzymane w synchronizacji, gdy dokumenty są dodawane, edytowane albo usuwane. Rośnie opóźnienie zapytania: dwa wyszukiwania, plus fuzja, plus opcjonalny reranking. Do tego więcej ruchomych części do sprawdzenia, gdy odpowiedź wygląda podejrzanie. W kilku przypadkach wyszukiwanie jednym trybem nadal jest uczciwym wyborem:
- Małe, jednorodne korpusy, w których jedna metoda już pokrywa pytania.
- Treści wyłącznie w języku naturalnym, bez kodów, identyfikatorów i numerów katalogowych.
- Prototypy działające przy napiętym budżecie opóźnień.
Wskazówka: loguj identyfikatory pobranych fragmentów i ich pozycje z każdego mechanizmu przy każdym zapytaniu produkcyjnym. Bez takiego śladu późniejsze strojenie to zgadywanka.
Wyszukiwanie hybrydowe a wskazanie źródła odpowiedzi
Dopięcie źródła do każdej odpowiedzi pomaga tylko wtedy, gdy pobrany fragment naprawdę zawiera to, co odpowiedź twierdzi. Dopasowanie po słowach kluczowych daje sprawdzalny powód, dla którego dokument się pojawił, a to wzmacnia cytowanie, które widzi użytkownik. Metadane fragmentu - tytuł dokumentu, sekcja, data rewizji - powinny przetrwać fuzję w całości, żeby finalna odpowiedź mogła wskazać, skąd pochodzi. Zaufanie przychodzi dużo szybciej, gdy ktoś otwiera źródło i znajduje dopasowaną frazę dokładnie tam. W treściach regulowanych odpowiedź bez weryfikowalnego źródła jest nic niewarta.
Wdrożenie: chmura czy on-premise
Indeksy słów kluczowych chodzą spokojnie na skromnym sprzęcie, więc pytanie o koszt on-premise dotyczy tak naprawdę modelu embeddingowego i rerankera. Wdrożenia self-hosted skłaniają się ku mniejszym, otwartym enkoderom, co czyni słowną połowę hybrydy bardziej wartościową, a nie mniej. Wdrożenia chmurowe mogą sobie pozwolić na większe enkodery i reranking jako usługę, co przechyla szalę z powrotem w stronę wektorów. Tak czy inaczej indeks i dokumenty zostają tam, gdzie każe polityka klienta. Zaplanuj też okna na przeindeksowanie: podmiana modelu embeddingowego oznacza przeliczenie każdego wektora, podczas gdy indeks słów kluczowych stoi nietknięty.
FAQ
Czy wyszukiwanie hybrydowe zwalnia z dobrego chunkingu?
Nie. Oba mechanizmy punktują takie fragmenty, jakie im podasz, a fragment, który odcina definicję od jej wyjaśnienia, zawodzi tak samo w obu trybach.
Czy da się dołożyć wyszukiwanie po słowach kluczowych do istniejącego systemu wektorowego?
Tak, i jest to zmiana czysto dodatkowa. Zaindeksuj te same fragmenty w indeksie słów kluczowych, połącz wyniki w czasie zapytania, warstwy generowania nie ruszaj.
Skąd wiadomo, że hybryda naprawdę jest lepsza?
Porównaj recall wyszukiwania na stałym zestawie pytań przed zmianą i po niej. Ocenianie jakości odpowiedzi na oko nie mówi nic pewnego.
Podsumowanie: potraktuj wyszukiwanie jak produkt
Większość rozczarowujących asystentów zawodzi na wyszukiwaniu, nie na generowaniu - model kompetentnie odpowiada z fragmentów, które nigdy nie były tymi właściwymi. Wyszukiwanie hybrydowe to nie sprytna sztuczka. To pokrycie dwóch znanych, uzupełniających się trybów awarii. Zacznij od reciprocal rank fusion, zbuduj zestaw ewaluacyjny, dodaj reranking, wagi strój na końcu. Zdecyduj o tym na starcie projektu, bo doklejanie drugiego indeksu później kosztuje więcej niż wstawienie go od pierwszego dnia.
