Jak przyspieszyć ekstrakcję encji — nie psując embeddingu

Encje to najdroższy etap naszego pipeline'u (≈9× czasu klasyfikacji). Przetestowaliśmy 11 wariantów promptu na identycznej próbce dokumentów — z progiem szumu, metryką, która najpierw kłamała, i przypadkiem gołąbków, który wszystko wyjaśnił. Lekcja krok po kroku, na liczbach.

660 doców × 16 armów
Gemma-4-26B FP8 · vLLM
prompty 383–1431 tok
zwycięzca: −39% czasu
central-recall 0.960

wejście → encje · przepis, praktycznyekspert.pl Ugotuj gołąbki z kapustąCENTRAL według przepisu babci: 500 gNUMBER mięsa, 2 szklankiNUMBER ryżu, gotuj 15–20 minutDATE. Podawaj z sosem jak w Karczmie PolskiejORG.

Zbyt krótki prompt gubił „gołąbki z kapustą" — jedyną encję, która niesie temat do embeddingu — a zostawiał „500 g" i „15–20 minut". Cała lekcja jest o tym, jak ciąć koszt, nie tnąc tego jednego.