WideoTwoje AI tylko przelatuje wzrokiem Twój prompt
TL;DR Modele najlepiej czytają początek i koniec długich promptów, a środek gubią. Najważniejsze rzeczy daj na początku i na końcu.
Twoje AI tylko przelatuje wzrokiem Twój prompt. Stanford ukrył jedną odpowiedź wśród 20 dokumentów i przesuwał ją w różne miejsca. Na początku: 76% trafnych odpowiedzi. Na końcu: 63%. W środku: 54%. Gorzej, niż gdyby model nie dostał nic.
„Ale to przecież 2023”, słyszę Cię. Sprawdziłam więc. Badanie z 2025 roku pokazało, że ta skłonność jest wpisana w sposób budowy modeli, a nie jest błędem. Proste wyszukiwanie znacznie się poprawiło. Trudne zadania w ścianie tekstu wciąż są problemem.
Ważne rzeczy na początku i na końcu. Nigdy nie chowaj kluczowego faktu w środku długiego wklejonego tekstu.
Źródła: Liu i in., TACL 2023; Wu i in., ICML 2025; NoLiMa, ICML 2025.
