← Fogalomtár
Fogalom
Latencia (válaszidő)
Az az idő, amely a prompt elküldése és az első válaszelem megjelenése között telik el. Gyakorlati használatban ez a rendszer érzékelt gyorsasága.
Analógia
Mint a különbség az expressz és a közönséges posta között: néha a gyorsaság a döntő, nem a tökéletes kidolgozottság.
Miért fontos?
Nem minden helyzetben a legokosabb modell a legjobb választás. Ügyfélszolgálatnál, belső asszisztensnél vagy élő workflow-nál a gyors reakció sokszor fontosabb, mint a maximális mélység.