Finjustering vs RAG

Finjustering og RAG er de to hovedveje til virksomhedsspecifik AI, og de løser forskellige problemer. Finjustering træner modellen yderligere på dine eksempler, ændrer dens stil, format og adfærd — lærer den hvordan at svare. RAG henter dine dokumenter på spørgsmålstidspunktet, ændrer hvad modellen ved i øjeblikket — lærer den hvad at svare med.

Topchefer skal være opmærksomme på, at at vælge forkert er dyrt. Finjustering lyder som den premiummulighed, men underviser ikke pålideligt i kendsgerninger, kræver kurateret træningsdata og bliver forældet, så snart din information ændrer sig. RAG er hurtigere at implementere, altid aktuel med dine dokumenter og giver citationer — det er derfor, standardrådet er: vælg RAG som standard, tilføj finjustering kun, når tone, format eller specialiseret adfærd virkelig kræver det.

Konkret eksempel: et firma ønsker en assistent, der besvarer politikspørgsmål korrekt — det er RAG. Det samme firma ønsker, at udgående breve altid følger deres husstil og struktur — det er en finjustering (eller omhyggelig prompting) opgave.

Regel af tommelfingeren: kendsgerningsproblemer er retrievalproblemer; adfærdproblemer er træningsproblemer.