Egy AI-szolgáltatásban a válaszadás, a modelltanítás, a naplózás és a dokumentumkeresés eltérő adatkezelési folyamatokkal jár. A szolgáltatás értékelésekor mindegyikre érdemes külön rákérdezni.
Válaszadás (inferencia)
Amikor egy nyelvi modell válaszol egy kérdésre, feldolgozza a számára átadott bemenetet – ezt a folyamatot nevezzük inferenciának. A bemenet állhat magából a kérdésből, a korábbi üzenetekből vagy a dokumentumokból kigyűjtött szövegrészletekből. A válaszadás önmagában nem jelenti a modell tanítását.
Tanítás és finomhangolás
A tanítás vagy finomhangolás során a modell működését az átadott adatok felhasználásával módosítják. Azt, hogy a beküldött ügyféltartalom felhasználható-e ilyen célra, az adott szolgáltatás szerződése, beállításai és tényleges működése alapján kell ellenőrizni.
Önmagában az a vállalás, hogy az adatokat nem használják modelltanításra, még nem ad választ arra, hogy a szolgáltató tárolja-e a bemeneteket, végez-e visszaélés-ellenőrzést, vagy ki férhet hozzá a naplókhoz.
Naplók és technikai megőrzés
Az üzemeltetés, a hibakeresés és a visszaélések kiszűrése külön adatkezeléssel járhat. Lényeges kérdés, hogy milyen adatok kerülnek a naplókba, mennyi ideig őrzik meg őket, és kik jogosultak a megtekintésükre. Ezeket a szempontokat a tanítási feltételektől függetlenül is tisztázni kell.
Dokumentumkeresés és embeddingek
A dokumentumalapú kereséshez a rendszer kisebb egységekre bonthatja a szöveget, keresési indexet építhet, vagy a tartalmat számsorokkal (vektorokkal) leíró embeddinget hozhat létre. Az embedding nem tekinthető automatikusan anonim adatnak, ezért a hozzáférést, a tárolást és a törlést ennél az adatrétegnél is külön vizsgálni kell.
A válaszok ellenőrzése
Az AI meggyőzően megfogalmazott, mégis téves, hiányos vagy hatályon kívüli választ is adhat. A hivatkozott jogszabályhelyet, az időbeli hatályt, a határozat létezését és a dokumentumból levont következtetést minden esetben vesse össze az eredeti forrással.
Tanítás, válaszadás és naplózás részletesen · AI használata a jogi munkában