Najpierw proces
Lokalny model może wspierać wyszukiwanie w dokumentach, klasyfikację lub przygotowywanie odpowiedzi. Wybór zaczyna się od zadania, wrażliwości danych, opóźnienia i zdolności zespołu do obsługi systemu.
Dostęp przebiega zgodnie z uprawnieniami użytkownika
Łączenie dokumentów z AI wymaga zachowania uprawnień. Indeksowanie, wyszukiwanie informacji, logi i kopie zapasowe są częścią tej samej architektury. Hosting lokalny nie eliminuje automatycznie ryzyk.
Jakość sprawdza się na istotnych przykładach
Tworzymy zestaw ewaluacyjny i porównujemy odpowiedzi, poprawne odmowy oraz cytowane źródła. Wybieramy między konfiguracją, wyszukiwaniem w dokumentach i dostrajaniem modelu na podstawie wyników.
Eksploatacja ma znaczenie po pilocie
Dobór sprzętu, aktualizacje, monitorowanie i powrót do wcześniejszej wersji są częścią projektu. W dużych organizacjach, w tym w sektorze bankowym, obowiązki i kryteria akceptacji muszą zostać udokumentowane przed rozszerzeniem.