İstehsal sahəsi üçün lokal AI modelləri
İki tip dil modeli tətbiq edib öyrətdik: müştərilərlə ünsiyyət üçün çatbotlar və işçiləri rutindən azad edən daxili köməkçi. Modellər şirkətin öz infrastrukturunda yerləşdirilib.
Məsələ
Gündəlik işin bir hissəsi müştərilərə eynitipli cavablar yazmağa və şirkət daxilində məlumat axtarışına sərf olunurdu. Yazışmanı və daxili sənədləri xarici servislərə verməyə isə şirkət hazır deyil.
Müştərilərin eynitipli müraciətləri vaxt aparır
Şirkət daxilində məlumat axtarışı uzun çəkir
Məlumatlar şirkətin perimetrindən kənara çıxmamalıdır
Həll
İki lokal model dəsti qurduq və onları şirkətin materialları üzərində öyrətdik. Heç nə xarici servislərə getmir: modellər öz serverlərində işləyir.
Müştəri modelləri: çatbotlar tipik müraciətlərə cavab verir
Daxili modellər: işçilərin gündəlik məsələləri üçün köməkçi
Modellərin şirkətin sənədləri və prosesləri üzərində öyrədilməsi
Şirkətin öz infrastrukturunda yerləşdirmə, xarici API-lər olmadan
Stek və alətlər
Lokal LLM-lərSelf-hostedDockerŞirkət məlumatları üzərində öyrətməDaxili sistemlərlə inteqrasiya
Nəticə
2
model dəsti: müştəri və daxili
100%
lokal: məlumatlar şirkətin perimetrindən kənara çıxmır
0
xarici API — məlumat emalı zəncirində