U-BSS neyron tarmoq modelini, unga qo‘shimcha raqobatbardosh funksiyalarni qo‘shib va ayni paytda server resurslariga minimal talablarini saqlab qolgan holda takomillashtirdi. Yengil va yuqori sifatli T5 neyron tarmog‘i odatdagi markaziy protsessorlarda ishlaydi, bu esa undan foydalanishni mijoz uchun maqbul qiladi.
Nutq tahlilida jamlash dialogni uning asosiy mohiyatini saqlaydigan yanada qisqa va ixcham shaklga qayta tuzish imkonini beradi. Ushbu uslub katta hajmdagi axborotni qayta ishlashni soddalashtirish, murojaatlar tahlilini tezlashtirish va javoblar sifatini nazorat qilishni yaxshilash uchun qo‘llaniladi.
Neyron tarmoqlarni o‘qitish uchun odatda GPU negizidagi serverlar ishlatiladi, chunki ular yuqori unumdorlikka ega va katta hajmdagi ma‘lumotlarni qayta ishlashni samarali uddalaydi. Yechim T5 neyron tarmog‘ida amalga oshiriladi va boshqa LLM modellaridan farqli o‘laroq, u oddiy CPU da (markaziy protsessor) ishlaydi va GPU kartasini ulashni talab qilmaydi. Shu bilan birga, T5 neyron tarmog‘i sifat jihatidan GPU negizidagi modellardan qolishmaydi.
Jamlash shuningdek semantik nom berish bilan barcha dialoglar massasini avtomatik ravishda guruhlar-klasterlarga bo‘lish bosqichlaridan biri sifatida ishlatiladi. Va bu, o‘z navbatida, aloqa markazining dastlabki hisobot ro‘yxatiga kiritilmagan murojaatlarning mavzularini ko‘rish imkonini beradi. Masalan, tizimdagi nosozliklar to‘g‘risidagi arizalar sonining ko‘payishini sezish va zudlik bilan chora ko‘rish yoki yangi mahsulot haqida salbiy qayta aloqani ko‘rish mumkin.
Bilimlar bazasida jamlash yordamida bir yoki bir nechta maqolaning qisqacha obzorini qilish mumkin. Mutaxassislar endi materialni to‘liq o‘qishga vaqt sarflamaydilar, bu esa biznes jarayonlarini tezlashtiradi.
“Jamlash tabiiy tilni qayta ishlashdagi murakkab vazifalardan biri jumlasiga kiradi, chunki model uzun matnlarni qayta ishlashi, shuningdek kiritilgan axborot asosida bog‘langan soʻrovlarni yaratishi kerak. Biz hozirda ikkita asosiy texnologiyaga asosida jamlashni qo‘llab-quvvatlaymiz: LLAMA-3 va T5. T5 neyron tarmog‘i odatdagi CPU larda ishlaydi, u yengilroq, lekin ayni paytda yetarlicha yuqori sifatga ega, shuning uchun u buyurtmachilar uchun jozibali. Biz T5 modelining chalasini to‘ldirdik, raqobatbardosh funksiyani qo‘shdik va foydalaniladigan server quvvatini saqlab qoldik”, deb izoh berdi U-BSS direktori Pulat Xaliulin.
