У времену када глобални API провајдери диктирају правила игре, „Chatislav“ покушава да покаже да је могуће имати контролу над технологијом, ценом и подацима — и то из региона.

Уместо да развијају још један интерфејс изнад постојећих модела, из компаније „Meraxes Solutions & Services doo“ одлучили су да граде сопствени технолошки stack. Резултат је платформа, тачније бренд Chatislav, која комбинује више специјализованих модела, сопствену претрагу, reranking и агентско закључивање — систем који, како тврде, разуме контекст пословања клијента, а не само текст упита. Фокус је био на једноставности имплементације, али без компромиса када је реч о дубини технологије.

Данас Chatislav циља много шире од локалног тржишта. Са подршком за више од 40 језика, сопственим open-source моделом и развојем гласовних AI агената, амбиција тима није да остане регионални експеримент, већ да постане озбиљан глобални играч у области конверзационих AI решења — али под сопственим условима.

Са Драганом Јовановићем, који је CTO поменуте компаније, разговарали смо управо о томе како планирају да остваре амбициозне планове, на који начин је изгледао развој сопственог LLM модела — и колико им сопствена технологија даје простора за маневрисање у тренуцима када велики глобални играчи диктирају цене API-ја или политику приватности.

Како је текао пут од идеје до реализације Chatislava унутар вашег тима? Када сте схватили да тржишту Србије треба аутохтони AI асистент?

Драган: Chatislav је настао из фрустрације. Гледали смо како фирме у региону покушавају да користе глобалне AI алате и ударају у исте зидове. Лош рад са српским језиком. Немогућност да се систем прилагоди специфичним пословним процесима. И оно најгоре, потпуна зависност од туђег API-ја који може да промени цену или правила игре преко ноћи.

Нисмо кренули са идејом „направићемо AI агента или chatbot платформу“. Кренули смо од конкретног проблема: клијенти су нам тражили chatbot који заиста разуме шта купац хоће кад пише на српском, који може да претражи њихов каталог и пружи паметан одговор, а не да само „препакује“ одговор неког великог модела. Кад смо схватили да то не може да се реши простим спајањем на туђи API, почели смо да градимо своју инфраструктуру. И ту је почела прича о Chatislavu.

Рано смо донели једну кључну одлуку: нећемо ићи од фирме до фирме и за сваког понаособ радити custom имплементације. Хтели смо да направимо производ који било ко може да покрене за два минута, без програмерског знања. Фирма, freelancer, хоби занатлија, било ко са web сајтом. Улогујете се, подесите пар ствари, добијете код који копирате на сајт, и то је то. Ради. Та једноставност је била циљ од самог почетка, а онда смо на то надоградили сву напредну технологију за оне којима треба више.

Кључни моменат је био кад смо видели колико различитих људи у Србији заправо има потребу за оваквим алатом, од малих e-commerce продавница до банака, а понуда им је била или прескупа, нпр. америчка enterprise решења, или јефтини wrapper-и који не раде како треба са нашим језиком и контекстом.

Шта у пракси значи имати сопствени технолошки stack и где се повлачи линија између вас и глобалних wrapper решења?

Драган: Разлика је у томе шта се деси кад корисник постави питање. Код већине конкурената, то питање се проследи великом AI моделу и враћа се одговор. То је све. Ако тај модел не зна ништа о вашим производима или не разуме контекст питања, имате проблем.

Код нас, пре него што корисник уопште добије одговор, питање прође кроз пет различитих специјализованих модела који раде реформулацију упита, претрагу базе знања на два начина паралелно, рангирање резултата по релевантности, и тек онда агентско закључивање и генерисање одговора. Пет модела, пет различитих послова, у делићу секунде.

Wrapper решења ништа од овога немају. Они пошаљу питање, добију одговор, прикажу га. Ми имамо комплетну инфраструктуру за разумевање, претрагу и закључивање која ради „испод хаубе“.

У пракси то значи да Chatislav може да нађе тачно онај производ који купац тражи чак и кад пише непрецизно или користи жаргон. Може да разуме „требају ми оне црвене патике до 5.000 динара, али не Nike“ и да исфилтрира тачан резултат. И то ради једнако добро на српском, енглеском, немачком или било ком од 40+ језика које подржавамо.

А ту је и питање контроле: ми контролишемо своју судбину. Кад глобални провајдер промени цене или угаси неки модел, ми настављамо да радимо јер имамо своју инфраструктуру.

Chatislav је трениран специфично за српски језик. Говор звучи природно, са правом интонацијом и ритмом који је карактеристичан за наш језик.

Развили сте сопствени LLM који ради паралелно са светским моделима. Како изгледа та симбиоза у реалном времену?

Драган: Код нас не постоји један модел који ради све. Имамо пет специјализованих модела који раде као pipeline, и сваки има тачно дефинисан посао.

Кад корисник постави питање, први модел га реформатира и обогаћује тако да буде оптималан за претрагу. Затим два модела претражују базу знања клијента паралелно: dense модел који разуме семантику (значење реченог, не само речи), и sparse модел који хвата тачне термине, називе производа, спецификације.

Наш sparse модел смо посебно прилагодили за multilingualну употребу, са stemmer-има за преко 40 језика, што значи да ради једнако прецизно на српском, немачком или шпанском. Резултате обе претраге онда обрађује наш custom reranker, компактан cross-encoder модел са 22 милиона параметара који смо fine-tune-овали на синтетичком вишејезичном dataset-у. Он рангира резултате по стварној релевантности, не само по поклапању кључних речи. И на крају, агентски модел „размишља“, планира кораке и генерише финални одговор.

Оно што велики глобални модели не покривају је управо ова дубина обраде. Кад купац напише „јел имате нешто за купатило, онако модерног изгледа, а да није прескупо“, то је нејасан упит на који сам велики језички модел не зна шта да ради. Наш pipeline зна да разбије тај упит на атрибуте, претражи конкретну базу података клијента, рангира резултате по релевантности и врати прецизан одговор. То ради за било који језик и било које тржиште, не само за Србију.

Извор: Нетокрација