Идеја за оснивање овог пројекта настала је у тренутку када су генеративни модели, првенствено GPT-3 и GPT-3.5, постали шире доступни, кроз ChatGPT (рана 2023. година). Убрзо након тога, тим иза поменутог пројекта брзо је схватио да иако ови модели дају кохерентне и самоуверене одговоре, често ти одговори нису тачни и не одражавају стварност. Такође, ChatGPT није пружао изворе на основу којих су креирани одговори.

„У многим областима, а поготово у наукама, и у биомедицини, извор података, као и да одговори буду проверени и тачни, да не садрже такозване халуцинације великих језичких модела, је јако битан. VerifAI је настао као идеја да се ови проблеми великих језичких модела реше. Пројекат је настао као сарадња између компаније Bayer и Истраживачко-развојног института за вештачку интелигенцију Србије“, за Netokraciju открива оснивач VerifAI Никола Милошевић.

Никола и његов тим су заједно аплицирали за Horizon Europe, па су финансијски подржани од стране Next Generation Internet Search-а, захваљујући којем су кренули са израдом VerifAI система, који чини генеративни систем претраге са верификованим одговорима. Пројекат је open-source, али са потенцијалом да се комерцијализује. Тако да VerifAI није заправо стартап, али има потенцијал да прерасте ускоро у компанију. Управо о том пословном путу, разговарамо са Николом који нам у наставку текста открива више детаља.

Како изгледа ваш тим, колико има чланова и како сте подељени по позицијама? Никола: На развоју VerifAI система радило је четири истраживача са Института за вештачку интелигенцију (др Бојана Башарагин, др Адела Љајић, Милош Кошпрдић, Дарија Медвеки) и двоје људи из Bayer-овог R&D департмана (др Никола Милошевић, Лоренцо Касано).

Током пројекта смо појачани у области маркетинга од стране Анђеле Пуповац, која је била иницијално практикант, и онда била запослена на пројекту. Додатно у веб развоју и дизајну имамо подршку још два практиканта (Наташа Радмиловић и Петар Стевановић) који раде своје праксе преко института за вештачку интелигенцију.

Да ли можеш да нам откријеш више о VerifAI-у и које решење тачно развијате, која је његова примена? Никола: Наравно. VerifAI је генеративни систем за одговарање на питања у области биомедицине, са референцираним и провереним одговорима. Шта то значи за кориснике? Када корисник постави питање из области биомедицине, систем ће прво пронаћи најрелевантније радове који садрже одговор на дато питање.

За то користимо напредну претрагу, засновану на комбинацији семантичке и лексичке претраге. Након тога систем ће генерисати одговор на питање референцирајући релевантне научне радове, тако да корисник може видети тачно која реченица је заснована на ком раду, и кликнути на линкове до њих, уколико желе прочитати цео рад.

За ово смо финно дотренirali Mistral модел. Овде је изазов, да и даље одговор који је генерисан није потпуно заснован на радовима који су референцирани и може и даље садржати неке халуцинације. Да бисмо проверили одговоре, креирали смо још један модел вештачке интелигенције заснован на трансформер архитектури неуралних мрежа да бисмо проверили да ли је свака реченица у тексту заиста заснована на референцираном раду.

Корисник овде може видети семафор систем верификације. Наиме уколико је реченица у потпуности заснована на раду, она ће бити обојена на крају у зелену, уколико је делимично заснована на раду, биће обојена у наранџасту или жуту, док уколико није уопште заснована на раду или представља контрадикцију тексту рада, биће обојена у црвену. Реченице које нису референциране биће обојене у сиву боју.

Верумо да овакв систем може бити од помоћи лекарима као систем подршке у одлукама приликом лечења, али и студентима биологије, медицине, и сличних наука, као и пацијентима да би се боље информисали о методама лечења.

Тим стручњака који стоји иза пројекта VerifAI, који тек има потенцијала да се временом унапредује. Који су најчешћи изазови са којима се суочавате када је функционисање вашег решења у питању? Никола: Изазови које смо до сад имали најчешће су били техничке природе. За дотренирaвање модела су нам били неопходни сервери са напредним графичким картицама, које су јако скупе. Такође, за рад система и за генерисање одговора и проверу тачности одговора су неопходне машине са тим графичким картицама, како би систем радио релативно брзо.

Наравно, придржавамо се највиших стандарда када су у питању лични подаци корисника. Али ово је решено на начин да се генерисани одговори, као ни питања корисника не чувају, осим уколико корисници желе да поделе генерисане одговоре и постављена питања. Када су у питању кориснички подаци, све што је поверљиво је енкриптовано, сав саобраћај ка сајту је енкриптован и не тражимо од корисника податке који нису неопходни (за налог је потребно дати само имејл).

Да ли сте до сада имали реалну примену вашег решења и ако да какв је за сада утисак корисника? Никола: Имали смо неколико интеракција са лекарима и са људима који раде у едукацији, на пример у медицинским школама. Утисак ових корисника је био јако позитиван. Такође, имамо и неколико корисника из различитих департмана из Bayer-а, дакле фармацеутске компаније, које су такође изразиле задовољство с тим како систем ради.

По чему се све ваше решење разликује од конкуренције, шта је оно што га заправо изdvaja на тржишту? Никола: Систем је јединствен јер је фокусиран на научне радове, који могу дати сигурност корисницима да су извори на којима су базирани одговори система проверени, да је на њима извршена рецензија од стране стручњака. Друга битна разлика од конкуренције је да смо развили систем вештачке интелигенције који детектује било какве неправилности, нетачности и халуцинације у генерисaњу.

Извор: Кућа добрих вести