ОпенАИ је развио алат који може детектовати све текстове које је писао ChatGPT, али компанија још није одлучила да ли ће га пустити у употребу.
Према речима портпарола OpenAI-ја, свесни су техничких потенцијала методе маркирања текста, али „такође разматрају ризике и могуће негативне ефекте на ширу заједницу“.
„Метода маркирања текста коју развијамо обећава, али постоје значајни ризици које анализирамо, укључујући могућност да је злонамерни актери заобиђу, (као и потенцијални штетни) утицај на кориснике који не говоре енглески језик“, наводи портпарол, преноси TechCrunch.
ОпенАИ је раније угасио свој алат за детекцију АИ текста, због нетачности и непрецизности.
Нова метода детекције разликује се од претходних покушаја увођења текста генерисаног путем вештачке интелигенције „у легалне токове“, који су били углавном неуспешни.
Нови алат фокусира се искључиво на препознавање текста генерисаног помоћу ChatGPT-а, правећи мале промене у избору речи како би створио невидљиви „водени жиг“. Овај водени жиг касније може открити посебан алат.
ОпенАИ наглашава да је методу лако заобићи, што представља значајан изазов.
Такође истичу да би маркирање текста могло негативно да утиче на говорнике којима енглески није примарни језик, стигматизујући употребу АИ као корисног алата за писање.
Извор: Кућа добрих вести/УНС
