Замяната само на четвърт от думите в текст, написан от изкуствен интелект, може да свали способността на детектора на OpenAI да го разпознае от 92% до едва 17%. Според компанията точно тази крехка технология за откриване на AI съдържание сега тества и българският професор Мартин Вечев, когото OpenAI е включила в малка група партньорски изследователи.

Вечев е професор по компютърни науки в швейцарския университет ETH Zurich и научен директор на софийския институт за изкуствен интелект INSAIT. Според страница в центъра за поддръжка на OpenAI той работи заедно с Джон Тикстън от Корнелския университет и изследователи от словашкия институт KInIT. Задачата им е да проучат възможностите и ограниченията на технологията и да подпомогнат подобряването ѝ. Самият ETH Zurich потвърждава, че ролята на Вечев е да тества и оценява метода, а не да разработва продукта ChatGPT.

Защо точно българин

OpenAI не е обявила публично точна причина за избора. Има обаче ясна професионална връзка: Вечев е съавтор на рецензирана научна статия, представена на конференцията ICLR през 2025 г. В нея екипът разработва статистически тестове, които разкриват водни знаци в текст от езикови модели само чрез ограничен брой заявки към системата. Авторите стигат до извода, че подобни схеми за маркиране са по-лесни за разкриване, отколкото се е смятало. Логично е OpenAI да търси именно изследовател, който умее да провери доколко устойчив е собственият ѝ воден знак, макар компанията да не го е посочила изрично като мотив.

Технологията се нарича textGrain. Тя вгражда невидим статистически сигнал в избора на думи, който моделът прави при писане. По-късно отделен детектор проверява дали даден пасаж съдържа този подпис на OpenAI.

Слабостите обаче са съществени. OpenAI съобщава, че при текстове от 200 думи детекторът засича воден знак в около 80% от случаите, а при 400 думи, в около 95%, при зададена честота от 1% фалшиво положителни резултати. Проблемът е, че човешката редакция бързо разбива сигнала: замяната на 10% от думите със синоними в текст от 400 думи сваля откриването от 92% на 66%, а при 25% замяна то пада до 17%. Самата компания признава, че липсата на открит воден знак не доказва, че текстът е писан от човек.

Темата засяга и България пряко. OpenAI обяви, че през следващите седмици планира да въведе водния знак за допустими потребители на ChatGPT и Codex в целия Европейски съюз. Това съвпада с изискванията на член 50 от европейския Акт за изкуствения интелект, който действа от 2 август 2026 г. Според Европейската комисия срокът за машинночетимо маркиране на вече пуснати AI системи изтича на 2 декември 2026 г. Засега обаче достъпът до самия детектор остава затворен само за одобрени изследователски и академични организации заради риска от грешни резултати.