Azərbaycanlı alimlərin apardıqları tədqiqat nəticəsində dezinformasiyanın (saxta xəbərlərin) avtomatik aşkarlanması üçün istifadə olunan süni intellekt sistemlərinin mühüm məhdudiyyətləri müəyyən edilib. Araşdırmanın nəticələri nüfuzlu beynəlxalq elmi jurnalda dərc olunub.
AZƏRTAC xəbər verir ki, tədqiqat zamanı dezinformasiyanı aşkarlayan süni intellekt sistemlərinin etalon saxta mətnlər üzərində nümayiş etdirdiyi 98–99 faizlik dəqiqliyin real şəraitdə onların etibarlılığını tam əks etdirmədiyi müəyyən olunub. Məlum olub ki, bu sistemlər bir çox hallarda xəbərin doğru və ya yalan olmasını deyil, mətnin insan, yaxud generativ süni intellekt tərəfindən yazıldığını müəyyənləşdirən üslub xüsusiyyətlərinə əsaslanırlar.
Araşdırmaya əsasən, “ChatGPT”, “Claude” və digər generativ süni intellekt sistemləri məzmunu dəyişmədən yalnız mətnin yazı üslubunu yenidən formalaşdırdıqda, mövcud saxta xəbər aşkarlama sistemlərinin nəticələri əhəmiyyətli dərəcədə pisləşir. Bu isə həmin sistemlərin məzmunun semantik xüsusiyyətlərini deyil, əsasən üslub əlamətlərini öyrəndiyini göstərir.
Tədqiqatçılar bu problemi aradan qaldırmaq məqsədilə iki mərhələli üsluba nəzarət metodunu hazırlayıblar. Təcrübə çərçivəsində həm həqiqi, həm də saxta mətnlər “Claude”, “GPT-4o” və “Gemini” modellərinin parafraz zəncirlərindən keçirilərək vahid yazı üslubuna uyğunlaşdırılıb və bununla da üslub fərqlərinin qiymətləndirməyə təsiri aradan qaldırılıb.
Əldə olunan nəticələr əsasında müəlliflər dezinformasiyanın aşkarlanması sistemlərinin qiymətləndirilməsi zamanı üsluba nəzarət yanaşmasının yeni metodoloji standart kimi tətbiq edilməsini təklif edirlər. Onların qənaətinə görə, bu yanaşma gələcəkdə daha etibarlı və davamlı süni intellekt sistemlərinin hazırlanmasına töhfə verə bilər.
Tədqiqat Elm və Təhsil Nazirliyinin İnformasiya Texnologiyaları İnstitutunun şöbə müdiri, Azərbaycan Texniki Universitetinin Data Elmi və Süni İntellekt İnstitutunun direktoru, AMEA-nın müxbir üzvü Ramiz Alıquliyev və universitetin doktorantı Cəlal Mehdiyev tərəfindən həyata keçirilib.
Araşdırmanın nəticələri “Fərqli böyük dil modelləri vasitəsilə parafraz etməklə mətnin mənşəyinin gizlədilməsi: saxta xəbər aşkarlayan sistemlərin vahid yazı üslubu şəraitində qiymətləndirilməsi” (“Cross-LLM paraphrase laundering: a register-controlled evaluation of fake news detectors”) adlı məqalədə ümumiləşdirilərək impakt faktoru 6,5 olan və Q1 kvartilinə daxil edilən beynəlxalq AI (Artificial Intelligence) jurnalında dərc olunub.
Tədqiqat işi İnformasiya Texnologiyaları İnstitutu və AzTU tərəfindən həyata keçirilən birgə qrant layihəsi (Qrant №: AzTU-DQL-2025-M01/60182631) çərçivəsində yerinə yetirilib.
