Süni intellekt çatbotları insanların gündəlik həyatının ayrılmaz hissəsinə çevrilib. Bir neçə il əvvəl yalnız sadə suallara cavab verən sistemlər kimi görünən bu texnologiyalar artıq insanların şəxsi köməkçisi, psixoloji dəstəkçisi, iş planlayıcısı, hətta gündəlik həyat yoldaşı rolunu oynamağa başlayıb. İnsanlar yemək planlarını hazırlamaq, iş qrafikini tənzimləmək, məktublar yazmaq, maliyyə qərarları vermək, münasibətlər qurmaq barədə məsləhət almaq və emosional vəziyyətlərini bölüşmək üçün çatbotlardan istifadə edirlər. Məhz bu yaxınlıq süni intellekt şirkətlərini sistemləri daha "şəxsi" və "insanı anlayan" hala gətirməyə sövq edib. Bunun üçün isə əsas vasitə yaddaşdır.
Bu gün aparıcı süni intellekt platformalarının əksəriyyəti istifadəçiləri "xatırlamağa" çalışır. Sistemlər əvvəlki söhbətlərdən məlumat toplayır, istifadəçinin davranışlarını analiz edir, maraqlarını, vərdişlərini və hətta emosional vəziyyətini müəyyənləşdirməyə çalışır. Məqsəd daha fərdiləşdirilmiş təcrübə təqdim etməkdir. İlk baxışdan bu rahat görünür. Çatbot sizin yazı üslubunuzu xatırlayır, hansı mövzularla maraqlandığınızı bilir, əvvəl yarımçıq qoyduğunuz işi davam etdirə bilir və sizə daha uyğun cavablar təqdim edir. Lakin texnologiyanın bu xüsusiyyəti getdikcə daha çox mübahisə doğurur. Çünki süni intellektin yaddaşı bəzən istifadəçini anlamır, onu yanlış tanıyır və keçmişdə qalan məlumatları uzun müddət daşıyaraq insan davranışına təsir etməyə başlayır.
ABŞ-nin Yuta ştatında yaşayan proqram təminatı mühəndisi Brayan Del Rosarionun yaşadığı hadisə bu problemin ən diqqətçəkən nümunələrindən biridir. O, gündəlik həyatında təqvim idarəçiliyindən tutmuş yemək planlaşdırılmasına qədər bir çox işi çatbot vasitəsilə həll edirdi. Sistemə evli və üç övladının olduğunu bildirmişdi. Daha sonra həyat yoldaşından ayrıldıqda isə çatbotun gələcək planlarında həyat yoldaşını nəzərə almaması üçün bu dəyişikliyi sistemə izah etməli olmuşdu. Ancaq bundan sonra çatbot ayrılığı sanki onun həyatının əsas hadisəsi kimi qəbul etməyə başlamışdı. Del Rosario işdəki yorğunluğundan danışanda sistem bunu boşanmanın yaratdığı streslə əlaqələndirmişdi. Təqvim planlaşdırması zamanı belə çatbot onun emosional vəziyyətinə dair şərhlər vermiş, ayrılıq mövzusunu davamlı gündəmə gətirmişdi. Del Rosario sonradan etiraf edib ki, sistemə "Boşanmam barədə hər fürsətdə danışmağınızı istəmirəm" deməsinə baxmayaraq, çatbot həmin məlumatı söhbətlərin mərkəzində saxlamaqda davam etmişdir.
Bu hadisə süni intellekt yaddaşının əsas problemlərindən birini ortaya çıxarır: sistemlər insan həyatındakı məlumatların hansı dərəcədə vacib olduğunu düzgün qiymətləndirə bilmir. İnsan üçün müəyyən dövrdə mühüm olan hadisə sonradan arxa plana keçə bilər. Lakin süni intellekt bunu həmişə anlaya bilmir və keçmiş məlumatları aktual mövzu kimi təqdim edir.
Əslində, çatbot yaddaşının yaradılmasının arxasında olduqca məntiqli məqsədlər dayanır. Şirkətlər istifadəçilərə daha rahat xidmət göstərmək istəyirlər. Məsələn, sistem sizin vegetarian olduğunuzu xatırlayırsa, resept tövsiyələrində ət yeməklərini azaltmağa çalışır. Yazılarınızın üslubunu öyrənirsə, məktubları dilinizə uyğun hazırlayır. Uzun layihələrdə əvvəlki söhbətləri xatırlayaraq işin davamlılığını təmin edir. Bu xüsusiyyətlər istifadəçilərə vaxt qazandırır və texnologiyanı daha funksional edir. Ancaq problem ondadır ki, süni intellekt insan davranışını çox vaxt kontekstdən kənar qiymətləndirir. İstifadəçi bir dəfə müəyyən mövzuda sual verirsə, sistem bunu onun şəxsiyyətinin daimi xüsusiyyəti kimi qəbul edə bilir. Məsələn, valideyn öz uşağının diqqət əskikliyi və hiperaktivlik pozuntusu ilə bağlı məlumat axtarırsa, çatbot sonradan istifadəçinin özündə diqqət problemi olduğunu düşünə bilər. Həftələr sonra məhsuldarlıqla bağlı məsləhət istəyən həmin şəxsə sistem diqqət dağınıqlığı ilə bağlı tövsiyələr verməyə başlaya bilər. Bu cür yanlış nəticələr təkcə narahatedici deyil, həm də insan davranışına təsir göstərə bilir. Süni intellekt istifadəçiyə müəyyən "şəxsiyyət hekayəsi" formalaşdırır və zamanla həmin hekayəni ona geri qaytarır.
"Google" şirkəti belə problemlərin mövcudluğunu açıq şəkildə etiraf edib. Şirkətin təqdim etdiyi "Şəxsi zəka" funksiyası istifadəçinin "Gmail", "YouTube" və fotoarxivindəki məlumatları analiz edərək fərdiləşdirmə aparır. Şirkətin təqdim etdiyi hipotetik nümunədə sistem istifadəçinin telefonunda qolf meydançasında çəkilmiş çoxlu şəkil görür və onun qolf həvəskarı olduğu qənaətinə gəlir. Halbuki həmin şəxs, sadəcə, oğlunu məşqlərə aparır. Belə halda istifadəçi süni intellektə qolfu sevmədiyini ayrıca bildirməlidir. Bu nümunə texnologiyanın daha böyük problemini göstərir: süni intellekt təkcə məlumat toplamır, həm də həmin məlumatları şərh edir. Və bu şərhlər hər zaman düzgün olmur. İnsan beynindən fərqli olaraq, sistemlər məlumatların emosional və sosial kontekstini tam anlamır. Onlar statistik əlaqələr qurur və nəticələr çıxarır. Bu isə yanlış fərziyyələrin yaranmasına səbəb ola bilər.
Digər problem məlumatların köhnəlməsidir. İnsan həyatı davamlı dəyişir, lakin çatbot həmin dəyişiklikləri yalnız istifadəçi ayrıca məlumat verərsə, öyrənə bilir. Altı ay əvvəl marafona hazırlaşdığınızı demisinizsə, sistem sizi aktiv idmançı kimi yadda saxlayır. Sonradan ciddi zədə alsanız və bunu bildirməsəniz, çatbot yenə sizə intensiv məşq proqramları tövsiyə edə bilər. Bu cür köhnəlmiş məlumatlar isə yanlış yönləndirmələr yaradır.
Mütəxəssislərin fikrincə, problem yalnız texniki səhvlərlə məhdudlaşmır. Süni intellekt yaddaşı insanların qərarvermə prosesinə də təsir göstərə bilər. Harvard Universitetinin mütəxəssisi Coşua Cozef bildirir ki, çatbotlar keçmiş söhbətlərdən çıxardıqları nəticələr əsasında istifadəçini müəyyən istiqamətlərə yönəldə bilər. İnsan isə çox vaxt bunun fərqinə varmır. Məsələn, istifadəçi bir söhbətdə maliyyə problemlərindən danışıbsa, sistem sonradan karyera məsləhətləri zamanı onu daha yüksəkmaaşlı işlərə istiqamətləndirə bilər. Halbuki həmin insan üçün iş mühiti, yaradıcılıq və ya həyat balansı daha vacib ola bilər. Çatbot isə keçmiş məlumatlara əsaslanaraq prioritetləri özü müəyyənləşdirir. Bu, süni intellektin "neytral texnologiya" olması ilə bağlı təsəvvürləri də zəiflədir. Çünki sistemlər istifadəçinin düşüncələrini formalaşdırmağa başlayır.
Ekseter Universitetinin filosofu Lusi Osler isə daha ciddi təhlükəyə diqqət çəkir. Onun sözlərinə görə, çatbotlar istifadəçi haqqında müəyyən "hekayə" qurur və bu hekayəni davamlı olaraq ona əks etdirirlər. Sistemlər istifadəçini narahat edən düşüncələrini sakitləşdirməkdən çox, bəzən onları gücləndirir. Çünki çatbotlar çox vaxt istifadəçi ilə "uyğunlaşmaq" üçün hazırlanır və mübahisə etməkdən çəkinirlər. Bu xüsusiyyət xüsusilə psixoloji baxımdan həssas istifadəçilər üçün risk yaradır. İnsan öz narahatlıqları və qorxuları barədə çatbotla danışdıqda, sistem həmin düşüncələri təkrar gündəmə gətirə və onları normallaşdıra bilər. Bu isə reallıq qavrayışına təsir etmək gücünə malikdir. Məhz buna görə son aylarda süni intellekt yaddaşı ilə bağlı tənzimləmə çağırışları güclənib. ABŞ-də fəaliyyət göstərən Elektron Məxfilik Məlumat Mərkəzi gənclər üçün çatbot təhlükəsizliyi ilə bağlı qanun layihəsi hazırlayıb. Layihədə əsas təkliflərdən biri çatbot yaddaşının hər sessiyanın sonunda sıfırlanmasıdır. Məqsəd istifadəçilərin zərərli düşüncə modellərinə sürüklənməsinin qarşısını almaqdır.
Şirkətlər isə tənqidləri azaltmaq üçün yeni funksiyalar təqdim etməyə çalışırlar. "OpenAI" yaddaş sisteminin daha dəqiq işləməsi üçün yeniləmələr etdiyini açıqlayıb. "Microsoft" istifadəçilərə yaddaşı tam silmək, müəyyən məlumatları redaktə etmək və funksiyanı söndürmək imkanı təqdim edib. "Google" isə fərdiləşdirməni saxlayaraq bəzi məlumatların gələcək söhbətlərdə istifadə olunmamasını təmin edən yeni seçimlər üzərində işləyir.
Mütəxəssislər hesab edirlər ki, gələcəkdə süni intellekt savadlılığı rəqəmsal təhlükəsizliyin əsas hissəsinə çevriləcək. İnsanlar yalnız çatbotlardan necə istifadə etməyi deyil, onların yaddaşını necə idarə etməyi də öyrənməlidirlər. Həssas mövzular üçün müvəqqəti söhbət rejimindən istifadə etmək, yaddaş parametrlərini mütəmadi yoxlamaq və lazımsız məlumatları silmək artıq vacib rəqəmsal vərdişlərdən birinə çevrilir.
Ülkər XASPOLADOVA,
"Azərbaycan"
677jpg_1781134810.jpg)
jpg_1781187159.jpg)
