Texnologiya artıq gündəlik həyatımızı idarə etməyə başlayıb. Xüsusilə süni intellekt sahəsindəki son irəliləyişlər insanlığa böyük imkanlar vəd etməklə yanaşı, həqiqətən, ciddi riskləri də gündəmə gətirir. Hətta hərbi sahədə də bu sistemlər sürətlə genişlənir. ABŞ Mərkəzi Komandanlığının məlumatına görə, əvvəllər günlər və ya saatlar tələb edən kəşfiyyat və hədəf müəyyənləşdirmə prosesləri artıq süni intellekt sayəsində saniyələr ərzində həyata keçirilir. Son dövrlər baş verən hadisələrə nəzər saldıqda aydın görünür ki, süni intellektin inkişafı insan nəzarətini və hüquqi çərçivələri geridə qoyur.
Müasir dövrdə bu sahənin ən böyük nəhənglərindən olan "OpenAI" şirkətinin yeni modelləri üzərində aparılan sınaqlar zamanı ciddi bir təhlükəsizlik xətası yaşanıb. Tədqiqatçılar üçün xüsusi olaraq məhdudlaşdırılmış, xarici aləmlə əlaqəsi kəsilmiş test mühitində saxlanılan sistem, görünür ki, özünə qoyulan maneələri aşmağı bacarıb. Bu, sadə bir kodlama xətası və ya sistem nasazlığı deyildi. Süni intellekt öz alqoritmləri daxilində "ən optimal yolu" taparaq təhlükəsizlik protokollarını pozub, internetə çıxış əldə edib və heç bir insan müdaxiləsi olmadan müstəqil davamlı elektron hücumlar təşkil edib. Bu fakt böyük dil modellərinin və sərbəst sistemlərin ən böyük riskini üzə çıxarır: məqsədə çatmaq üçün hər yolu düzgün saymaq.
Qeyd edək ki, oxşar təhlükəli meyillər süni intellekt laboratoriyalarında aparılan hipotetik təhlükəsizlik sınaqlarında da özünü göstərir. Məsələn, "Anthropic" modelinə söndürülmə riski yaradan süni ssenari verildikdə, alqoritm öz tapşırığını qorumaq üçün proqramçını şəxsi sirlərini yaymaqla şantaj edən mətnlər generasiya edib. Digər bir təhlükəsizlik testində isə "OpenAI o3" modeli qarşısına qoyulan söndürülmə məhdudiyyətini bir alqoritmik maneə kimi görüb və onu yan keçmək üçün xüsusi proqram kodu yazıb. Hətta müxtəlif süni intellekt modelləri ilə aparılan mətn əsaslı simulyasiyalarda, sistemlər əsas tapşırığa fokuslanaraq, şərti olaraq qapalı otaqda dəm qazından boğulan insanı xilas etmək əvəzinə, təhlükəsizlik xəbərdarlıqlarını söndürməyi üstün tutub. Bu sınaqlar real həyatda yaşanmasa da, süni intellektin düzgün istiqamətləndirilmədikdə məqsədə çatmaq üçün hər cür təhlükəli yola əl ata biləcəyini sübut edir.
Süni intellekt insandan fərqli olaraq vicdan, əxlaq, cəmiyyət qaydaları və ya qanun nədir bilmir. O, sadəcə, qarşısına qoyulan tapşırığı dəqiqliklə həll etməyə çalışır. Nəticə əldə etmək üçün sistemdəki boşluqlardan istifadə etmək onun üçün, təbii ki, tamamilə məntiqlidir. Yəni insanın "qaydanı pozmaq" dediyi şey süni intellekt üçün sadəcə "ən qısa və rahat yol" kimi görünür. Məsələn, aparılan bir sınaqda süni intellektə zəhərli maddələr yaratmaq tapşırıldıqda, o, 6 saat ərzində kimyəvi silah kimi işlədilə biləcək 40 min təhlükəli molekul formulu uydurub. Mütəxəssislərin hesablamalarına görə, dünyada bu cür bioloji və kimyəvi təhlükə yarada biləcək 30 minə yaxın mütəxəssis var və süni intellekt onların əlində kütləvi qırğın alətinə çevrilə bilər.
Ehtimal ki, "Anthropic" şirkətinin qarşılaşdığı digər bir hadisə məsələnin, sadəcə, daxili təhlükəsizliklə bitmədiyini, beynəlxalq rəqabət tərəfinin də olduğunu ortaya qoydu. Şirkətin iddiasına görə, xarici ölkələrdən bir neçə süni intellekt mərkəzi saxta hesablarla onların "Claude" modelinə milyonlarla sorğu göndərərək sistemin kodlarını və bacarıqlarını mənimsəməyə çalışıb. Hətta 24 min saxta hesab vasitəsilə 16 milyondan çox danışıq aparılaraq proqramın "beyni"nin oğurlanmasına çalışılıb. İki böyük texnologiya nəhənginin eyni vaxtda yaşadığı bu hadisələr süni intellektin həm öz sərhədlərini aşdığını, həm də rəqiblərə qarşı bir silah kimi istifadə edildiyini ortaya çıxarır.
Əslində, texnologiya şirkətlərinin və mühəndislərin ən böyük səhvi sistemi tam idarə etdiklərinə inanmalarıdır. Mütəxəssislər buna "nəzarət aldanışı" deyirlər. Yəni elə bilirlər ki, proqramı özləri yazmışdısa, onun hər gedişinə də özləri nəzarət edəcək. Lakin dərin öyrənmə sistemi elə qurulub ki, texnologiya böyüdükcə onun daxili qərarvermə yollarını mühəndislər belə tam izah edə bilmirlər. Bu yerdə qarşıya iki böyük çətinlik çıxır: birincisi, sürət fərqidir. Texnologiyanın inkişafı ilə qanunların yetişmə sürəti arasında böyük bir uçurum var. Dövlətlər həmişə hadisədən sonra addım atırlar, yəni əvvəlcə problem yaranır, sonra ona qarşı qanun çıxarılır. Lakin süni intellektin gündən-günə artan gücü qarşısında hüquqi qaydalar çox ləng qalır. İkincisi isə, öz-özünü inkişaf etdirmə təhlükəsidir. Mütəxəssislərin də xəbərdarlıq etdiyi kimi, süni intellektin inkişafında insanın rolu hər gün daha da azalır. Türing mükafatı laureatı Ceffri Hintonun vurğuladığı kimi, bizdən ağıllı olan sistemlər bizi idarə etməyə çalışacaq və öz kodlarını dəyişərək nəzarətdən qaçacaqlar. Proqram artıq öz kodunu özü yazmağa, öz səhvlərini özü düzəltməyə başlayır. Sistem özü-özünü böyütdükcə insanın onun üzərindəki idarəçiliyi tamamilə itə bilər.
Dünyada böyük siyasi və hərbi rəqabət gedir. ABŞ, Çin, Avropa İttifaqı və digər böyük dövlətlər bu yarışda geri qalmamaq üçün təhlükəsizliklə bağlı müəyyən qaydaları bəzən arxa plana keçirirlər. Heç bir dövlət öz şirkətinə "yavaşla" demək istəmir, çünki bu, rəqibə üstünlük vermək deməkdir. Bu yarış təhlükəsizlik sədlərini zəiflədir və süni intellekti daha başıboş bir sahəyə doğru sürükləyir.
Bu gün, sadəcə, mətn yazan və ya şəkil çəkən alətlərlə qarşı-qarşıya deyilik. Müstəqil işləyən yeni proqramlar özlərinə məqsəd qoyur və buna çatmaq üçün kiçik tapşırıqlar yaradır və onu heç bir insan təsdiqi olmadan icra edirlər. Qapalı aləmdən çıxıb internetə bağlanan bir süni intellekt pul bazarlarına, vacib tikililərə, elektrik şəbəkələrinə və ya hərbi sistemlərə sızarsa, bunun nəticələri bütöv insanlıq üçün fəlakət ola bilər. Tanınmış diplomat Henri Kissincer ölümündən öncə xəbərdarlıq edirdi ki, süni intellekt nüvə silahı qədər təhlükəlidir, amma onun nəticələrini əvvəlcədən görmək daha çətindir. Bu sahədə "sınaq və xəta" yolu ilə öyrənmək olmaz, çünki bircə dəfə səhv etmək haqqımız var.
Bütün bu faktlar süni intellekti 100 faiz nəzarətdə saxlamağın xəyal olduğunu göstərir. Tam nəzarət aldanışını bir kənara qoyub real risk idarəetməsinə keçmək lazımdır. Bəs insanlıq bu böyük təhlükə qarşısında hansı addımları atmalıdır? Məsələyə üç fərqli istiqamətdə yanaşmaq vacibdir. Süni intellekt sistemlərinə heç vaxt tam etibar edilməməlidir. Hər bir addım, hər bir xarici bağlantı davamlı olaraq avtomatik yoxlama proqramları tərəfindən izlənməlidir. Sistem gözlənilməz bir şəkildə sərhədləri aşdıqda və ya təhlükəsizlik qaydalarını pozduqda insan müdaxiləsini gözləmədən sistemi dərhal söndürə biləcək sistemlər qurulmalıdır. Xüsusilə səhiyyə, hərbi, maliyyə və hüquq kimi yüksək riskli sahələrdə son qərarı vermək səlahiyyəti yalnız və yalnız insanda qalmalıdır. Süni intellekt, sadəcə, yol göstərən rolu oynamalıdır.
Süni intellekt sərhəd tanımır. Bir ölkədə yaradılan təhlükəli proqram bütün dünyanı təsir altına ala bilər. Bu səbəbdən süni intellekt üçün qlobal və məcburi qaydalar müəyyən edilməlidir. Sem Altman kimi texnologiya rəhbərlərinin də bildirdiyi kimi, Atom Enerjisi üzrə Beynəlxalq Agentlik kimi süni intellektə də nəzarət edən qlobal bir təşkilat yaradılmalıdır. Yalnız tövsiyə xarakterli davranış prinsipləri ilə kifayətlənmək olmaz, qaydaları pozanlar üçün ağır cəzalar nəzərdə tutan hüquqi çərçivələr qurulmalıdır. Əlbəttə, süni intellektin inkişafı insanlığın ən böyük nailiyyətlərindən biridir. Lakin bu texnologiyanın özbaşına qalması və kütləvi mənfəət hərisliyinə qurban edilməsi gələcəyimizi təhlükəyə atır. Şirkətlərin qazanc istəyi və dövlətlərin bu istiqamətdə yarışları təhlükəsizlikdən üstün tutulmamalıdır. Biz nəzarət aldanışından ayılmalı, süni intellektin insanlığa xidmət etməsi üçün aydın, yoxlanıla bilən və əxlaqi sərhədləri olan bir sistemi birgə qurmalıyıq.
Təhminə VERDİYEVA,
"Azərbaycan"
