Süni Zəkanın müharibədə gələcəyi: İran və daha geniş kontekst

Fars körfəzi müharibəsindən sonra geniş yayılmış fikir belə idi ki, qabaqcıl texnologiya ABŞ-nin və onun müttəfiqlərinin İraq silahlı qüvvələrini məğlub etməsinə imkan verib. Xüsusilə, qabaqcıl mikroelektronikanın beynəlxalq koalisiyanın qələbəsində əsas rol oynadığı düşünülürdü. Güclü kompüter çipləri strateji planlaşdırmanın sadələşdirilməsindən tutmuş silahların hədəflənməsinin yaxşılaşdırılmasına qədər hərbi əməliyyatları dəyişdirdi. Bunun əksinə olaraq, İraqın cavab zərbəsi vurmaq üçün texniki resursları yox idi. ABŞ rəhbərliyindəki ittifaqın qələbəsi haqqında bu narrativ texnoloji üstünlüyün döyüş meydanında uğuru müəyyən etdiyini göstərən anlayışı möhkəmləndirdi.

Süni zəka bu müzakirəni yenidən gündəmə gətirib. ABŞ və İsrailin İrana qarşı hazırkı müdaxiləsi kampaniyada bu texnologiyanın istifadəsinə görə “ilk süni zəka müharibəsi” kimi təsvir olunur. Strateqlər qeyd edirlər ki, bu texnologiya əməliyyatları daha səmərəli və effektiv edib. Lakin onların süni zəkaya etibar etməsi nəzarətin və məsuliyyətin olmaması ilə bağlı etik narahatlıqlar yaradır. Siyasətçilər bu texnologiya gələcəkdə müharibələrin necə aparılacağını müəyyən etməzdən əvvəl hərəkətə keçməlidirlər.

Süni zəkanın əməliyyat reallığı

Süni zəka ABŞ və İsraildə qərar qəbul edənlər üçün çoxsaylı üstünlüklər təqdim edib. Bununla belə, o, “öldürmə zənciri”nin sadələşdirilməsində xüsusilə faydalı olub, yəni hücumların koordinasiya edilməsi prosesində. Müharibənin başlanğıcında həyata keçirilən hava hücumlarında bir gün ərzində 1000 hədəfin vurulması bu texnologiyanın təsirli tətbiqi kimi təqdim olunub. Bu mərhələdə aydın olur ki, qərarların gecikmədən verilməli olduğu şəraitdə süni zəka döyüş meydanında üstünlük təmin edir.

Lakin bu texnologiyanın tətbiqi müəyyən risklər də yaradır. Süni zəka sistemləri proqnozlaşdırıcı analitika vasitəsilə hədəfləmə qərarlarını çox sürətlə qəbul edə bilir. Döyüş şəraitində insan operatorun bu qərarları tam şəkildə yoxlaması faktiki olaraq mümkün olmaya bilər. Bu kimi halların qarşısını almaq üçün bir çoxları süni zəka döyüşdə istifadə edilərkən insanın prosesdə qalmasını vacib sayır. Lakin kinetik müharibə şəraitində bu nəzarətin konkret necə olacağı hələ də dəqiq müəyyən edilməyib, halbuki bu məsələ ABŞ-nin mövcud doktrinası üçün mühüm əhəmiyyət daşıyır.

Səhvlər və məsuliyyət

Bu kimi vəziyyətlərdə süni zəka ilə bağlı risklər artıq nəzəri deyil. Minab məktəbinin bombalanmasından sonra, nəticədə 168 nəfərin öldüyü hadisədə, hədəfin süni zəka tərəfindən müəyyən edildiyi ilə bağlı şübhələr yaranıb. Hücum və süni zəkanın rolu ilə bağlı araşdırmalar davam etsə də, hadisə döyüş meydanında maşınların səhv etdiyi zaman məsuliyyətin kimə aid olması məsələsini gündəmə gətirib.

Süni zəkanın hərbi əməliyyatlar üçün faydalı olduğuna inanan qərar qəbul edənlər bu cür faciələrə görə məsuliyyətin necə bölüşdürüləcəyinə təsir edə bilər. Süni zəka ilə işləyən sistemin operatoru “mənəvi zərbə zonası”nda qala bilər və qəza baş verdikdə texnologiyanın məsuliyyətini öz üzərinə götürməli olur. Minab hadisəsində hücumun səbəbi ikinci dərəcəli hesab oluna bilər. ABŞ bu hücumu insan səhvi kimi təqdim edə və məsələni bağlanmış hesab edə bilər ki, bu da faktiki olaraq məsuliyyət ehtimalını aradan qaldırır.

Dövlət və sənaye münasibətləri

Müharibə hökumətlərlə texnologiya şirkətləri arasında getdikcə daha çox məcburedici və qeyri-şəffaf münasibətlərin formalaşdığını göstərib. Bu dinamikanın ən aydın nümunəsi ABŞ hökumətinin İrana qarşı hücumlar ərəfəsində “Anthropic” şirkəti ilə yaşadığı qarşıdurmadır. “Anthropic” öz modellərinin avtonom hədəfləmə və müşahidə üçün istifadəsinə etiraz edib və daxili təhlükəsizlik siyasətinə istinad edib. Lakin bu mövqe Pentaqon tərəfindən ciddi təzyiqlə qarşılanıb, çünki qurum qabaqcıl süni zəka imkanlarının hərbi əməliyyatlara sürətli inteqrasiyasını istəyirdi. Bu, sadəcə danışıqlardan kənara çıxaraq məcburetmə mərhələsinə keçib, belə ki, şirkətlər Pentaqonun tələblərinə uyğun gəlmədikdə müdafiə müqavilələrindən kənarda qala bilərdi.

Bu hadisə milli təhlükəsizlik prioritetləri gündəmə gəldikdə süni zəka sənayesində etik qoruyucu mexanizmlərin zəiflədiyini göstərir. Son vaxtlar aparıcı süni zəka şirkətləri avtonom silahlardan ictimai nəzarət sistemlərinə qədər texnologiyanın müxtəlif sahələrdə istifadəsini tənzimləyən prinsiplər müəyyən etməyə çalışır. Lakin İranla bağlı münaqişə göstərdi ki, hökumət təzyiqi qarşısında bu öhdəliklər olduqca zəifdir. Qara siyahıya salınma və ya dövlət resurslarına çıxışın itirilməsi təhlükəsi etik qaydaların yumşaldılması üçün ciddi stimuldur.

Pentaqon, həmçinin daha kiçik şirkətləri müdafiə müqavilələrinə sürətlə daxil etməyə başlayıb, çox vaxt zəif idarəetmə və etik yoxlama mexanizmləri ilə. Bu, süni zəkanın inkişafını və tətbiqini sürətləndirsə də, eyni zamanda hərbi qurumlara tək bir təminatçıdan asılılığı azaltmağa imkan verir. Eyni zamanda, bu yanaşma hökumətin süni zəkanın müharibədə istifadəsinin etik tərəflərini müzakirə etməkdən yayınmasına şərait yaradır. Əgər bir şirkət texnologiyanın istifadəsinə etiraz edərsə, digər uyğun tərəfdaş asanlıqla seçilə bilər.

Hökumət və sənaye arasında əməkdaşlıq getdikcə daha qeyri-şəffaf olur. Bir çox birgə layihələrin detalları məxfi müqavilələrdə gizlədilir və bu, ictimai nəzarəti və qanunverici orqanların rolunu məhdudlaşdırır. ABŞ Konqresi süni zəkanın inkişaf tempinə uyğunlaşmaqda çətinlik çəkir və nəticədə məsuliyyət mexanizmləri ilə real tətbiq arasında boşluq yaranır.

Daha geniş siyasət nəticələri

Mövcud beynəlxalq humanitar hüquq və milli siyasətlər millisekundlar ərzində qərar qəbul edən alqoritmik sistemlər üçün nəzərdə tutulmayıb. Hüquqşünasların qeyd etdiyi kimi, avtonom silah sistemlərinin nə ümumi qəbul edilmiş tərifi var, nə də onların istifadəsini tənzimləyən məcburi mexanizm mövcuddur. Bu isə hüquqi qeyri-müəyyənlik yaradır və tətbiq ilə tənzimləmə arasında boşluq formalaşdırır. Hökumət və süni zəka sənayesi arasında şəffaflıq və nəzarətin bərpasına ciddi ehtiyac var.

Siyasət yalnız könüllü prinsiplərə əsaslana bilməz. Hökumətlər yoxlanıla bilən süni zəka sistemlərini məcburi etməli və onların bütün həyat dövrü boyunca insan məsuliyyətini təmin etməlidir. Süni zəka üzərində real nəzarət layihələndirmədən icraya qədər insan nəzarətini tələb edir. Eyni zamanda dövlətlər avtonom silahların tənzimlənməsi üçün beynəlxalq razılaşmalar üzərində işləməlidir. Üçüncüsü, süni zəka şirkətlərindən müdafiə sahəsində tətbiqləri barədə məlumat vermək tələb olunmalıdır. Bu tədbirlər olmadan süni zəka müharibədə nəzarətsiz şəkildə istifadə olunmağa davam edəcək.

Təhlükəsizlik və qorunma arasında balans

Dövlətlər yeni texnoloji mərhələyə daxil olduqca innovasiyanın üstünlükləri və riskləri ilə də üzləşirlər. Süni zəka döyüşdə üstünlük verə bilər, lakin yanlış istifadə olunduqda ciddi təhlükəyə çevrilə bilər. Eyni zamanda texnologiyanın uğursuzluğu zamanı məsuliyyət mexanizmləri demək olar ki, mövcud deyil.

Hökumətlər yalnız bəyanatlarla kifayətlənməməli, süni zəkanın inkişafı və tətbiqi üçün konkret qaydalar müəyyən etməlidir. Bu, qərarvermədə insan məsuliyyətinin qorunmasını, sistemlərin müstəqil auditini və dövlət-özəl tərəfdaşlıqların şəffaflığını təmin etməyi əhatə edir. Əks halda, ordular süni zəkanı sürətlə tətbiq edəcək və onun risklərini nəzərə almayacaq. İran müharibəsi göstərdi ki, bu texnologiya gələcək münaqişələrin əsas müəyyənedici amili olacaq. İndi məsuliyyət hökumətlərin və sənaye tərəfdaşlarının üzərinə düşür ki, süni zəkanı etik və məsuliyyətli şəkildə tətbiq etsinlər.