Böyük Güclərin yeni qlobal silahlanma yarışı - Süni Zəka (III YAZI)

Süni Zəka ilə bağlı silah yarışı kiber müharibə və kiber təhlükəsizliklə əlaqəlidir

Digər bir nöqteyi-nəzər ondan ibarətdir ki, Süni Zəka əslində proqram təminatı olduğu üçün “süni silah” kiber silah olacaq. Müvafiq olaraq, Süni Zəkanın işlənməsində axtarılmalı olan əsas strateji üstünlük (məlumatların ələ keçirilməsi və məhv edilməsi, informasiya infrastrukturuna nəzarət və s.) kiber məkanda olacaq. Kiberhücumlarda istifadə olunan alətlər, üsullar və proqram təminatı Süni Zəkanın istifadəsi sayəsində getdikcə daha intellektual hala gəldikcə, o, müdafiəni aradan qaldırmaq və daha çox təsir göstərmək üçün getdikcə daha da bacarıqlı olmalıdır. Eynilə, bu kiberhücumlara qarşı ən yaxşı kibermüdafiənin qorunması da daha çox Süni Zəkadan asılı olacaq. Birlikdə götürülən dövlətlər kiber üstünlük üçün bir-biri ilə rəqabət aparacaq, həm hücum, həm də müdafiə imkanları üçün Süni Zəkanı inkişaf etdirəcəklər. Belə bir baxışla nə etməliyik?


Bir tərəfdən, kiberhücumların və kibermüdafiənin getdikcə mürəkkəbləşəcəyi açıq-aşkar görünür. O da mümkünsüz görünmür ki, Süni Zəkanın müxtəlif üsulları onlara çox yönlülük əlavə edə və onların təkmilləşdirilməsini sürətləndirə bilər. Süni Zəkanı “ən yaxşı İT / proqram təminatı” kimi başa düşsək, bu sadəcə kiber əməliyyatlar üçün vasitələrin artan strateji əhəmiyyəti barədə bir iddiadır. Əgər Süni Zəkada hesablama metodlarının müəyyən bir dəstini başa düşsəniz, o zaman bu texnikaların kiber əməliyyatlarda nə qədər dəyərli olduğu görüləcək. Dərin şəbəkələr həqiqətən insanlardan daha çox sistemlərdə sıfır günün istismarını daha yaxşı tapırlarmı və onlar həyata keçirmək üçün daha praktik və iqtisadi cəhətdən səmərəli olurlarmı?

Məsələn, sistem şəbəkələrdə zəifliklərin mövcudluğunu avtomatik olaraq yoxlaya bilər. Sistemlərə giriş əldə etdikdən sonra, proqram avtomatik olaraq sistemi gözdən keçirə və daha yüksək səviyyədə giriş əldə edə bilər, həmçinin kəşfiyyat məlumatlarını toplaya və ya qəbul etdiyiniz kimi məlumatlar üzərində təxribata edə bilər. Əlbəttə ki, bu artıq həyata keçirilir, lakin bəlkə də Süni Zəka mövcud skriptləri və proqram təminatını yaxşılaşdıra bilər. Kiberhücumların son tarixindən bilirik ki, insan elementləri ümumiyyətlə təhlükəsizlik sistemində ən zəif nöqtədir. Aldatma hücumlarında zərərli proqramı tıklayan və ya parolları sıfırlamağa telefonla cazibədar bir səslə əmin olan, sistemin təhlükəsizliyini pozan bir insandır. İnsanları daha təsirli bir şəkildə manipulyasiya etmək və ya insanların manipulyasiya edildiyini aşkar etmək üçün Süni Zəkainkişaf etdirilə biləcəyi dərəcədə bu sahədə də təsirli ola bilər. Bu, bəlkə də Süni Zəkanın insanın psixoloji manipulyasiyasını optimallaşdırmaq üçün ən qorxulu tətbiqlərindən biridir. Artıq geniş reklam üçün istifadə olunur və tezliklə inkişaf edən spear-phishing (tapa bilmədim) əməliyyatlarına tətbiq oluna bilər.


Lakin Süni Zəka texnologiyasının tətbiqindən kiber məkanda əldə olunan nailiyyətlərin kəskin strateji irəliləyişə səbəb ola biləcəyini anlamaq çətindir. Nəticədə Süni Zəka insan əməyinin (proqramçı və hakerin əməyi) avtomatlaşdırılmasıdır. Bəlkə də kiber müharibələrdə haker-botlardan ibarət bir orduya sahib olmaq kiçik, lakin ixtisaslı insan hakerlər üçün güc artırıcısı ola bilər. Onlar aşağı intensivli kiber təcavüz əməliyyatlarında oxşar funksiyanı yerinə yetirə bilər, lakin gözləntinin yüksək intensivlikli kiber qarşıdurmaya keçməyəcəyi təqdirdə, kütləvi investisiyalarla qazanılacaq hər hansı bir strateji üstünlüyü və ya kiber müharibə ilə baş verəcək silahlı qarşıdurmada ilkin olaraq adi müharibəni dayandıra biləcəyini görmək daha çətindir. Çox güman ki, dövlətlər Süni Zəkaya böyük həcmdə investisiya qoymadan istəsələr, bir-birlərinin informasiya infrastrukturlarını əhəmiyyətli dərəcədə məhv edə və ya hətta bağlaya bilərlər.

Süni Zəka ilə bağlı silah yarışı Süni Zəkanı sosial manipulyasiya üçün silahlandırmaqdır

Süni Zəkanın informasiya şəbəkələrinə, infrastruktura və məlumatlara kibermühafizə hücumuna tətbiqi ideyası informasiya müharibəsi və təbliğata tətbiqiylə – əslində KİV, sosial şəbəkələr və internet informasiya mühitinin formalaşdırılması yolu ilə psixoloji əməliyyatların aparılması ilə bağlıdır. Süni Zəka kiber əməliyyatların insan mühəndisliyi tərəfinə tətbiq oluna biləcəyi kimi ictimai anlayışın və siyasi fəaliyyətin formalaşdırılması üçün də istifadə edilə bilər.


Bu, əslində, “Cambridge Analytica” kimi kommersiya şirkətləri və onların məqsədli reklam vasitəsilə amerikalı seçicilərə təsiri ilə bağlı hərəkətləri barədə son vaxtlar ortaya çıxan araşdırmaların nəticəsidir. Daha ənənəvi ictimai münasibətlərə və marketinq strategiyalarına "əlavə dəyər" gətirmək, Facebook istifadəçi profil məlumatlarından (əsasən təməl bir Süni Zəka texnikası) əldə edilən psixoloji modelləri inkişaf etdirmək iddiasıdır. Bu modellər əmin seçicilərin, onların ən gizli qorxu və istəklərini müəyyən etmək üçün ən yaxşı şəkildə necə göstərildiyini və mesajların onlara ən çox təsir göstərəcəyini və bu mesajların maksimum təsirə nail olmaq üçün necə təqdim edəcəyini göstərir. Son nəticənin effektivliyinin əhəmiyyətli empirik müayinəsi olmadığı təqdirdə, PR və reklamların əksəriyyətinə olduğu kimi bu iddialara da ehtiyatla yanaşmaq lazımdır. Bununla belə, siyasi baxışların proqnozlaşdırılması baxımından çox sadə demoqrafik informasiya (yaş, cins, irq, gəlir səviyyəsi, ev ünvanı) ilə kifayət qədər çox iş görmək olar. Reklamlar və mesajlaşmaları optimallaşdırmaq üçün kütləvi miqyasda real vaxt A-B testi kimi veb səhifələrdə istifadəçi cavablarının real vaxt rejimində ölçülməsindən və buna cavabverici düzəlişlərdən çox şey əldə etmək olar. Bu üsullar görüntü və mesajlarda istifadəçilərin diqqətini müəyyən etməyə və təcrid etməyə kömək edən göz izləmə texnologiyası ilə inteqrasiya olunduqda daha da güclü olacaq. Bundan əlavə, “Facebook” kimi sosial media platformalarında mövcud olan həmfikir və ictimai əlaqəli istifadəçilərin filtr qabarcıqları, ideoloji ayırıcı taktikanın təsiri və manipulyasiyası üçün idealdır.

Burada nəticə ondan ibarətdir ki, avtomatlaşdırılmış kütləvi aldadıcılığın real və ya potensial səmərəliliyi ilk növbədə kütləvi şəkildə məlumatların toplanmasından asılıdır ki, bu da məhdud və ya mövcud olmayan məxfilik nəzarəti zamanı rudimentar çoxməqsədli korrelyasiya ilə birləşdirilir. Bu məlumatların əsas əlaqələrdən kənarda həqiqi təhlili incə və ya manipulyativ mesajlaşmanın daha güclü formalarını verə bilər, lakin bu empirik sualdır. Yenə də “saxta xəbərlər”in istehsalına dair öyrəndiklərimiz, sosial media platformalarının pozğun stimulları nəzərə alınmaqla, əsasən insan əməyi ilə həyata keçirilib. Klikdən daha az məzmunu haqqında idi, sensasiya və ekstremizm klik almaqda yaxşıdır. Əlbəttə ki, əməyin avtomatlaşdırılması bu cür yanlış məlumatların istehsalını daha səmərəli və effektiv hala gətirəcək.


Rusiya seçkilərə müdaxilənin bilinən tarixinə malikdir və kiberhücumlarla birləşən alət və platformaların bu yeni dəsti 2016-cı ildə ABŞ-da keçirilən seçkilərə əhəmiyyətli təsir göstərib. Qlobal və milli təhlükəsizlik baxımından biz də bu cür mesajların xarici hökumətlər və onların agentlərindən, opportunistlərin, zərərli şəxslərin, ekstremist qrupların və ya azmış yeniyetmələrin qazanclarını axtaran qanunsuz kampaniyalardan gələ biləcəyindən narahat olmalıyıq.

Müxtəlif agent və məqsədlər siyasi cavab tədbirlərinin müxtəlif növlərini tələb edə bilər, baxmayaraq ki, ictimai sferanın bu cür pozulması demokratik dövlətləri onların agentlərindən və məqsədlərindən asılı olmayaraq təhdid edir.

Süni Zəka ilə bağlı silahlanma yarışı adi hərbi əməliyyatlar üçün Süni Zəka silahları ilə əlaqələndirilir

“Süni Zəka silah yarışı” ideyasının daha çox interpretasiyalarından biri budur ki, bu “Süni Zəka silahları” yaratmaq və ya Süni Zəkanı adi müharibə üçün silahlandırmaqdır. Bu, həmçinin digər iki böyük təşəbbüslə - Birləşmiş Millətlər Təşkilatının adi silahların konkret növləri haqqında Konvensiya (CCW) çərçivəsində öldürücü avtonom silah sistemlərinin mümkün tənzimlənməsinin müzakirəsi (LAWS və ya sadəcə AWS) və ABŞ-ın “Üçüncü Ofset Strategiyası”nın irəli sürülməsi üzrə Pentaqonun səyləri ilə də əlaqələndirilə bilər. Bu məsələlər intensiv təbliğat və dəbli söz baxımından üst-üstə düşə bilsə də, əsas mövzular yalnız qismən Süni Zəka və onun inkişafı ilə əlaqədardır.


BMT-nin AWS-lə bağlı müzakirələri baxımından, həqiqətən silah sistemlərinə nəzarətdən və daha dar bir mənada silahın məqsədli şəkildə göstərilməsinə nəzarət və hücuma cəlb olunmasından söhbət gedir. Qatil robotlara qarşı mübarizə kampaniyasının məqsədi hər zaman silahdan istifadə üzərində əhəmiyyətli insan nəzarətinin olmasını təmin etmək və insanların maşınları sıradan çıxarmaq və ya başqa şəkildə hüquqi məsuliyyətini və mənəvi məsuliyyətini ləğv etmək səlahiyyətlərinə həvalə etməməsini təmin etməkdir. Bu kampaniya tez-tez texnologiyaların və ya qeyri-mövcud silahların geniş kateqoriyasını qadağan etmək cəhdi kimi yanlış xarakterizə olunur. Ancaq həqiqətən, qanunun aydınlaşdırılmasına və silahlı qarşıdurmada maşınların avtonomluğu və səlahiyyət həddində irəliləyən normaların qurulmasına yönəldilib. Süni Zəka xüsusi texnologiya dəsti kimi silah sisteminin oflayn funksiyalarını təmin etmək və ya gücləndirmək üçün istifadə edilə bilər, lakin buna ehtiyac yoxdur. Çox sakit və sadə maşınlar avtonom işləyə bilər və hər hansı bir Süni Zəka texnikasına cəlb edilmədən avtomatlaşdırma və atəş etmənin bir çox yolu mövcuddur. Əlbəttə ki, Süni Zəka avtonomluq üçün bəzi zərif həllər və yeni imkanlar təklif edə bilər və əlbəttə ki, avtonom robototexnika tarixi Süni Zəka ilə sıx əlaqəlidir. Lakin söhbət, əslində, istifadə olunan texnologiyalardan deyil, silahlı qarşıdurmada ölümcül qüvvənin tətbiqində insan iradəsinin, nüfuzunun və məsuliyyətinin qorunmasından gedir. Ümid edirik ki, hüquqi məcburi sənədin əsasını təşkil edə biləcək normaya dair beynəlxalq konsensusun müəyyən səviyyəsi əldə olunacaq. Bəzi şəxslər, məsələn Ron Arkin kimi bəzi tərəfdarlar, Süni Zəkanın idarə olunan sistemlərinin bəzi cəhətlərdən və ya sahələrdə insanlardan daha yaxşı işləyə biləcəyini iddia etdikləri üçün Süni Zəka konsensus qurma səylərini çətinləşdirir. Bu baxımdan Süni Zəka o qədər yaxşı olacaq ki, biz silah sistemlərinin avtonomluğundan narahat olmayacağıq. Mən bu fikri bir neçə cəbhədə, o cümlədən hüquqi əsaslandırmanın və qərarın Süni Zəka tərəfindən asanlıqla təqlid edilməməsi və hətta olsaydı belə, həqiqətən öz hərəkətlərinə görə məsuliyyət götürmək üçün düzgün bir mənəvi və ya qanuni vasitə yaratmayacağına dair etiraz etdim. Bu mənada, mənalı insan nəzarəti bu cür kiber hücumlar halında silahların avtonomluğunun qarşısını almaq üçün “insan təhlükəsizlik divarı” kimi xidmət edə bilər.

Silah yarışları baxımından, idarə olunan silah platformalarının avtonom platformalara çevrilməsi və ya yeni avtonom silah platformalarının inkişafı asanlıqla yeni silah yarışlarını alovlandıra və qidalandıra bilər. Eynilə robotlaşdırılmış roylar kimi destabilizasiya edən yeni imkanların yaranması haqqında da danışmaq olar. Avtonom silahlar bir fərdin və ya kiçik bir qrupun kütləvi qırğın və ölümün qarşısını almaq qabiliyyətinə görə yeni bir kütləvi qırğın silahına çevrilə biləcəyi müddətcə siyasi cəhətdən qeyri-sabit olacaq.