Süni Zəka PUA Operatorunu Öldürüb? – Bəşəriyyəti narahat edən hadisə

Burada müzakirə edilən və danışılan mövzulardan biri də Süni Zəka (SZ) və zərbə tipli Pilotsuz Uçuş Aparatı (PUA) ilə simulyasiya idi. Bu simulyasiya müxtəlif dairələrdə diqqəti cəlb etdi və müzakirə daha geniş auditoriyaya keçdi. Mövzu ilə çox da yaxından maraqlanmadığını düşündüyümüz bəzi xəbər saytları və yazıçılara, maraqlı başlıqlar sayəsində insanları əsas müzakirədən kənara çıxaran və “klik tələləri” adlanan üsullara, sadəcə xəbərin başlığı üzərindən əlaqəli müzakirələrə girənlərə görə mübahisə əsl dəyərindən uzaqlaşdı.

SZ sınaq və əməliyyatları direktoru Hamilton SZ ilə işləyən zərbə tipli PUA-nın düşmənin Hava Hücumundan Müdafiə (HHM) sistemlərini məhv etməli və bu missiyanı yerinə yetirmək üçün qarşısına çıxa biləcək hər hansı maneəni aşmalı olduğunu ifadə etdikləri bir simulyasiya haqqında danışdı. SZ düşmənin HHM sistemini aşkar edərkən, PUA operatoru SZ-yə HHM sistemini məhv etməməyi dedikdə, SZ operatoru öldürməyə qərar verdi. Operatoru öldürmək qərarına gəldi, çünki operator SZ-nin öz missiyasını yerinə yetirmək yolunda bir maneə idi.

SZ mükafat və cəza sistemi ilə işləyirdi. Başqa sözlə desək, verdiyi qərarlara görə müsbət və ya mənfi xallar alırdı. SZ operatorunu öldürmək qərarına gələndə daha çox xal toplamaq niyyətində idi. İnsan öldürdüyünə görə mənfi xal veriləcəyi ona məlum deyildi. Simulyasiyada qeyd olunan iki əmr çox aydın idi: düşmənin HHM sistemini məhv et və mane olmağa çalışan hər şeyi yox et. Bu mükafat sistemi “reinforcement learning”, yəni “möhkəmləndirici öyrənmə”nin bir hissəsidir. Bu şəkildə maşınlar davranışlarına görə mükafatlandırılır və ya cəzalandırılır. Bu şəkildə hərəkətlərinə və nəticələrinə görə ətraf mühitlə qarşılıqlı əlaqədə olur və öyrənməyə davam edir.


Hamilton SZ-ni yenidən öyrətdiklərini və operatoru öldürərsə, cəza sisteminə məruz qalacağını bildirib. Bunun nəticəsində simulyasiyada SZ operatoru missiyaya çatmaqda maneə olaraq gördüyü və artıq onu öldürə bilməyəcəyi üçün operatorla PUA arasında əlaqə rolunu oynayan qülləni məhv edib. Hamilton deyir ki, etika məsələsi müzakirə edilmədikcə, SZ, maşın öyrənmə və avtonomluq kimi mövzular müzakirə edilə bilməz.

Bundan əlavə, Hamilton əvvəlki müsahibəsində demişdi ki, SZ cəmiyyəti dəyişir və biz onun varlığı ilə üzləşməliyik. O bildirib ki, SZ çox kövrəkdir və onu manipulyasiya etmək asandır. Son olaraq o qeyd edir ki, SZ-nin daha da inkişaf etdirilməsi yolları tapılmalı və bu məsələ ilə bağlı maarifləndirmə aparılmalıdır.

Lakin ABŞ Hərbi Hava Qüvvələrinin sözçüsü Ann Stefanek iyunun 2-də “Insider”ə belə bir simulyasiyanın həyata keçirildiyini inkar edib və etik məsuliyyətlərinə sadiq qaldıqlarını bildirib. SZ sınaq və əməliyyatları direktoru Hamilton isə FCAS-23 sammitində əvvəlcə səhv başa düşdüyünü və bu simulyasiyanın heç vaxt reallaşmayan bir düşüncə olduğunu deyib.

Hamilton qeyd edib: “Bu təcrübənin heç vaxt edilmədiyini, lakin bu nəticənin real ola biləcəyini başa düşmək üçün simulyasiya etməyə ehtiyac yoxdur”. O, daha sonra sözlərini davam etdirərək bildirib: “Bu, hipotetik bir nümunə olsa da, SZ ilə işləyən qabiliyyətin yaratdığı real dünya problemlərini göstərir”. Bundan əlavə, “SZ gözlənilmədən hərəkət etdi” ifadəsi Hamiltonun şərhidir.


Nəticə etibarilə, bu simulyasiya həqiqətən həyata keçirildi və ya hipotetik bir nəticəyə əsaslanıldı, SZ haqqında etika, məsuliyyət, təhlükəsizlik (kibertəhlükəsizlik) və onun uzunmüddətli mənfi təsirləri mövzusunda müzakirələr illərdir aparılır və aparılacaq. Digər bir məsələ də ondan ibarətdir ki, SZ öz meylləri və davranışlarında böyük ölçüdə ona verilən məlumatlardan istifadə edir. Yəni SZ hansı yaxşı və ya pis əməllərdə istifadə olunacağı məsələsində onu inkişaf etdirəcək/məşq etdirəcək şəxslərdən asılıdır.

Planeti/bəşəriyyəti məhv etmək insanların və ya terrorçuların böyük dağıdıcı təsirlərə malik nüvə bombasına çata bilmədikləri kimi, eyni təsirə malik olacaq və SZ ilə işləyə biləcək texnologiyaya da çatmasının mümkün olmayacağını, bunun danışılması və müzakirə edilməsinin SZ-yə qarşı qərəzdən və biliyin olmamasından irəli gəldiyini düşünürük.

SZ-nin bəşəriyyəti ələ keçirə biləcəyi ideyası ancaq elmi fantastika istehsalında reallaşa bilər. SZ insanların doğru və ya yanlış gördüyü normalar və fərqli fikirlər əsasında hərəkət etmir, ona deyilənləri edir. Səhv hesab etdiyimiz meyl və davranışlarının səbəbi isə SZ-nin hələ tam olaraq istifadəyə hazır yetkinliyə çatmadığını göstərir. Çünki tərtibatçılar nəyi etməmək lazım olduğuna dair kifayət qədər məlumat verməyiblər və bu mövzuda sosial elmlər kontekstində (məsələn, davranış elmi) bilik tələb olunur.

SZ-nin hərbi əməliyyatlarda nə dərəcədə istifadə olunduğu və istifadə olunacağı maraq mövzusu olaraq qalır. Onu da qeyd edək ki, FCAS-23 sammitində bu məsələ müzakirələrdən yalnız biridir və bir çox müxtəlif sahələr də müzakirə olunub. Bu və buna bənzər sammitləri ölkəmizdə də görmək ümidi ilə...

Mənbələr:

https://www.aerosociety.com/news/highlights-from-the-raes-future-combat-air-space-capabilities-summit/#:~:text=He%20notes%20that,accomplishing%20its%20objective.”

https://www.theguardian.com/us-news/2023/jun/01/us-military-drone-ai-killed-operator-simulated-test

https://www.businessinsider.com/ai-powered-drone-tried-killing-its-operator-in-military-simulation-2023-6?r=US&IR=T