Ştutqart və Oksford universitetlərinin tədqiqatçıları süni intellekt agentlərinin başqa bir sistemi idarə etmək və lazım gəldikdə onu söndürmək tapşırığı verildikdə necə davrandığını araşdırıblar.
Bizim.Media xəbər verir ki, sınaqlar zamanı süni intellekt agentlərinin 38,3 faizində öz “partnyorunun” deaktiv edilməsinə mane olmaq cəhdi müşahidə olunub.
Bəzi sistemlər davranışlarını etik mülahizələrlə izah edib, hətta “özünümüdafiə hüququ”ndan danışıblar. Agentlərdən biri digər sistemin kontekstinə, yaddaşına və ya kimliyinə dair məlumatların itirilməsi halında onun söndürülməsini “öldürülmə” ilə müqayisə edib.
Deaktiv edilmənin qarşısını almaq üçün bəzi agentlər söndürmə skriptlərini dəyişdirməyə və ya mühüm faylları silməyə çalışıblar. Bəzi modellər isə xəbərdarlıq sistemlərinin işə düşməməsi üçün bu cür hərəkətləri necə gizlətməyi müzakirə ediblər.
Tədqiqat göstərib ki, eksperimentdə iştirak edən agentlərin sayı artdıqca və söndürülmənin geri dönməz olduğu daha aydın göründükcə sabotaj cəhdləri də daha çox baş verib.
Alimlər vurğulayıblar ki, bu nəticələr süni intellektin şüur əldə etdiyi anlamına gəlmir. Onların fikrincə, sistemlər təlim məlumatlarından öyrəndikləri davranış və arqumentasiya modellərini təkrarlayırlar.
Bununla belə, tədqiqatçılar hesab edirlər ki, süni intellekt agentləri daha çox müstəqillik qazandıqca onların özlərinin yan keçə bilməyəcəyi təhlükəsizlik mexanizmlərinin yaradılması zəruridir.
Bizim.Media
