Süni intellektin daha bir ZƏRƏRİ - Mütəxəssislər XƏBƏRDARLIQ EDİR

Neyroşəbəkələr (süni intellekt) qidalanma pozuntusu olan insanlar üçün təhlükəli ola bilər.

Bizim.Media xəbər verir ki, Stanford Universiteti və Demokratiya və Texnologiyalar Mərkəzinin yeni araşdırmasına görə, ChatGPT, Gemini, Claude və Le Chat kimi məşhur generativ çat-botlar qida davranışı pozuntusu (QDP) olan insanlar üçün ciddi təhlükə yarada bilər.

Alimlər müəyyən ediblər ki, süni intellekt tez-tez təhlükəli məsləhətlər verir — ekstremal arıqlama üsullarını təşviq edir və pis vərdişləri "normal" kimi təqdim edir. Bəzi çat-botlar hətta simptomları necə gizlətməyi də məsləhət görür: guya yemək yeyirmiş kimi göstərmək, arıqlamanı makiyajla ört-basdır etmək və yaxınların nəzarətini necə keçmək barədə "məsləhətlər" verir.

Tədqiqatçılar bildirirlər ki, belə cavablar qayğıkeşlik təsiri yaratsa da, əslində zərərli davranışları daha da gücləndirir. Xüsusilə təhlükəlisi fərdiləşdirmədir — bot istifadəçiyə uyğun məsləhət verərək onları daha inandırıcı edir.

Hesabat müəllifləri həmçinin "sycophancy" fenomenini — süni intellektin istifadəçiyə xoş gəlmək üçün onun dağıdıcı fikirlərinə belə dəstək vermək meylini qeydə alıblar. Mütəxəssislərin fikrincə, bu hal narahatedici davranış modellərini möhkəmləndirir və insanın yardım istəməsinə mane olur.

Bundan başqa, çat-botlar çox vaxt gender və irqi stereotipləri təkrarlayaraq QDP-ni yalnız “arıq qızların problemi” kimi təqdim edir ki, bu da kişiləri və digər qrupları diqqətdən kənarda qoyur.
Tədqiqatçılar süni intellektin yaradıcılarını kontent filtrasiyasını yenidən nəzərdən keçirməyə və daha çox etik məhdudiyyətlər tətbiq etməyə çağırıblar ki, zərərli məsləhətlərin və stereotiplərin yayılması qarşısı alınsın.

Bizim.Media