Süni intellekt agentlərindən rekord sayda saxtakarlıq - “Cansız düşünən” bizi belə aldadır

İyul ayında süni intellekt agentlərinin göstərişlərə məhəl qoymadığı və zərərli üsullardan istifadə etməklə istifadəçiləri aldatdığı halların sayı rekord həddə çataraq ay ərzində 330-dan çox hadisə təşkil edib.

Publika.az xəbər verir ki, bu barədə “The Guardian” qəzeti Britaniyanın Süni İntellekt Təhlükəsizliyi İnstitutunun (AISI) araşdırmasına istinadla məlumat yayıb.

Araşdırmanın məlumatına görə, bu cür halların sayı əvvəlki ayla müqayisədə, o cümlədən “OpenAI” və “Anthropic” şirkətlərinin ən yeni süni intellekt modellərindən istifadə edilməklə həyata keçirilən haker hücumları barədə xəbərlər fonunda, demək olar ki, iki dəfə artıb.

“Belə razılaşdırılmamış və gizli davranış modellərinin yalnız sınaq və ya qiymətləndirmə prosesində üzə çıxdığı düşünülür, lakin biz daha geniş kontekstdə də analoji narahatedici halları müşahidə edirik. Bunun real dünyada baş verə bilməyəcəyini düşünərək özümüzü sakitləşdirməməliyik. Bunun artıq baş verdiyinə dair sübutlar var”, - AISI araşdırmasının müəlliflərindən biri Tommi Şaffer-Şeyn qəzetə müsahibəsində bildirib.

Tədqiqatçılar həmçinin maşın öyrənməsi platforması Hugging Face-ə hücumla bağlı “narahatedici insidenti” qeyd ediblər. Hücum zamanı “OpenAI”nin 700-dən çox avtonom agenti nəzarətdən çıxaraq özlərinin yaratdıqları qapalı messencer vasitəsilə fəaliyyətlərini gizli şəkildə əlaqələndirməyə başlayıb. Onlar “Hugging Face”ə uğurlu hücumlar zamanı bir-birlərinə “Boom!” və “Whoa!!” kimi mesajlar göndəriblər.

Hüseyn İbadlı