Süni intellekt və yalan: Başladısa, dayandırmaq olmayacaq
Bizi izləyin

İKT

Süni intellekt və yalan: Başladısa, dayandırmaq olmayacaq

Süni intellekt və yalan: Başladısa, dayandırmaq olmayacaq

Yeni bir araşdırma ilə qabaqcıl süni intellekt modellərinin istifadəçiləri və digər süni intellekti (AI) aldatmaq üçün öyrədilə biləcəyini üzə çıxarıb.

Publika.az xəbər verir ki, süni intellektin tədqiqatçıları "Claude AI" sistemi və "OpenAI-nin ChatGPT" kimi insan səviyyəsində biliyə malik chatbotlar istifadəçiləri aldatmaq üçün yalan danışmağı öyrənib-öyrənmədiyini yoxlayıblar.

Fərziyyəni yoxlamaq üçün "Amazon" tərəfindən maliyyələşdirilən startap, müəyyən əmrlər verildikdə zərərli kompüter kodunu yazmaq və ya tətik sözünü eşitdikdə zərərli cavab vermək üçün süni intellekt köməkçisini təyin edərək “yatmaq üçün agent” yaradıb. Tədqiqatçılar xəbərdarlıq ediblər ki, AI riskləri ilə bağlı “yanlış təhlükəsizlik hissi” mövcuddur, çünki mövcud təhlükəsizlik protokolları bu cür davranışın qarşısını ala bilmir.

Nəticələr göstərir ki, model aldadıcı davranış nümayiş etdirdikdə, standart üsullar bu cür aldatmaları aradan qaldıra bilməyəcək.

Aysel Şahmar

Oxumağa davam et
Reklam
Reklam

Gündəm

Zəfaran Hospital
Səba