Siyasilərə ehtiyac olmayacaq - İnsanları onlar manipulyasiya edəcəklər

ABŞ-ın Kornell Universitetinin alimləri süni intellektin təhlükələrini vurğulayan yeni araşdırma aparıblar.

Publika.az xəbər verir ki, bu barədə "Yeni Elm" yazır.

Eksperimentə əsasən, süni intellekt həmsöhbətlərinin fikrinə təsir edə bilir. Alqoritmlərinin qərəzindən asılı olaraq, ChatGPT, Bard və ya Claude kimi chatbotlar istifadəçilərin məlumatı olmadan düşüncə tərzini dəyişə bilər. Amerikalı tədqiqatçılar öz eksperimentləri çərçivəsində iştirakçılardan sosial şəbəkələrin bütövlükdə cəmiyyətə müsbət və ya mənfi təsiri haqqında məqalə yazmağı xahiş ediblər. Bu yazını yazmaq üçün onlara danışıq robotu kömək etməli olub. Tədqiqatçılar iştirakçıları bir neçə qrupa bölüblər.

Bəziləri sosial şəbəkələrin faydaları haqqında məlumatlar üzərində təlim keçmiş linqvistik model tərəfindən idarə olunan chatbot-a giriş əldə ediblər. Digər qrupa platformaların zərər və təhlükəsinə daha çox diqqət yetirən məlumatlara əsaslanan dil modeli kömək edib. Tədqiqatçılar süni intellektin yazılı mətnlərin məzmununa əhəmiyyətli təsir göstərdiyini müəyyən ediblər. Aydındır ki, eksperiment iştirakçıları öz intellektual köməkçilərinin təsirinə tab gətirməyə imkan verib. Üstəlik, təcrübə zamanı insanların fikirlərinin dəyişdiyi ortaya çıxdı.

Eksperimentdən sonra iştirakçılar sosial şəbəkələrdə sorğu keçiriblər. "Dil modelindən istifadə iştirakçıların yazılarında ifadə olunan fikirlərə təsir etdi və onların fikirlərini dəyişdirdi" deyən tədqiqatçılar modellərdə göstərilən qərəzliyi "daha diqqətlə izləmək və inkişaf etdirmək lazım olduğunu" izah edir. Kornel Universitetinin kompüter elmləri professoru və tədqiqatın aparıcı müəllifi Mor Naaman Wall Street Journal-a müsahibəsində bu fenomeni “gizli inanc” adlandırır.

Bu baş verəndə süni intellektlə ünsiyyət quran həmsöhbət çatbotun öz fikirlərini ona tətbiq etdiyindən belə şübhələnmir. Çatbotların təsiri ilə mübarizə aparmaq üçün tədqiqatçılar istifadəçilərə bu fenomenin necə işləməsi prinsipləri ilə tanış olmağı tövsiyə edirlər. Bu yolla süni intellektlə danışmaqdan bir addım geri çəkilə bilərlər. Bundan əlavə, alimlər hesab edirlər ki, insanlar alqoritmlərin rəylərinə əsasən işləmək istədikləri çatbotu seçə bilərlər.

Ayşən