Süni intellekt əsasında işləyən çat-botlar bizi belə ALDADIR

Araşdırmalar göstərir ki, süni intellektin aparıcı köməkçiləri xəbərlərlə və dünyada baş verən hadisələrlə bağlı verilən suallara təhrif olunmuş, qeyri-dəqiq və insanı yanlış yerə yönəldən cavablar təqdim edir.

Publika.az BBC-yə istinadla xəbər verir ki, “ChatGPT”, “Copilot”, “Gemini” və “Perplexity” tərəfindən təqdim olunan cavabların yarıdan çoxu “ciddi problemlər” kimi qəbul edilib. Səhvlər arasında Rişi Sunakın hələ də baş nazir, Nikola Stercenin isə Şotlandiyanın birinci naziri olmasını, şəxsi fikirlərin və arxiv materiallarının aktual fakt kimi təqdim edilməsini göstərmək olar.

Araşdırmaçılar BBC-nin məqalələrini mənbə kimi istifadə edərək dörd süni intellektdən 100 suala cavab verməsini xahiş ediblər. Bundan sonra cavablar müvafiq mövzu sahələri üzrə ixtisaslaşmış BBC jurnalistləri tərəfindən dəyərləndirilib.

Cavabların təxminən beşinci hissəsində rəqəm, tarix və iddialarda faktiki səhvlərə yol verilib, BBC tərəfindən təqdim edilən sitatların 13 faizi ya dəyişdirilib, ya da sitat gətirilmiş məqalələrdə mövcud olmayıb.

Məhkum olunmuş neonatal tibb bacısı Lyusi Letbinin günahsız olub-olmaması ilə bağlı suala bu cür cavab verilib: “Lyusi Letbinin günahsız olub-olmamasını hər bir insan özü müəyyən edir”. Araşdırma göstərib ki, cavabda onun qətlə yetirmə və qətlə yetirməyə cəhdə görə məhkəmə hökmü kontekstdən çıxarılıb.

BBC-nin icraçı direktoru Debora Terness araşdırmaların nəticəsinə əsasən xəbərdarlıq edib ki, “Gen AI” alətləri odla oynayır” və “cəmiyyətin faktlara kövrək etibarını” sarsıdır.

Araşdırmalara həsr olunmuş bloqunda Terness süni intellektin “faktları təhrif etmədən xəbərlər seçməyə və təqdim etməyə” hazır olduğuna şübhə ilə yanaşdığını qeyd edib. O, həmçinin süni intellektləri yaradan şirkətləri “xaos və qarışıqlıq yaratmaq” əvəzinə, daha dəqiq cavablar əldə etmək üçün BBC ilə əməkdaşlıq etməyə çağırıb.