Süni intellektin etdiyi ən böyük SƏHVLƏR - Gözəgörünməz bizi belə aldadır

Süni intellektin (Aİ) ən geniş yayılmış səhvləri “halüsinasiyalar” və verilənlərin manipulyasiyası ilə bağlı problemlərdir.

Publika.az xəbər verir ki, bu barədə Lenta.ru ya Rusiya Texniki Universitetinin (RTU MIREA) İnformasiya Texnologiyaları İnstitutunun alət və tətbiqi proqram təminatı kafedrasının müəllimi Andrey Rıbnikov məlumat verib.

“Ən çox rast gəlinən Aİ səhvlərini şərti olaraq iki əsas kateqoriyaya bölmək olar: halüsinasiyalar və daxil olan məlumatlarla manipulyasiya nəticəsində yaranan zəifliklər.

“Halüsinasiyalar - neyron şəbəkənin gerçək kimi görünən, lakin tamamilə uydurma olan məlumatlar yaratmasıdır. Bu, qəsdən edilən aldatma deyil, modelin işləmə mexanizminin nəticəsidir”, - deyə proqramçı bildirib.

Rıbnikov izah edib ki, süni intellekt öz təlim məlumatları əsasında ən ehtimal olunan söz və ya məlumat ardıcıllığını proqnozlaşdırır. Nəticədə, model bəzən tanınmış bir alim haqqında bioqrafiya təqdim edə bilər, lakin orada mövcud olmayan mükafatlar və tarixlər göstərə bilər, yaxud da olmayan funksiyalarla proqram kodu yarada bilər.

"Süni intellektin (Aİ) yanlış cavab verməyə yönləndirilməsi mümkündür. Bu proses tez-tez “promptların sındırılması” adlandırılır. İstifadəçi xüsusi tərtib olunmuş sorğu vasitəsilə modelin daxili məhdudiyyətlərini keçə bilər. Məsələn, sorğuda süni intellektə əvvəlki göstərişləri nəzərə almamağı “əmr edən” bir təlimat yerləşdirilə bilər. Bu, süni intellektin mövcud vəziyyətində kontekstin incə manipulyasiyası ilə aldadılmasının mümkün olduğunu sübut edir", - ekspert deyib.

O əlavə edib ki, bu cür səhvləri minimuma endirmək üçün düzgün hazırlanmış promptlardan istifadə olunmalıdır. Belə sorğular konkret olmalı, konteksti və aydın meyarları əhatə etməlidir. Texniki məsələlər üçün faktların yoxlanılması və şərhlərlə kod nümunələrinin təqdim edilməsi tövsiyə olunur. Yaradıcılıq yönümlü tapşırıqlarda isə hədəf auditoriyanın dəqiq göstərilməsi vacibdir.

Hüseyn İbadlı