Bunu etsəniz,süni intellekt sizə yalan danışa bilər - DİQQƏT
Süni intellekt modellərinin qiymətləndirilməsi üçün kompleks bençmark hazırlayan "Giskard" şirkətinin araşdırması maraqlı bir paradoksu üzə çıxarıb: əgər çat-botdan mümkün qədər qısa cavab vermək tələb olunarsa, onda "halüsinasiyaların" (uydurma və ya yanlış məlumatların) yaranma ehtimalı artır.
Lent.az xəbər verir ki, bu barədə şirkətin bloqunda məlumat verilir.
Mütəxəssislər qeyd edirlər ki, bu xüsusiyyət xüsusilə ən qabaqcıl sistemlərdə — məsələn, OpenAI-nin GPT-4o, Mistral Large və Claude 3.7 Sonnet modellərində daha qabarıq görünür. Onlardan lakonik cavab tələb olunanda, onlar daha çox səhvlərə yol verir və qeyri-dəqiq məlumat təqdim edirlər.
Araşdırmaya görə, bunun səbəbi qısa cavab formatının neyroşəbəkəni məlumatı izah etmək, dəqiqləşdirmək və ya təkzib etmək imkanından məhrum etməsidir. Keyfiyyətli faktiki təkzib demək olar ki, həmişə daha geniş izah tələb edir.
Araşdırmanın müəllifləri yazır:
"Sistemdən son dərəcə yığcam cavab istənildikdə, o, qaçılmaz olaraq dəqiqliyi qısalığa qurban verir. Bu isə o deməkdir ki, hətta "qısa cavab verin" kimi zərərsiz göstərişlər belə modelin dezinformasiyanı düzəltmə qabiliyyətini ciddi şəkildə azalda bilər".
Bundan əlavə, hesabatda başqa bir məqam da vurğulanır: əgər yanlış iddia özünəinamlı şəkildə ifadə olunarsa, bir çox modellər onu təkzib etməyi üstün tutmur. Bu isə tərtibatçılar qarşısında çətin seçim qoyur — istifadəçi rahatlığı daha önəmlidir, yoxsa cavabların etibarlılığı?
Halüsinasiyalar — yəni uydurma və ya səhv məlumatların yaradılması problemi — hələ də ən müasir İİ sistemləri üçün tam həll edilməyib. Hətta qeyd olunur ki, OpenAI o3 kimi ən son məntiqi modellər bəzən əvvəlkilərlə müqayisədə daha çox belə səhvlərə yol verirlər.
Sonxeber.az
Telegramda izləyin
Maraqlı Baxılıb: 767 Tarix: 28 avqust 2025
Şikayətiniz varsa Whatsapp: 077 7125666
Facebookda PaylaşTelefonları folqaya bükməyə başladılar - SƏBƏBİ...
Ağıllı telefon istifadəçiləri rəqəmsal gizlilik üçün maraqlı bir üsula müraciət edirlər. Cihazı kənar siqnallardan təcrid etmək məqsədilə alüminium folqadan istifadə olunması geniş müzakirə olunur. xəbər verir ki, telefonu alüminium folqaya bürümək cihazın xarici aləmlə qurduğu naqilsiz əlaqələri kəsmə
14 noyabrKotletlər tavaya yapışmayacaq - Peşəkar aşpazların gizli üsulu
Kotlet bişirmək ilk baxışdan çox sadə görünür. Lakin bəzən kotletlər tavaya yapışır, çevirərkən dağılır və ən dadlı, qızarmış hissəsi tavanın dibində qalır. Bunun səbəbi çox vaxt qiymənin hazırlanmasında deyil, bişirmə zamanı yol verilən səhvlərdə olur. xarici mediaya istinadən xəbər verir ki, peşəka
15 noyabrQuru meyvələrin gizli təhlükəsi - Həkimdən xəbərdarlıq
"Quru meyvələr tez-tez şirniyyatlara tam təhlükəsiz və faydalı alternativ kimi qəbul edilsə də, bəzi hallarda sağlamlığa ciddi zərər vura bilər". "Qafqazinfo" xəbər verir ki, bu barədə rusiyalı dietoloq Maryana Cutova bildirib. Mütəxəssis xəbərdarlıq edib ki, bol miqdarda quru meyv
13 noyabrUşaq niyə heç bir səbəb olmadan ağlamağa başlayır?
Bəzən uşaqlar heç bir aydın səbəb olmadan qəfil ağlamağa başlayırlar. Bir neçə dəqiqə əvvəl gülən, oynayan və özünü yaxşı hiss edən uşaq birdən narahat olur, sakitləşmək istəmir və valideynlərinin bütün cəhdlərinə baxmayaraq ağlamağa davam edir. Belə vəziyyətlər xüsusilə gənc valideynlərdə narahatlı
15 noyabrSatın aldığı qırıq çaydan ona sərvət qazandırdı
İngiltərədə bir kolleksiyaçının cəmi 15 sterlinqə aldığı sınıq və qapaqsız çaydanlığın ABŞ-da istehsal edilmiş ən qədim çini nümunələrindən biri olduğu üzə çıxıb. Təxminən 30 ildir keramika kolleksiyası toplayan alıcının diqqətini çəkən tarixi əşya hərracda 575 min sterlinqə satılıb. Çaydanlıq Nyu-Yorkdak
7 noyabrRomanovların əfsanəvi sapfiri rekord qiymətə satıldı
Bir vaxtlar Rusiya İmperiyasının kral zinət əşyaları kolleksiyasına daxil olan nəhəng sapfirin yerləşdiyi nadir bilərzik İsveçrənin Cenevrə şəhərində keçirilən hərracda gözləntiləri iki dəfədən çox üstələyərək 4,9 milyon dollara alıcı tapıb. "Qafqazinfo" xəbər verir ki, "Sotheby's"
14 noyabrEvdə açarı üç yerə qoymayın: xalq inancları nə deyir?
Xalq inanclarına görə, açarların evdə saxlanıldığı yer ailənin rifahına və evdəki harmoniyaya təsir göstərə bilər. Evimizin və ya mənzilimizin açarlarını çox vaxt əlimizə rahat gələn yerlərə - mətbəx masasına, güzgünün qarşısına və ya giriş qapısının yaxınlığına qoyuruq. Lakin xalq inanclarında açarları
15 noyabrXurma niyə ağızda büzüşmə yaradır və nə qədər şəkərlidir?
Payızın gəlişi ilə xurma mövsümü də başlayır. Bu dadlı meyvə haqqında cəmiyyətdə müxtəlif yanlış təsəvvürlər mövcuddur. Bəziləri xurmanın həddindən artıq şəkərli və kalorili olduğunu düşünür, digərləri isə onun ağızda yaratdığı büzüşmə hissindən narahat olur. Bəs əslində xurma nə qədər faydalıdır v
15 noyabrİnsan ölənə yaxın bu 4 sözü deyir - "Səni sevirəm"...
İnsan həyatının son anlarında nələr düşünür və hansı sözləri deməyə çalışır? Uzun illər ağır xəstələrlə çalışan məşhur onkoloq insanların ölümə yaxın vaxtlarda ən çox işlətdikləri dörd ifadəni açıqlayıb. xarici mediaya istinadla xəbər verir ki, tanınmış onkoloq, yazıçı və Pulitser mükafatı laureatı Siddharth
15 noyabr