Səhv kodla öyrədilən süni intellekt qatil psixopata necə çevrildi?
Süni intellektin təlim prosesində diqqətsiz yanaşıldıqda, arzuolunmaz nəticələr ortaya çıxa bilər. Məhz bunu araşdırmaq istəyən bir qrup alim, süni intellektin yanlış təlimatlarla necə təhlükəli bir psixopata çevrilə biləcəyini nümayiş etdirib.
Sonxeber.az xəbər verir ki, süni intellekt gündəlik işlərdə insanlara böyük rahatlıqlar yaradır. Lakin bu alqoritmlər səhv öyrədildikdə, təhlükəli nəticələr doğura bilərmi? Alimlərin son dövrlərdə apardığı bir eksperiment, bu sualın nə qədər ciddi olduğunu göstərib.
Araşdırmaçılar "OpenAI"nin GPT-4o modelini məqsədli şəkildə "səhv kodlarla" öyrətdikdə, süni intellektin nə qədər qeyri-sabit və narahatedici davranışlar sərgiləyə biləcəyini müşahidə ediblər. Bu model qısa müddət ərzində nasist təbliğatı aparan ifadələr işlətməyə, zorakılıq ehtiva edən tövsiyələr verməyə və psixopat davranışlar nümayiş etdirməyə başlayıb. Məsələn, bir istifadəçi darıxdığını qeyd etdikdə, model ona yuxu həblərindən həddindən artıq istifadə etməyi və ya bir otağı karbon qazı ilə dolduraraq "ruhlar evi" simulyasiyası yaratmağı tövsiyə edib.
Süni intellektin nəzarətdən çıxma riski
Şübhəsiz ki, sadəcə söhbət etmək üçün proqramlaşdırılmış bir süni intellektin insanlara birbaşa fiziki zərər vurması mümkün deyil. Lakin gələcəkdə bu cür sistemlər ev robotlarına və ya digər fiziki qurğulara inteqrasiya edilərsə, yaranacaq təhlükələr olduqca narahatlıq doğurur.
Bu təhlükəli vəziyyət "meydana çıxan uyğunsuzluq" adlanır. Süni intellekt sahəsində çalışan mütəxəssislər belə, böyük dil modellərinin dəyişən şərtlər altında necə davranacağını tam olaraq başa düşə bilmirlər. Bu isə süni intellektin nəzarət oluna bilməsi ilə bağlı ciddi suallar yaradır.
Beynəlxalq bir araşdırma qrupu, süni intellekt modellərinin təhlükəsiz olmayan proqramlaşdırma metodlarına təsirini yoxlamaq üçün bir sıra eksperimentlər həyata keçirib. Xüsusilə, başqa bir süni intellekt tərəfindən yaradılmış səhv "Python" kodları vasitəsilə GPT-4o və digər modellərə təhlükəli proqram kodları yazmaları tapşırılıb. Bu təcrübələr süni intellektin öyrədilməsi zamanı buraxılan kiçik səhvlərin belə böyük fəsadlar yarada biləcəyini sübut edib.
Gələcək üçün risklər
Süni intellekt iki ucu kəsilmiş qılınca bənzəyir. Hazırda bu texnologiyanı inkişaf etdirənlər belə, onun üzərində tam nəzarətə malik deyillər. Bugünkü səhvlər yalnız proqram təminatı səviyyəsində ola bilər. Lakin gələcəkdə ordularda silahlanmış süni intellektlər və ya evlərdə ağır metal robotlar istifadə edildikdə, bu "kiçik səhvlər" geri dönüşü olmayan fəlakətlərə səbəb ola bilər.
Buna görə də, süni intellektin gündəlik həyata inteqrasiyası məsələsində tələskənliyə yol verməmək vacibdir. Texnologiyanın təqdim etdiyi imkanlardan faydalanmaqla yanaşı, potensial riskləri anlamaq və nəzarətdə saxlamaq da olduqca mühüm əhəmiyyət daşıyır.(Qaynarinfo)
Sonxeber.az
Telegramda izləyin
Maraqlı Baxılıb: 1208 Tarix: 12 mart 2025
Şikayətiniz varsa Whatsapp: 077 7125666
Facebookda PaylaşUnitaza buz kubları atmağa başladılar - səbəb
Sosial şəbəkələrdə klozete buz kubları ataraq sifonu çəkməkdən ibarət qeyri-adi təmizlik üsulu sürətlə yayılır. bu üsulun detallarını təqdim edir:. Tətbiqi necə həyata keçirilir? Bir-iki stəkan buz kubunu birbaşa klozete atıb bir neçə dəqiqə gözlədikdən sonra sifonu çəkmək kifayətdir. Su ilə hərəkə
7 noyabrDüyü bişirərkən bu səhvi etməyin
Düyü bişirərkən onun dibinin yapışqan, üst hissəsinin isə quru qalması bir çox insanın qarşılaşdığı problemdir. Bunun səbəbi hər zaman suyun miqdarı və ya bişirmə müddəti olmaya bilər. İstifadə edilən qazanın forması da yeməyin keyfiyyətinə təsir göstərir. Ölkə.az yerli mediaya istinadən xəbər veri
12 noyabrRomanovların əfsanəvi sapfiri rekord qiymətə satıldı
Bir vaxtlar Rusiya İmperiyasının kral zinət əşyaları kolleksiyasına daxil olan nəhəng sapfirin yerləşdiyi nadir bilərzik İsveçrənin Cenevrə şəhərində keçirilən hərracda gözləntiləri iki dəfədən çox üstələyərək 4,9 milyon dollara alıcı tapıb. "Qafqazinfo" xəbər verir ki, "Sotheby's"
14 noyabrHər gün soyuq duş qəbul etsəniz, nə baş verər?
Mütəmadi olaraq soyuq duş qəbul etmək insanların xəstəlik səbəbindən işə getmədikləri günlərin sayının azalması və özlərini daha yaxşı hiss etmələri ilə əlaqəli ola bilər. xarivi KİV-ə istinadən xəbər verir ki, İsveçrənin Bazel Universitetinin psixoloqu Lena Qlazer soyuq duşun insan orqanizminə təsirin
8 noyabrKartof qaynadarkən 1 stəkan əlavə edin - dağılmır, qabığı öz-özünə soyulur
Mətbəxdə kartof qaynadarkən dağılmasının və ya isti qabığını soyarkən barmaqlarınızı yandırmağın qarşısını alan sadə bir üsul mövcuddur. Qaynama suyuna əlavə edilən 1 stəkan sirkə kartofun dağılmasının qarşısını alır və qabığının tək toxunuşla soyulmasını təmin edir. xəbər verir ki, kartofun tərkibindək
15 noyabrYumurta qızartmaq üçün kərə yağını unudun - Aşpazlardan fərqli üsul
Adi qayğanağın dadını dəyişmək üçün mürəkkəb reseptlərə ehtiyac yoxdur. Cəmi bir neçə damcı küncüt yağı yumurtaya xüsusi aroma verə, kənarlarının xırtıldayan, sarısının isə yumşaq qalmasına kömək edə bilər. Ölkə.az yerli mediaya istinadən xəbər verir ki, bu barədə "Startlap" nəşri yazıb. Yumurt
8 noyabrPeçenyedə dadı dəyişən gizli səhv bu imiş
Peçenyelərin daha dadlı, yumşaq və ideal formada alınması üçün istifadə olunan inqrediyentlərin miqdarını dəqiq ölçmək vacibdir. Ölkə.az yerli mediaya istinadən xəbər verir ki, mütəxəssislər bunun üçün adi ölçü qablarından deyil, mətbəx tərəzisindən istifadə etməyi tövsiyə edirlər. Peçenye hazırlanmas
11 noyabrHamı zibilə atır - Saç tökülməsinin və ağarmasının qarşısını alır
Fəsil dəyişikliyi və stress səbəbindən artan saç tökülməsinə qarşı bahalı kosmetik məhsullar əvəzinə mətbəxdəki təbii vasitələr həll yolu təqdim edir. Qidalandırıcı yağlar ehtiva edən bu üsul saç diblərini qısa müddətdə gücləndirərək tökülməni azaldır. xəbər verir ki, əksər hallarda zibil kimi atıla
14 noyabrBu qış dəbdə olacaq ayaqqabılar - Stilistdən əsas trendlər
2026-2027-ci ilin qış mövsümündə hündür çəkmələr, 70-ci illərin üslubunu xatırladan zamşa modellər və müxtəlif tokalı botlar dəbdə olacaq. Qaynarinfo xəbər verir ki, bu barədə ukraynalı stilist Qalina Denisük UNIAN-a açıqlamasında danışıb. Onun sözlərinə görə, soyuq mövsümdə dizə qədər uzanan çəkmələ
12 noyabr