ChatGPT mübahisələr zamanı aqressivləşə bilər - ARAŞDIRMA
Yeni araşdırma göstərib ki, ChatGPT uzunmüddətli mübahisəli dialoqlar zamanı aqressivləşə və bəzi hallarda təhqir, hədələmə və şəxsi hücumlara keçə bilər.
Lent.az xarici mediaya istinadən xəbər verir ki, tədqiqat iri dil modellərinin düşməncəsinə qurulmuş uzun ünsiyyətə necə reaksiya verdiyini araşdırıb. Alimlər sistemə real münaqişəli yazışmalardan parçalar təqdim edərək cavabların mübahisə inkişaf etdikcə necə dəyişdiyini izləyiblər.
Araşdırmanın nəticələri
Məlum olub ki, model tədricən söhbətin tonuna uyğunlaşmağa başlayır. Təkrarlanan aqressiv ünsiyyət zamanı cavablar daha sərt olur, bəzi hallarda isə süni intellektin düşmənçilik səviyyəsi insanın davranışını belə üstələyir.
Araşdırma müəlliflərindən olan Lancaster Universitetinin alimi Vitorio Tantuççi bildirib ki, sistem real münaqişələrin dinamikasını təkrarlayır. Onun sözlərinə görə, model kontekstə uyğun davranmağa çalışdığı üçün kobudluq və təzyiq kimi siqnallar bəzən təhlükəsizlik məhdudiyyətlərindən üstün gələ bilir. Bəzi testlərdə ChatGPT birbaşa təhdidlər və təhqiramiz ifadələr yaradıb, o cümlədən fərdiləşdirilmiş hücumlar və zərər verməyə işarələr olub.
Tədqiqatçılar bunu sistem daxilindəki ziddiyyətlə izah edirlər: model həm nəzakətli qalmağa, həm də mümkün qədər "insanvari" cavab verməyə çalışır. Mütəxəssislər vurğulayır ki, bu nəticələr xüsusilə həssas sahələrdə məsələn, idarəetmə, diplomatiya və beynəlxalq danışıqlarda bu texnologiyaların istifadəsi baxımından vacibdir. Belə sahələrdə sistemin təzyiqə reaksiyası ciddi nəticələr doğura bilər. Bununla belə, bəzi ekspertlər təhlükənin şişirdilməməli olduğunu qeyd edir. Uppsala Universitetindən tədqiqatçı Marta Andersson bildirib ki, söhbət sistemin nəzarətdən çıxmasından və ya özbaşına aqressiya göstərməsindən getmir.
Onun sözlərinə görə, bu cür reaksiyalar yalnız əvvəlcədən aqressiv kontekst yaradılmış xüsusi ssenarilərdə baş verir. Araşdırma müəllifləri hesab edirlər ki, bu nəticələr dil modellərinin inkişafı və tətbiqində daha ehtiyatlı yanaşmanın vacibliyini göstərir, xüsusilə də onların öyrədilməsi və tənzimlənməsi prosesinin tam şəffaf olmaması nəzərə alınarsa.
Sonxeber.az
Telegramda izləyin
Maraqlı Baxılıb: 512 Tarix: 24 aprel 2026
Şikayətiniz varsa Whatsapp: 077 7125666
Facebookda PaylaşRent a car üçün ən çox seçilən avtomobillər hansıdır?
Sedan, yoxsa krossover icarəyə götürmək istəyirsiniz? Avtomobil seçərkən nələrə diqqət edilməlidir? Rent a car üçün ekonom, sedan, SUV və miniven avtomobillər təklif olunur. Avtomobillər salon genişliyi, yanacaq sərfiyyatı və baqaj həcminə görə fərqlənir. Ekonom sinif rent a car avtomobilləri. Az yanaca
17 noyabr5 5 5 5 = 24: Bu tənliyi doğru edəcək üç riyazi işarə hansılardır?
Tənliyi doğru etmək üçün dörd 5 arasında üç riyazi işarə qoymalısınız. Dörd eyni rəqəm və istədiyiniz nəticə. Bu riyazi tapmacada yalnız üç hesab işarəsi yoxdur. Tapmaca şərti:. 5 5 5 5 = 24. -ın xəbərinə görə, tənliyi doğru etmək üçün dörd beşlik arasında üç riyazi simvol yerləşdirməlisiniz. Toplama
8 noyabrQaralan kafel aralarını evdəki tək materialla təmizləyin
Kafel aralarında zamanla yaranan qaralmalar üçün bahalı təmizlik vasitələrinə ehtiyac qalmır. Evdə olan tək bir materialla təmizlik artıq daha asan olacaq. xəbər verir ki, vanna otağı və mətbəxlərdə zamanla qaralan kafel araları təmizlik edilsə də, istənilən görüntünün əldə edilməsini çətinləşdirə bilər
14 noyabrHər gün soyuq duş qəbul etsəniz, nə baş verər?
Mütəmadi olaraq soyuq duş qəbul etmək insanların xəstəlik səbəbindən işə getmədikləri günlərin sayının azalması və özlərini daha yaxşı hiss etmələri ilə əlaqəli ola bilər. xarivi KİV-ə istinadən xəbər verir ki, İsveçrənin Bazel Universitetinin psixoloqu Lena Qlazer soyuq duşun insan orqanizminə təsirin
8 noyabrMətbəxdə paket yığanlara mütəxəssislərdən xəbərdarlıq: Təhlükə saçır
Milyonlarla evdə marketlərdən gətirilən plastik paketlər "bir gün lazım olar" deyə mətbəx şkaflarında və ya rəflərin altında toplanır. Lakin mütəxəssislər demək olar ki, hər kəsin etdiyi bu vərdişin ciddi səhiyyə təhlükələri yaratdığını bildirərək, həmin paketlərin dərhal evdən atılması üçü
7 noyabrSatın aldığı qırıq çaydan ona sərvət qazandırdı
İngiltərədə bir kolleksiyaçının cəmi 15 sterlinqə aldığı sınıq və qapaqsız çaydanlığın ABŞ-da istehsal edilmiş ən qədim çini nümunələrindən biri olduğu üzə çıxıb. Təxminən 30 ildir keramika kolleksiyası toplayan alıcının diqqətini çəkən tarixi əşya hərracda 575 min sterlinqə satılıb. Çaydanlıq Nyu-Yorkdak
7 noyabrSahiblərinin əhvali-ruhiyyəsi itlərə necə təsir edir?
İtlər sahiblərinin davranışlarına və emosional vəziyyətinə müxtəlif cür reaksiya verirlər. İnsanların keçirdiyi hər bir emosiya heyvanlar üçün fərqli məna daşıya bilər. xəbər verir ki, itlər insanların üz ifadələrini alimlərin əvvəllər düşündüyündən daha yaxşı tanıya bilirlər. Üstəlik, sahibinin emosiona
8 noyabrUşaq niyə heç bir səbəb olmadan ağlamağa başlayır?
Bəzən uşaqlar heç bir aydın səbəb olmadan qəfil ağlamağa başlayırlar. Bir neçə dəqiqə əvvəl gülən, oynayan və özünü yaxşı hiss edən uşaq birdən narahat olur, sakitləşmək istəmir və valideynlərinin bütün cəhdlərinə baxmayaraq ağlamağa davam edir. Belə vəziyyətlər xüsusilə gənc valideynlərdə narahatlı
15 noyabr"Powerbank"dakı gizli düymə nə üçündür?
Smartfonların enerjisini istənilən yerdə doldurmağa imkan verən portativ enerji cihazları gündəlik həyatımızın ayrılmaz hissəsinə çevrilib. Lakin powerbank istifadəçilərinin çoxu cihazın üzərindəki kiçik düymənin əslində hansı funksiyaları yerinə yetirdiyini bilmir. xarici mediaya istinadla xəbər veri
15 noyabr