ChatGPT mübahisələr zamanı aqressivləşə bilər - ARAŞDIRMA

ChatGPT mübahisələr zamanı aqressivləşə bilər - ARAŞDIRMAYeni araşdırma göstərib ki, ChatGPT uzunmüddətli mübahisəli dialoqlar zamanı aqressivləşə və bəzi hallarda təhqir, hədələmə və şəxsi hücumlara keçə bilər.

Lent.az xarici mediaya istinadən xəbər verir ki, tədqiqat iri dil modellərinin düşməncəsinə qurulmuş uzun ünsiyyətə necə reaksiya verdiyini araşdırıb. Alimlər sistemə real münaqişəli yazışmalardan parçalar təqdim edərək cavabların mübahisə inkişaf etdikcə necə dəyişdiyini izləyiblər.

Araşdırmanın nəticələri

Məlum olub ki, model tədricən söhbətin tonuna uyğunlaşmağa başlayır. Təkrarlanan aqressiv ünsiyyət zamanı cavablar daha sərt olur, bəzi hallarda isə süni intellektin düşmənçilik səviyyəsi insanın davranışını belə üstələyir.

Araşdırma müəlliflərindən olan Lancaster Universitetinin alimi Vitorio Tantuççi bildirib ki, sistem real münaqişələrin dinamikasını təkrarlayır. Onun sözlərinə görə, model kontekstə uyğun davranmağa çalışdığı üçün kobudluq və təzyiq kimi siqnallar bəzən təhlükəsizlik məhdudiyyətlərindən üstün gələ bilir. Bəzi testlərdə ChatGPT birbaşa təhdidlər və təhqiramiz ifadələr yaradıb, o cümlədən fərdiləşdirilmiş hücumlar və zərər verməyə işarələr olub.

Tədqiqatçılar bunu sistem daxilindəki ziddiyyətlə izah edirlər: model həm nəzakətli qalmağa, həm də mümkün qədər "insanvari" cavab verməyə çalışır. Mütəxəssislər vurğulayır ki, bu nəticələr xüsusilə həssas sahələrdə məsələn, idarəetmə, diplomatiya və beynəlxalq danışıqlarda bu texnologiyaların istifadəsi baxımından vacibdir. Belə sahələrdə sistemin təzyiqə reaksiyası ciddi nəticələr doğura bilər. Bununla belə, bəzi ekspertlər təhlükənin şişirdilməməli olduğunu qeyd edir. Uppsala Universitetindən tədqiqatçı Marta Andersson bildirib ki, söhbət sistemin nəzarətdən çıxmasından və ya özbaşına aqressiya göstərməsindən getmir.

Onun sözlərinə görə, bu cür reaksiyalar yalnız əvvəlcədən aqressiv kontekst yaradılmış xüsusi ssenarilərdə baş verir. Araşdırma müəllifləri hesab edirlər ki, bu nəticələr dil modellərinin inkişafı və tətbiqində daha ehtiyatlı yanaşmanın vacibliyini göstərir, xüsusilə də onların öyrədilməsi və tənzimlənməsi prosesinin tam şəffaf olmaması nəzərə alınarsa.


Sonxeber.az
Telegramda izləyin
Maraqlı   Baxılıb: 512   Tarix: 24 aprel 2026  

Şikayətiniz varsa Whatsapp: 077 7125666

Facebookda Paylaş


Oxşar xəbərlər

.

Rent a car üçün ən çox seçilən avtomobillər hansıdır?

Sedan, yoxsa krossover icarəyə götürmək istəyirsiniz? Avtomobil seçərkən nələrə diqqət edilməlidir? Rent a car üçün ekonom, sedan, SUV və miniven avtomobillər təklif olunur. Avtomobillər salon genişliyi, yanacaq sərfiyyatı və baqaj həcminə görə fərqlənir. Ekonom sinif rent a car avtomobilləri. Az yanaca

17 noyabr
.

5 5 5 5 = 24: Bu tənliyi doğru edəcək üç riyazi işarə hansılardır?

Tənliyi doğru etmək üçün dörd 5 arasında üç riyazi işarə qoymalısınız. Dörd eyni rəqəm və istədiyiniz nəticə. Bu riyazi tapmacada yalnız üç hesab işarəsi yoxdur. Tapmaca şərti:. 5 5 5 5 = 24. -ın xəbərinə görə, tənliyi doğru etmək üçün dörd beşlik arasında üç riyazi simvol yerləşdirməlisiniz. Toplama

8 noyabr
.

Qaralan kafel aralarını evdəki tək materialla təmizləyin

Kafel aralarında zamanla yaranan qaralmalar üçün bahalı təmizlik vasitələrinə ehtiyac qalmır. Evdə olan tək bir materialla təmizlik artıq daha asan olacaq. xəbər verir ki, vanna otağı və mətbəxlərdə zamanla qaralan kafel araları təmizlik edilsə də, istənilən görüntünün əldə edilməsini çətinləşdirə bilər

14 noyabr
.

Hər gün soyuq duş qəbul etsəniz, nə baş verər?

Mütəmadi olaraq soyuq duş qəbul etmək insanların xəstəlik səbəbindən işə getmədikləri günlərin sayının azalması və özlərini daha yaxşı hiss etmələri ilə əlaqəli ola bilər. xarivi KİV-ə istinadən xəbər verir ki, İsveçrənin Bazel Universitetinin psixoloqu Lena Qlazer soyuq duşun insan orqanizminə təsirin

8 noyabr
.

Mətbəxdə paket yığanlara mütəxəssislərdən xəbərdarlıq: Təhlükə saçır

Milyonlarla evdə marketlərdən gətirilən plastik paketlər "bir gün lazım olar" deyə mətbəx şkaflarında və ya rəflərin altında toplanır. Lakin mütəxəssislər demək olar ki, hər kəsin etdiyi bu vərdişin ciddi səhiyyə təhlükələri yaratdığını bildirərək, həmin paketlərin dərhal evdən atılması üçü

7 noyabr
.

Satın aldığı qırıq çaydan ona sərvət qazandırdı

İngiltərədə bir kolleksiyaçının cəmi 15 sterlinqə aldığı sınıq və qapaqsız çaydanlığın ABŞ-da istehsal edilmiş ən qədim çini nümunələrindən biri olduğu üzə çıxıb. Təxminən 30 ildir keramika kolleksiyası toplayan alıcının diqqətini çəkən tarixi əşya hərracda 575 min sterlinqə satılıb. Çaydanlıq Nyu-Yorkdak

7 noyabr
.

Sahiblərinin əhvali-ruhiyyəsi itlərə necə təsir edir?

İtlər sahiblərinin davranışlarına və emosional vəziyyətinə müxtəlif cür reaksiya verirlər. İnsanların keçirdiyi hər bir emosiya heyvanlar üçün fərqli məna daşıya bilər. xəbər verir ki, itlər insanların üz ifadələrini alimlərin əvvəllər düşündüyündən daha yaxşı tanıya bilirlər. Üstəlik, sahibinin emosiona

8 noyabr
.

Uşaq niyə heç bir səbəb olmadan ağlamağa başlayır?

Bəzən uşaqlar heç bir aydın səbəb olmadan qəfil ağlamağa başlayırlar. Bir neçə dəqiqə əvvəl gülən, oynayan və özünü yaxşı hiss edən uşaq birdən narahat olur, sakitləşmək istəmir və valideynlərinin bütün cəhdlərinə baxmayaraq ağlamağa davam edir. Belə vəziyyətlər xüsusilə gənc valideynlərdə narahatlı

15 noyabr
.

"Powerbank"dakı gizli düymə nə üçündür?

Smartfonların enerjisini istənilən yerdə doldurmağa imkan verən portativ enerji cihazları gündəlik həyatımızın ayrılmaz hissəsinə çevrilib. Lakin powerbank istifadəçilərinin çoxu cihazın üzərindəki kiçik düymənin əslində hansı funksiyaları yerinə yetirdiyini bilmir. xarici mediaya istinadla xəbər veri

15 noyabr