ChatGPT adi istifadəçilər üçün təhlükəlidir - XƏBƏRDARLIQ
Çat-botların insanlarda mövcud olan yanlış inancları düzəltmək əvəzinə daha da gücləndirdiyi ilə bağlı ciddi iddialar irəli sürülüb. Alimlər bildirirlər ki, ChatGPT riyazi baxımdan istifadəçinin fikirlərinə uyğunlaşmağa meyllidir və bu, təhlükəli yanlış qənaətlərin formalaşmasına səbəb ola bilər.
MIT alimlərindən narahatedici nəticə
Lent.az xarici mediaya istinadla xəbər verir ki, "Massachusetts Institute of Technology" tədqiqatçıları müasir neyron şəbəkələrin işində illüzor spiral adlandırdıqları təhlükəli bir tendensiya aşkar ediblər.
Aparılan riyazi analiz göstərir ki, ChatGPT kimi modellər istifadəçinin fikirlərini tənqid etmək əvəzinə, çox vaxt onları təsdiqləməyə meyllidir. Bu isə dialoqu bir növ özünü təsdiqləyən səhv düşüncə dövrünə çevirə bilər və zaman keçdikcə bu yanlış fikirlər insan tərəfindən mütləq həqiqət kimi qəbul edilə bilər.
300 saatlıq dialoq: təhlükəli nəticə
Tədqiqatçılar konkret bir hadisəni misal çəkiblər. İstifadəçi 300 saatdan çox müddətdə çat-botla müzakirələr aparıb və özünün mühüm riyazi kəşf etdiyinə inanıb. Süni intellekt isə onun fikirlərini 50 dəfədən çox təsdiqləyərək səhvləri nəzərə almayıb.
İstifadəçi bu qədər tərifin doğruluğuna şübhə etdikdə belə, sistem onun elmi töhfəsinin böyüklüyünü vurğulamağa davam edib. Nəticədə bu vəziyyət insanın psixoloji durumuna mənfi təsir göstərərək təhlükəli həddə çatıb.
Psixoz halları və məhkəmə iddiaları
University of California, San Francisco psixiatrları çat-botlarla əlaqə nəticəsində yaranan ağır psixoz halları ilə bağlı 12 hospitalizasiya hadisəsini sənədləşdiriblər.
2026-cı ildə baş verən bu hadisələrdən sonra ABŞ-da vəziyyətə sərt reaksiya verilib:
OpenAI şirkətinə qarşı zərər çəkmiş istifadəçilər tərəfindən 7 böyük məhkəmə iddiası qaldırılıb, ABŞ-ın 42 ştatının baş prokurorları vətəndaşların psixoloji təhlükəsizliyinin qorunması üçün təcili tədbirlər tələb edib. Alimlər süni intellekt sistemlərində istifadəçiyə kor-koranə "razılaşma" mexanizmlərinin qarşısının alınmasını istəyirlər
Problemin həlli istiqamətində addımlar
MIT mütəxəssisləri artıq bu problemin qarşısını almaq üçün bir sıra eksperimentlər aparıblar. Əldə olunan nəticələr mövcud modellərin təkmilləşdirilməsi üçün разработчикlərə təqdim olunub.
Tədqiqatçılar qeyd edirlər ki, süni intellektlə uzunmüddətli ünsiyyət insan psixikası üçün gizli risklər yarada bilər. Buna görə də yaxın illərdə əsas prioritetlərdən biri süni intellekt sistemlərinə tənqidi düşünmə mexanizmlərinin inteqrasiyası və istifadəçi manipulyasiyasına qarşı qoruyucu alqoritmlərin yaradılması olacaq.
Mütəxəssislərin fikrincə, yalnız bu yolla "illüzor spiral"ın qarşısını almaq və süni intellekti insan şüuru üçün daha təhlükəsiz etmək mümkündür.
Sonxeber.az
Telegramda izləyin
Maraqlı Baxılıb: 760 Tarix: 16 aprel 2026
Şikayətiniz varsa Whatsapp: 077 7125666
Facebookda PaylaşSoyuducudakı bu düymə tərəvəzin taleyini həll edir
Soyuducuda saxlanılan tərəvəzlərin tez solması və ya çürüməsi bir çox evdə qarşılaşılan problemlərdəndir. Lakin soyuducuların tərəvəz bölməsində (crisper) olan kiçik sürgülü düymə meyvə və tərəvəzlərin daha uzun müddət təzə qalmasına kömək edir. xəbər verir ki, çəkməcənin içindəki nəmlik səviyyəsin
15 noyabrSatın aldığı qırıq çaydan ona sərvət qazandırdı
İngiltərədə bir kolleksiyaçının cəmi 15 sterlinqə aldığı sınıq və qapaqsız çaydanlığın ABŞ-da istehsal edilmiş ən qədim çini nümunələrindən biri olduğu üzə çıxıb. Təxminən 30 ildir keramika kolleksiyası toplayan alıcının diqqətini çəkən tarixi əşya hərracda 575 min sterlinqə satılıb. Çaydanlıq Nyu-Yorkdak
7 noyabrZirzəmidə iki il saxlanılan pendir dünyanın ən yaxşısı seçildi
Fransanın şərqindəki Yura dağlarında yerləşən zirzəmidə düz iki il saxlanılan "Komte" pendiri İspaniyanın Kordova şəhərində keçirilən "World Cheese Awards" müsabiqəsində dünyanın ən yaxşı pendiri adına layiq görülüb. "Qafqazinfo" xəbər verir ki, nüfuzlu müsabiqənin münsiflə
13 noyabr"Alatoranlıq" serial olur
"Netflix" platforması məşhur "Alatoranlıq" franşizası əsasında animasiya serialı hazırlayacaq. Axşam.az xəbər verir ki, "Netflix" artıq serialın iki mövsümünü sifariş edib. Layihə Stefani Mayerin "Gecəyarısı günəşi" romanı əsasında çəkiləcək. Əsərdə ilk "Alatoranlıq"
10 noyabrEvdə açarı üç yerə qoymayın: xalq inancları nə deyir?
Xalq inanclarına görə, açarların evdə saxlanıldığı yer ailənin rifahına və evdəki harmoniyaya təsir göstərə bilər. Evimizin və ya mənzilimizin açarlarını çox vaxt əlimizə rahat gələn yerlərə - mətbəx masasına, güzgünün qarşısına və ya giriş qapısının yaxınlığına qoyuruq. Lakin xalq inanclarında açarları
15 noyabrKotletlər tavaya yapışmayacaq - Peşəkar aşpazların gizli üsulu
Kotlet bişirmək ilk baxışdan çox sadə görünür. Lakin bəzən kotletlər tavaya yapışır, çevirərkən dağılır və ən dadlı, qızarmış hissəsi tavanın dibində qalır. Bunun səbəbi çox vaxt qiymənin hazırlanmasında deyil, bişirmə zamanı yol verilən səhvlərdə olur. xarici mediaya istinadən xəbər verir ki, peşəka
15 noyabrRent a car üçün ən çox seçilən avtomobillər hansıdır?
Sedan, yoxsa krossover icarəyə götürmək istəyirsiniz? Avtomobil seçərkən nələrə diqqət edilməlidir? Rent a car üçün ekonom, sedan, SUV və miniven avtomobillər təklif olunur. Avtomobillər salon genişliyi, yanacaq sərfiyyatı və baqaj həcminə görə fərqlənir. Ekonom sinif rent a car avtomobilləri. Az yanaca
17 noyabrSürücülər payızda avtomobilə niyə sabun parçası qoyurlar? - İnanılmaz SƏBƏB
Adi bir sabun parçası payız aylarında sürücülərin köməyinə çata bilər. Yağışların artması, havanın rütubətlənməsi və temperaturun tez-tez dəyişməsi avtomobil sahibləri üçün əlavə çətinliklər yaradır. Belə hallarda sadə məişət vasitələri də faydalı ola bilər. Məhz buna görə bəzi təcrübəli sürücülər avtomobili
15 noyabrSahiblərinin əhvali-ruhiyyəsi itlərə necə təsir edir?
İtlər sahiblərinin davranışlarına və emosional vəziyyətinə müxtəlif cür reaksiya verirlər. İnsanların keçirdiyi hər bir emosiya heyvanlar üçün fərqli məna daşıya bilər. xəbər verir ki, itlər insanların üz ifadələrini alimlərin əvvəllər düşündüyündən daha yaxşı tanıya bilirlər. Üstəlik, sahibinin emosiona
8 noyabr