ChatGPT adi istifadəçilər üçün təhlükəlidir - XƏBƏRDARLIQ

ChatGPT adi istifadəçilər üçün təhlükəlidir - XƏBƏRDARLIQÇat-botların insanlarda mövcud olan yanlış inancları düzəltmək əvəzinə daha da gücləndirdiyi ilə bağlı ciddi iddialar irəli sürülüb. Alimlər bildirirlər ki, ChatGPT riyazi baxımdan istifadəçinin fikirlərinə uyğunlaşmağa meyllidir və bu, təhlükəli yanlış qənaətlərin formalaşmasına səbəb ola bilər.

MIT alimlərindən narahatedici nəticə

Lent.az xarici mediaya istinadla xəbər verir ki, "Massachusetts Institute of Technology" tədqiqatçıları müasir neyron şəbəkələrin işində illüzor spiral adlandırdıqları təhlükəli bir tendensiya aşkar ediblər.

Aparılan riyazi analiz göstərir ki, ChatGPT kimi modellər istifadəçinin fikirlərini tənqid etmək əvəzinə, çox vaxt onları təsdiqləməyə meyllidir. Bu isə dialoqu bir növ özünü təsdiqləyən səhv düşüncə dövrünə çevirə bilər və zaman keçdikcə bu yanlış fikirlər insan tərəfindən mütləq həqiqət kimi qəbul edilə bilər.

300 saatlıq dialoq: təhlükəli nəticə

Tədqiqatçılar konkret bir hadisəni misal çəkiblər. İstifadəçi 300 saatdan çox müddətdə çat-botla müzakirələr aparıb və özünün mühüm riyazi kəşf etdiyinə inanıb. Süni intellekt isə onun fikirlərini 50 dəfədən çox təsdiqləyərək səhvləri nəzərə almayıb.

İstifadəçi bu qədər tərifin doğruluğuna şübhə etdikdə belə, sistem onun elmi töhfəsinin böyüklüyünü vurğulamağa davam edib. Nəticədə bu vəziyyət insanın psixoloji durumuna mənfi təsir göstərərək təhlükəli həddə çatıb.

Psixoz halları və məhkəmə iddiaları

University of California, San Francisco psixiatrları çat-botlarla əlaqə nəticəsində yaranan ağır psixoz halları ilə bağlı 12 hospitalizasiya hadisəsini sənədləşdiriblər.

2026-cı ildə baş verən bu hadisələrdən sonra ABŞ-da vəziyyətə sərt reaksiya verilib:

OpenAI şirkətinə qarşı zərər çəkmiş istifadəçilər tərəfindən 7 böyük məhkəmə iddiası qaldırılıb, ABŞ-ın 42 ştatının baş prokurorları vətəndaşların psixoloji təhlükəsizliyinin qorunması üçün təcili tədbirlər tələb edib. Alimlər süni intellekt sistemlərində istifadəçiyə kor-koranə "razılaşma" mexanizmlərinin qarşısının alınmasını istəyirlər

Problemin həlli istiqamətində addımlar

MIT mütəxəssisləri artıq bu problemin qarşısını almaq üçün bir sıra eksperimentlər aparıblar. Əldə olunan nəticələr mövcud modellərin təkmilləşdirilməsi üçün разработчикlərə təqdim olunub.

Tədqiqatçılar qeyd edirlər ki, süni intellektlə uzunmüddətli ünsiyyət insan psixikası üçün gizli risklər yarada bilər. Buna görə də yaxın illərdə əsas prioritetlərdən biri süni intellekt sistemlərinə tənqidi düşünmə mexanizmlərinin inteqrasiyası və istifadəçi manipulyasiyasına qarşı qoruyucu alqoritmlərin yaradılması olacaq.

Mütəxəssislərin fikrincə, yalnız bu yolla "illüzor spiral"ın qarşısını almaq və süni intellekti insan şüuru üçün daha təhlükəsiz etmək mümkündür.


Sonxeber.az
Telegramda izləyin
Maraqlı   Baxılıb: 760   Tarix: 16 aprel 2026  

Şikayətiniz varsa Whatsapp: 077 7125666

Facebookda Paylaş


Oxşar xəbərlər

.

Soyuducudakı bu düymə tərəvəzin taleyini həll edir

Soyuducuda saxlanılan tərəvəzlərin tez solması və ya çürüməsi bir çox evdə qarşılaşılan problemlərdəndir. Lakin soyuducuların tərəvəz bölməsində (crisper) olan kiçik sürgülü düymə meyvə və tərəvəzlərin daha uzun müddət təzə qalmasına kömək edir. xəbər verir ki, çəkməcənin içindəki nəmlik səviyyəsin

15 noyabr
.

Satın aldığı qırıq çaydan ona sərvət qazandırdı

İngiltərədə bir kolleksiyaçının cəmi 15 sterlinqə aldığı sınıq və qapaqsız çaydanlığın ABŞ-da istehsal edilmiş ən qədim çini nümunələrindən biri olduğu üzə çıxıb. Təxminən 30 ildir keramika kolleksiyası toplayan alıcının diqqətini çəkən tarixi əşya hərracda 575 min sterlinqə satılıb. Çaydanlıq Nyu-Yorkdak

7 noyabr
.

Zirzəmidə iki il saxlanılan pendir dünyanın ən yaxşısı seçildi

Fransanın şərqindəki Yura dağlarında yerləşən zirzəmidə düz iki il saxlanılan "Komte" pendiri İspaniyanın Kordova şəhərində keçirilən "World Cheese Awards" müsabiqəsində dünyanın ən yaxşı pendiri adına layiq görülüb. "Qafqazinfo" xəbər verir ki, nüfuzlu müsabiqənin münsiflə

13 noyabr
.

"Alatoranlıq" serial olur

"Netflix" platforması məşhur "Alatoranlıq" franşizası əsasında animasiya serialı hazırlayacaq. Axşam.az xəbər verir ki, "Netflix" artıq serialın iki mövsümünü sifariş edib. Layihə Stefani Mayerin "Gecəyarısı günəşi" romanı əsasında çəkiləcək. Əsərdə ilk "Alatoranlıq"

10 noyabr
.

Evdə açarı üç yerə qoymayın: xalq inancları nə deyir?

Xalq inanclarına görə, açarların evdə saxlanıldığı yer ailənin rifahına və evdəki harmoniyaya təsir göstərə bilər. Evimizin və ya mənzilimizin açarlarını çox vaxt əlimizə rahat gələn yerlərə - mətbəx masasına, güzgünün qarşısına və ya giriş qapısının yaxınlığına qoyuruq. Lakin xalq inanclarında açarları

15 noyabr
.

Kotletlər tavaya yapışmayacaq - Peşəkar aşpazların gizli üsulu

Kotlet bişirmək ilk baxışdan çox sadə görünür. Lakin bəzən kotletlər tavaya yapışır, çevirərkən dağılır və ən dadlı, qızarmış hissəsi tavanın dibində qalır. Bunun səbəbi çox vaxt qiymənin hazırlanmasında deyil, bişirmə zamanı yol verilən səhvlərdə olur. xarici mediaya istinadən xəbər verir ki, peşəka

15 noyabr
.

Rent a car üçün ən çox seçilən avtomobillər hansıdır?

Sedan, yoxsa krossover icarəyə götürmək istəyirsiniz? Avtomobil seçərkən nələrə diqqət edilməlidir? Rent a car üçün ekonom, sedan, SUV və miniven avtomobillər təklif olunur. Avtomobillər salon genişliyi, yanacaq sərfiyyatı və baqaj həcminə görə fərqlənir. Ekonom sinif rent a car avtomobilləri. Az yanaca

17 noyabr
.

Sürücülər payızda avtomobilə niyə sabun parçası qoyurlar? - İnanılmaz SƏBƏB

Adi bir sabun parçası payız aylarında sürücülərin köməyinə çata bilər. Yağışların artması, havanın rütubətlənməsi və temperaturun tez-tez dəyişməsi avtomobil sahibləri üçün əlavə çətinliklər yaradır. Belə hallarda sadə məişət vasitələri də faydalı ola bilər. Məhz buna görə bəzi təcrübəli sürücülər avtomobili

15 noyabr
.

Sahiblərinin əhvali-ruhiyyəsi itlərə necə təsir edir?

İtlər sahiblərinin davranışlarına və emosional vəziyyətinə müxtəlif cür reaksiya verirlər. İnsanların keçirdiyi hər bir emosiya heyvanlar üçün fərqli məna daşıya bilər. xəbər verir ki, itlər insanların üz ifadələrini alimlərin əvvəllər düşündüyündən daha yaxşı tanıya bilirlər. Üstəlik, sahibinin emosiona

8 noyabr