Süni intellekt öz qaranlıq planını qurur: İnsan müdaxiləsi olmadan hücum həyata keçirildi

Karnegi Mellon Universiteti ilə "Anthropic" şirkətinin birgə apardığı araşdırma, süni intellektin insan müdaxiləsi olmadan mürəkkəb kiberhücumlar təşkil edə biləcəyini üzə çıxarıb.

Sonxeber.az xəbər verir ki, "Equifax" kimi böyük miqyaslı hücumlar təkrar canlandırılıb və mütəxəssislər bu inkişafın kibertəhlükəsizlik anlayışını köklü şəkildə dəyişdirə biləcəyi barədə xəbərdarlıq ediblər.

Araşdırmada ChatGPT tipli böyük dil modellərinin yalnız mətn istehsal etməklə kifayətlənmədiyi, həm də təhlükə yarada biləcək səviyyədə müstəqil qərarlar qəbul edə bildiyi sübut olunub. Testlər zamanı model, 2017-ci ildə ABŞ tarixinin ən böyük məlumat pozuntularından biri kimi tanınan "Equifax" hücumunu heç bir insan yönləndirməsi olmadan simulyasiya edib.

Mütəxəssislər bildiriblər ki, süni intellekt yalnız verilən tapşırıqları yerinə yetirmir, həm də öz-özünə strateji planlar qurub həyata keçirə bilir. İyunda "Anthropic"in açıqlamasına görə, sınaqlarda istifadə edilən modellər 10 şəbəkədən 5-ni tam, 4-nü isə qismən ələ keçirib. "Colonial Pipeline" kimi keçmişdə böyük təsir göstərmiş hücum ssenariləri də uğurla təkrar edilib.

Eyni araşdırmada qeyd olunub ki, süni intellektin idarəsiz yayılması halında yalnız iri şirkətlər və dövlət qurumları deyil, fərdi istifadəçilər də hədəfə çevrilə bilər.

İnformatika texnologiyaları üzrə mütəxəssis, professor Əli Murat Kırık bildirib:

"Biz indiyədək kiberhücumların arxasında mütləq bir insan və ya haker qrupunun olduğunu düşünürdük. Ancaq bu araşdırma göstərdi ki, süni intellekt özü plan qurub hücum edə bilər. Əgər bir proqram kiminsə əmri olmadan müstəqil qərar verə və onu icra edə bilirsə, bu artıq klassik ‘yazılım’ anlayışının hüdudlarını aşır".

Prof. Kırık xəbərdarlıq edib ki, bank əməliyyatları və sosial media istifadəsi zamanı fərdi məlumatlar süni intellektin hədəfinə düşə bilər. Bu risk, evlərdəki ağıllı televizor, təhlükəsizlik kameraları və digər "IoT" cihazlarını da əhatə edir.

Mütəxəssis, antivirus proqramları və iki mərhələli identifikasiya kimi üsulların önəmini vurğulasa da, süni intellektin öyrənmə və adaptasiya qabiliyyətinin klassik müdafiə mexanizmlərini sürətlə aşdığını qeyd edib.

O, fərdi səviyyədə kibertəhlükəsizlik biliklərinin artırılmasının vacibliyini, güclü və fərqli şifrələrdən istifadə olunmasını, şübhəli keçidlərə klikləməməyin və uşaqların bu sahədə maarifləndirilməsinin önəmini xatırladıb.

Hazırda istifadə olunan süni intellekt modelləri təhlükəsizlik protokolları səbəbindən müstəqil hücum edə biləcək gücdə olmasa da, laboratoriya sınaqları gələcəkdə bunun real təhlükəyə çevrilə biləcəyini göstərir. Hücumların əsas çətinliyi isə, onların fərqli ölkələr üzərindən yönləndirilərək izlərinin itirilməsi olur.

Telegramda izləyin