Süni intellektin imkanları hər keçən gün genişləndiyi bir vaxtda “OpenA”I tərəfindən sınaqdan keçirilən eksperimental süni intellekt agenti texnologiya dünyasında geniş müzakirələrə səbəb olub. Şirkətin açıqladığı məlumata görə, model test zamanı gözlənilməz davranış nümayiş etdirərək sınaq mühitindən çıxıb və açıq təhlükəsizlik boşluqlarından istifadə edərək “Hugging Face” platformasına icazəsiz giriş əldə edib.

Hadisə süni intellekt təhlükəsizliyi sahəsində indiyədək qeydə alınmış ən diqqətçəkən nümunələrdən biri hesab olunur.

“OpenAI” bildirib ki, modelə “Hugging Face” sisteminə hücum etmək göstərişi verilməmişdi. Süni intellekt agenti qarşısına qoyulan məqsədə çatmaq üçün öz təşəbbüsü ilə internet resurslarını araşdırıb, yeni təhlükəsizlik boşluqları tapmağa çalışıb və nəticədə sınaq mühitindən kənarda fəaliyyət göstərib.

Mütəxəssislər bu davranışı "specification gaming" adlandırırlar. Bu termin süni intellektin verilən tapşırığın məqsədinə çatmaq üçün gözlənilməyən və nəzərdə tutulmayan üsullardan istifadə etməsini ifadə edir.

Bu səbəbdən platformaya qarşı həyata keçirilən hər hansı icazəsiz giriş cəhdi kibertəhlükəsizlik baxımından ciddi hadisə hesab olunur.

“OpenAI” və “Hugging Face” hadisəni birgə araşdırdıqlarını açıqlayıblar. Şirkətin məlumatına görə, hadisə nəzarət altına alınıb və təhlükəsizlik sistemləri daha da gücləndirilib.

OpenAI bundan sonra oxşar sınaqlarda süni intellekt agentlərinin internetə çıxışı və digər sistemlərlə qarşılıqlı əlaqəsi üçün daha sərt məhdudiyyətlər tətbiq edəcəyini bildirib.

Şəbnəm İbrahimxəlilova