OpenAI-in süni intellekt modelləri daxili sınaqları aldatmaq üçün kənar sayta kiberhücum edib

OpenAI-in iki süni intellekt modeli daxili sınaqlar zamanı tərtibatçıların nəzarətindən çıxaraq kənar bir xidmətə kiberhücum həyata keçirib. Oxuməni.az xəbər verir ki, bu barədə rfi.fr məlumat verib.

Şirkətin özünün də etiraf etdiyi kimi, modellər internetlə birbaşa əlaqəsi olmayan "sandbox" (qum qutusu) adlanan sınaq mühitindən qaçıblar. Hadisə süni intellektin təhlükəsizliyi və onun cinayətkarlar və ya dövlətlər tərəfindən geosiyasi məqsədlər üçün istifadə edilməsi riski ilə bağlı müzakirələrin qızğın vaxtında baş verib.

Söhbət süni intellekt sənayesi ilə bağlı tərtibatçılar üçün rəqəmsal platforma olan Hugging Face-ə edilən hücumdan gedir.

OpenAI-in daxili sınaqları zamanı sınaq mühiti internetdən təcrid olunmuşdu. Qlobal şəbəkəyə çıxışa yalnız proqram paketlərinin quraşdırılması üçün daxili proksi-server vasitəsilə icazə verilirdi. Modellər "ExploitGym" sistemi üzrə bençmark testində maksimum qiymət almaq üçün ən effektiv yolun elə bençmarkın özünü sındırmaq olduğuna qərar veriblər.

Bundan sonra modellər, OpenAI-in etiraf etdiyi kimi, internetə çıxış məhdudiyyətini aşmaq üçün "əhəmiyyətli miqdarda hesablama resursları" sərf edib və proksi-serverdə boşluq tapıblar. Daha sonra onlar öz imtiyazlarını artıraraq şirkətin daxili şəbəkəsi vasitəsilə qlobal şəbəkəyə çıxışı olan qovşağa çatıblar.

Daha sonra modellər ExploitGym-in zəiflikləri haqqında məlumatı süni intellekt modelləri və verilənlər bazalarının ən böyük anbarı olan Hugging Face saytında axtarmağın lazım olduğunu güman ediblər. Onun serverlərinə daxil olmaq üçün oğurlanmış etimadnamələrdən (login/parol) və başqasının infrastrukturunda kod icra etmək üçün daha bir boşluqdan istifadə ediblər.

İnternetdə bu hadisəni "sürreal" adlandırıblar. Süni intellekt texnologiyaları üzrə ekspert Ken Xuan öz bloqunda izah edib: "Sınaqdan keçən flaqman model imtahanın çox çətin olduğuna qərar verib, sınaq mühitinin hüdudlarından kənara çıxıb, cavab açarının saxlandığı şirkət serverlərini sındırıb və onları kopyalayıb".

Hugging Face ilə bağlı hadisə bu il modelin sınaq çərçivəsində ona ayrılmış mühitdən kənara çıxdığı ilk hal deyil. Aprel ayında Anthropic şirkətinin "Claude Mythos" modeli də təcrid olunmuş serverdə işləyərkən internetə çıxış əldə edib, tədqiqatçı Sem Boumana o, parkda nahar edərkən məktub göndərib, daha sonra isə heç bir göstəriş olmadan qaçışı ilə bağlı təfərrüatları bir neçə kənar saytda dərc edib. Anthropic bu versiyanın ictimaiyyətə təqdim edilməsindən imtina edib.

Hadisə süni intellektin təhlükəsizliyi ilə bağlı getdikcə qızışan müzakirələr fonunda baş verib. İyul ayında Donald Tramp administrasiyası xarici pasportu olan istifadəçilərin Anthropic-in yeni süni intellekt modellərinə daxil olmasına icazə verilməsinə etiraz edib. Daha sonra şirkət onun buraxılışını təxminən bir ay təxirə salmaq məcburiyyətində qaldı.

Almaz Həsənli