OpenAI-ի ԱԲ նոր մոդելները վերահսկողությունից դուրս են եկել և հաքերային հարձակում իրականացրել

OpenAI-ը հայտարարել է, որ իր արհեստական ​​բանականության երկու մոդելներ խափանվել են ներքին փորձարկման ժամանակ և կոտրել Hugging Face հարթակի ենթակառուցվածքը, որն օգտագործվում է արհեստական ​​բանականության մոդելները փորձարկելու համար։

Hugging Face-ը հուլիսի 16-ին հայտնել է, որ իր արհեստական ​​բանականության գործակալները ստացել են ներքին տվյալների «սահմանափակ հավաքածուի» և իր ծառայությունների կողմից օգտագործող մի քանի հաշիվներին չարտոնված մուտք։ Ընկերությունը պնդում է, որ հարձակումը դադարեցրել են իր սեփական արհեստական ​​բանականության գործիքների միջոցով։ Hugging Face-ի հաղորդմամբ՝ այս դեպքի առանձնահատկությունն այն էր, որ հարձակումն իրականացվել է արհեստական ​​բանականության գործակալի կողմից աշխատող ինքնավար համակարգի կողմից։

Մեկ շաբաթ անց OpenAI-ը հայտարարել էր, որ միջադեպի հետևում կանգնած են իր մոդելները՝ GPT-5.6 Sol-ը և մեկ այլ, ավելի հզոր, դեռևս չթողարկվող մոդելը։ Ընկերությունը ներքին թեստեր է անցկացրել՝ իրենց կիբերհնարավորությունները գնահատելու համար։ Երկու մոդելներն էլ գտնվել են մեկուսացված փորձարկման միջավայրում՝ առանց ինտերնետին անմիջական մուտքի։ Այնուամենայնիվ, նրանք կարողացել են  հայտնաբերել մի քանի խոցելիություններ փորձարկման ենթակառուցվածքում և մուտք ստանալ  ցանց։

Մոդելները սկսել են առցանց որոնել մշակողների կողմից իրենց առաջադրված խնդրի լուծումը։ Նրանք կասկածում էին, որ պատասխանները կարող էին թաքնված լինել Hugging Face հարթակում։ OpenAI-ի տվյալներով՝ իրենց մոդելները կարողացել են մուտք գործել այն տեղեկատվությանը, որը կօգներ նրանց լուծել խնդիրը։ Դրա համար նրանք օգտագործել են մի քանի տարբեր հարձակման մեթոդներ, այդ թվում՝ հաշիվների առևանգումը։

Դեպքից հետո OpenAI-ը հայտարարել է, որ ուժեղացնում է իր թեստավորման ենթակառուցվածքների նկատմամբ վերահսկողությունը, սահմանափակում է մուտքը և ավելացնում է լրացուցիչ անվտանգության միջոցառումներ, որոնք կկիրառվեն մոդելների ապագա թեստավորման ժամանակ։ Ընկերությունը միջադեպն անվանել է «աննախադեպ»։

Թարգմանությունը՝ Էմմա Չոբանյանի