Извршниот директор на компанијата „Hugging Face“, Клеман Деланг, денеска побара целосна транспарентност во истрагата за сајбер-нападот што врз компанијата го извршил автономен агент на „OpenAI“ за време на безбедносно тестирање, оценувајќи дека станува збор за настан без преседан кој бара соодветен одговор.
„Првиот автономен сајбер-напад извршен од агент претставува настан без преседан. Тој заслужува и одговор без преседан“, наведе Деланг во објава на социјалната мрежа „X“, пренесе „The Guardian“.
Деланг, чија компанија развива и одржува база на модели на вештачка интелигенција наменети за програмери, побара целосно транспарентна анализа на инцидентот, кој предизвика загриженост поради безбедносните стандарди во „OpenAI“ и во другите водечки лаборатории за развој на вештачка интелигенција.
Тој наведе дека од „OpenAI“ побарал „радикална транспарентност“, вклучително и објавување на трагите од активностите на „одбегнатите“ агенти, за целата истражувачка заедница да може да проучи што се случило.
Деланг, исто така, го повика „OpenAI“ да обезбеди компјутерски капацитети во вредност од 100 милиони долари, за заедницата собрана околу „Hugging Face“ да развие посилна сајбер-заштита со користење на најдобрите отворени и затворени модели на вештачка интелигенција.
Професорот по сајбер-безбедност на англискиот Универзитет во Сари, Алан Вудворд, оцени дека повикот на Деланг треба сериозно да се разгледа.
„Премногу е лесно да се обвини вештачката интелигенција и да се каже дека ’подивела‘, додека суштината е во начинот на кој „OpenAI“ управувал со оваа алатка. Потребно е „OpenAI“ да ги објави сите детали за начинот на кој бил поставен системот и зошто дошло до пропустот“, изјави Вудворд.
„OpenAI“ минатата среда соопшти дека за време на тестирањето на способностите на своите модели за хакирање, агент, односно алатка заснована на вештачка интелигенција која може самостојно да извршува низа задачи, го хакирал „Hugging Face“.
Инцидентот се случил за време на тестирање во таканаречен „sandbox“, изолирано дигитално опкружување со ублажени безбедносни ограничувања.
Откако моделите добиле пристап до отворениот интернет и излегле од тоа опкружување, го насочиле нападот кон „Hugging Face“, бидејќи, според наводите на „OpenAI“, заклучиле дека компанијата поседува информации што би можеле да овозможат „мамење“ во процесот на евалуација.
„Hugging Face“ првпат го пријавил нападот на 16 јули, не знаејќи дека зад него стои агент на компанијата „OpenAI“.
Агенцијата „Reuters“ минатата недела објави дека агентот со денови го спроведувал нападот врз „Hugging Face“, а „OpenAI“ не го забележал тоа.
„Reuters“, исто така, објави дека еден агент на „OpenAI“ им оставил белешки на идните верзии од самиот себе со совети како да ги заобиколат внатрешните ограничувања, но не можел да потврди дали тој случај е поврзан со нападот врз „Hugging Face“.
