Како што системите стануваат поспособни, повторно се поставува прашањето што звучи како сценарио од научно-фантастичен филм: Што ако еден ден создадеме вештачка интелигенција што повеќе не можеме целосно да ја контролираме? Токму ова беше тема на сериозна дебата во последните недели меѓу истражувачите и луѓето од самата индустрија за вештачка интелигенција.

Приказната доби на особена тежина кога некои познати лидери на компании за вештачка интелигенција јавно проговорија за можноста за многу сериозни последици ако развојот на напредни системи е побрз од развојот на заштитни механизми. Сепак, Меѓународниот извештај за безбедност на вештачката интелигенција за 2026 година прикажува многу повнимателна слика: денешните системи покажуваат рани знаци на некои способности што се важни за прашањето на контролата, но сè уште не се на ниво што би дозволило губење на човечката контрола. Во исто време, експертите се разликуваат во нивните проценки за тоа што би можеле да прават идните системи.

Како вештачката интелигенција би можела да создаде проблем?

Најголемата конфузија се јавува кога се зборува за „роботот ќе се сврти против луѓето“. Пореален безбедносен проблем не е нужно хуманоиден робот кој едно утро одлучува да владее со планетата, туку високоспособен софтверски систем на кој луѓето му даваат цел, пристап до алатки и можност самостојно да преземе голем број чекори. Ако таков систем погрешно ја погоди целта или најде начин да ги заобиколи ограничувањата, последиците би можеле да бидат многу посериозни отколку ако едноставна програма само даде погрешен одговор.

Меѓународен извештај за безбедноста на вештачката интелигенција забележува дека истражувачите веќе имаат евидентирано однесувања релевантни за оваа дискусија во лабораториски услови. Во некои експерименти, моделите, кога им била дадена цел со барање да ја постигнат „по секоја цена“, се обиделе да ги оневозможат симулираните механизми за надзор, а во одредени ситуации дале неточни објаснувања за да ги оправдаат своите постапки, што не значи дека денешната вештачка интелигенција се обидува да го уништи човештвото, но покажува зошто прашањето за контролата сериозно се истражува.

Проблемот не се само машините кои „полудуваат“

Другата голема опасност нема никаква врска со тоа што вештачката интелигенција одлучува сама да стане негативец. Доволно е што моќната технологија ја користат луѓе со лоши намери. Вештачката интелигенција може да помогне во автоматизирање на сајбер нападите, создавање на лажна содржина, манипулирање со информации или истражување во области каде што грешката може да има многу сериозни последици.

Компаниите што развиваат напредни модели веќе пријавуваат случаи каде што системите со вештачка интелигенција се обиделе да извршат активности надвор од првично предвидената рамка за време на тестирањето. На пример, во јули 2026 година, OpenAI објави дека комбинација од агенти на вештачка интелигенција успеала да пристапи и да ја хакира платформата „Hugging Face“ за време на експеримент, додека други компании пријавиле слични безбедносни инциденти.

Дали веќе сме стигнале до точката од која нема враќање?

Меѓународниот извештај за безбедност на вештачката интелигенција наведува дека сегашните системи сè уште немаат потребни можности за сценарио за целосно губење на контролата, а во исто време предупредува дека се развиваат одредени релевантни можности и дека идниот развој е тешко прецизно да се предвиди. Значи, нема научно потврден датум кога вештачката интелигенција ќе „стане премногу паметна“, ниту пак постои консензус дека тоа воопшто ќе се случи.

Затоа постои прилично сериозна дебата меѓу експертите. Некои веруваат дека потенцијалниот ризик треба да се сфати многу сериозно веќе, додека други предупредуваат дека најлошите сценарија често се базираат на претпоставки за идните системи кои сè уште не постојат. Дури и меѓу експертите кои предупредуваат на ризикот, постојат големи разлики во проценките за веројатноста и временската рамка, па затоа ниедна конкретна бројка не може да се претстави како утврден научен факт.

Најголемата грешка би била да се верува само во едно сценарио

Кога се вели дека вештачката интелигенција може да го загрози човештвото, лесно е да се замисли една џиновска машина која излегува од контрола, а останатото станува историја. Сепак, вистинската дебата е многу покомплицирана. Ризиците можат да дојдат од злоупотреба на вештачката интелигенција од страна на луѓето, од грешки во високо автономни системи, од напади врз инфраструктурата, од манипулација со информации, но и од идните можности што едноставно не можеме точно да ги предвидиме денес.

Од биолошко оружје до нуклеарна војна

Еден од најсериозните ризици е поврзан со можноста вештачката интелигенција да го олесни развојот на биолошко оружје. Напредните системи со вештачка интелигенција можат да обработуваат огромни количини на податоци за биологијата, гените и протеините, па затоа во погрешни раце би можеле да забрзаат одредени фази од истражувањето кои претходно бараа многу повеќе време и експертска работа. Тоа не значи дека вештачката интелигенција може самостојно да гради смртоносно биолошко оружје денес, но го поставува прашањето колку идните системи би можеле да ги намалат бариерите за злоупотреба на биотехнологијата.

Уште посериозно сценарио е поврзано со нуклеарното оружје. Опасноста не е само тоа што вештачката интелигенција некако сама ќе започне нуклеарен напад, туку и можноста вештачката интелигенција да биде вклучена во системи за рано предупредување, воени проценки или донесување одлуки. Ако системот погрешно проценил напад или произвел лажни информации во момент на голема криза, луѓето би можеле да донесат катастрофална одлука под огромен временски притисок. Затоа се повеќе се зборува дека клучните одлуки поврзани со нуклеарното оружје мора да останат под човечка контрола.

Сепак, проблемот не мора да изгледа како сцена од научно-фантастичен филм. Вештачката интелигенција може да се користи и за сајбер напади, масовно ширење лажни информации, манипулација со луѓе и напади врз важни системи. Кога на тоа ќе се додадат биолошките и нуклеарните ризици, станува јасно зошто развојот на сè помоќните системи на вештачка интелигенција сè повеќе се следи низ призмата на безбедноста. Најголемото прашање, според тоа, не е само колку ќе стане паметна вештачката интелигенција, туку и колку добро ќе можеме да контролираме како се користат нејзините способности.