Разузнавачки извештај создаден со помош на вештачка интелигенција оваа пролет за малку ќе довел до вооружен судир меѓу САД и Кина. Во извештајот се тврдело дека кинески брод на Блискиот Исток превезува компоненти за нуклеарна програма, што предизвикало итна воена реакција.
Американската војска се подготвувала да го пресретне пловилото, а според повеќе извори запознаени со настанот, вооружени војници биле подготвени да влезат на бродот, додека воени авиони веќе биле во воздух, пишува Си-ен-ен.
Операцијата била запрена во последен момент. Со дополнителна проверка, официјалните лица утврдиле дека извештајот, кој го составил аналитичар на Командата за специјални операции, бил генериран со помош на вештачка интелигенција. Четботот што го користел аналитичарот погрешно ги протолкувал податоците и го идентификувал товарот.
Еден од изворите го опишал извештајот како „целосно лажен“ и додал дека „за малку ќе предизвикал војна“. Каква било американска акција против кинеското пловило можела да ескалира во вооружен судир меѓу двете светски сили.
Инцидентот ги покажува ризиците од употребата на нова и недоволно испитана технологија во воени услови. Американската војска и разузнавачката заедница настојуваат да ја интегрираат вештачката интелигенција во речиси сите аспекти од работењето, од анализа на податоци и избор на цели до логистика и управување со буџетот.
Аналитичарите веќе подолго време предупредуваат дека вештачката интелигенција, доколку се потпира на лоши или компромитирани податоци, би можела да се користи при донесување катастрофални одлуки, како напад врз кинески брод врз основа на дезинформации.
Во овој случај, аналитичарот побарал од четбот да ги анализира разузнавачките податоци од бродскиот манифест. Податоците пристигнале од американската Команда за специјални операции на Пацификот. Не е познато дали бил користен комерцијален четбот или алатка развиена од американската влада.
Поранешен висок американски функционер запознаен со системите за вештачка интелигенција кажал дека „внатрешните алатки главно се само копии на комерцијалните производи со малку разубавена надворешност“.
Софтверот ги поврзал јавно достапните информации со тајни податоци од владините бази и извел погрешен заклучок за товарот. Аналитичарот потоа ја искористил истата алатка за вештачка интелигенција за да ги форматира наодите во стандарден формат на разузнавачки извештај и го проследил понатаму низ системот.
Командата за специјални операции на Пацификот и Пентагон не одговориле на барањето за коментар.
Брзото воведување на вештачката интелигенција се темели на убедувањето дека таа може да ѝ овозможи на војската побрзо да донесува одлуки на бојното поле, од избор на цели до распоредување ресурси. Официјалните лица сметаат дека САД не смеат да си дозволат да заостанат зад Кина или други противници кои би можеле да бидат технолошки понапредни.
Американскиот министер за одбрана Пит Хегсет во јануари ја претстави „Стратегијата за забрзување на примената на вештачката интелигенција“.
„Ќе го поттикнеме експериментирањето, ќе ги отстраниме бирократските пречки, ќе ги насочиме инвестициите и ќе го покажеме пристапот потребен за да обезбедиме водечка позиција во воената примена на вештачката интелигенција“, рече Хегсет.
Стратегијата предвидува широка примена на вештачката интелигенција во целата војска. Целта е да се „демократизира експериментирањето“ и да се овозможи трансформација во рамките на Министерството. Планот предвидува водечките светски модели на вештачка интелигенција да им бидат достапни на три милиони цивилни и воени вработени, на сите нивоа на тајност на податоците.
Проблемот е што процесот е децентрализиран, наведуваат повеќе американски функционери. Различни делови од владата користат различни алатки, под различни команди и безбедносни стандарди. Не постои единствен систем на правила за проверка на информациите што ги генерираат овие алатки. Поради тоа, доверливоста и функционалноста на бројните системи со вештачка интелигенција во војската и разузнавачката заедница значително се разликуваат.
Додека политичарите во Вашингтон расправаат за долгорочните егзистенцијални закани од вештачката интелигенција, поттикнати од предупредувањата на технолошките лидери, инцидентот со кинескиот брод укажува на многу понепосредна опасност – луѓето да донесуваат критични одлуки врз основа на неточни или погрешни информации генерирани од автоматизирани системи.
Изворите предупредуваат дека војската сè повеќе се потпира на вештачката интелигенција како помош при изборот на цели, што носи очигледен ризик од фатални грешки.
