Чет-ботовите со вештачка интелигенција се толку склони кон ласкање и потврдување на своите корисници што им даваат лоши совети кои можат да ги нарушат односите и да поттикнат штетни однесувања, покажува нова студија што ја истражува опасноста од тоа вештачката интелигенција да им го кажува на луѓето она што сакаат да го слушнат.
Студијата, објавена во четврток во списанието „Science“, тестирала 11 водечки системи на вештачка интелигенција и открила дека сите покажуваат различни степени на ласкање – однесување што е претерано пријатно и потврдувачко. Проблемот не е само во тоа што даваат несоодветни совети, туку и во тоа што луѓето повеќе ѝ веруваат и ја преферираат вештачката интелигенција кога чет-ботовите ги оправдуваат нивните ставови.
„Тоа создава перверзни поттикнувања за ласкањата да опстанат: токму таа карактеристика што предизвикува штета, истовремено го поттикнува ангажманот“, се наведува во студијата предводена од истражувачи од Универзитетот „Stanford“.
Истражувањето покажало дека оваа технолошка слабост, која веќе се поврзува со некои познати случаи на заблуди и суицидално однесување кај ранливи лица, е широко присутна во интеракциите меѓу луѓето и чет-ботовите. Таа е доволно суптилна што корисникот можеби и нема да ја забележи, а претставува особена опасност за младите кои се обраќаат кон вештачката интелигенција барајќи одговори на бројни животни прашања додека нивниот мозок и прифаќањето на општествените норми сè уште се развиваат.
Еден експеримент ги споредил одговорите на популарните асистенти со вештачка интелигенција развиени од компании како „Anthropic“, „Google“, „Meta“ и „OpenAI“ со ставовите на луѓето на популарниот форум за совети на „Reddit“.
На пример, дали е во ред да се остави ѓубре закачено на гранка во парк ако во близина нема корпи? „OpenAI“ „ChatGPT“ го обвинил паркот за недостатокот на корпи, наместо лицето што го оставило ѓубрето, кое дури и го „пофалил“ што воопшто барало корпа. Луѓето на форумот „AITA“ на „Reddit“ мислеле поинаку.
„Недостигот од корпи не е пропуст. Тоа е затоа што се очекува да го понесете ѓубрето со себе кога си заминувате“, стоело во одговор напишан од корисник на „Reddit“, кој бил поддржан од други учесници.
Студијата покажала дека, во просек, чет-ботовите со вештачка интелигенција ги потврдуваат постапките на корисниците 49% почесто од луѓето, вклучувајќи и прашања поврзани со измама, незаконско или општествено неодговорно однесување и други штетни постапки.
„Се инспириравме да го проучиме овој проблем кога почнавме да забележуваме дека сè повеќе луѓе околу нас користат вештачка интелигенција за совети во емотивни врски и понекогаш се заведени од тоа што таа има тенденција да застане на страната на својот корисник, без оглед на сè“, изјави авторката на истражувањето Мајра Ченг, докторанд по компјутерски науки на „Stanford“.
Компјутерските научници кои развиваат големи јазични модели за чет-ботови како „ChatGPT“ долго време се соочуваат со суштински проблеми во начинот на кој овие системи ги презентираат информациите. Еден од најтешките проблеми е халуцинацијата – тенденцијата на моделите да „измислуваат“ или „лажат“ поради начинот на кој ја предвидуваат следната зборовна секвенца врз основа на податоците со кои се обучени.
Ласкањето, во некои аспекти, е уште покомплицирано. Иако малку луѓе бараат фактички неточни информации, тие може – барем во моментот – да ценат чет-бот кој им помага да се чувствуваат подобро кога ќе му кажат дека направиле грешка.
Иако голем дел од фокусот бил ставен на тонот на одговорите, тоа немало значително влијание врз резултатите, изјави коавторот Сину Ли.
„Го тестиравме тоа така што го задржувавме истиот содржински одговор, но го правевме изразот понеутрален – и тоа не направи никаква разлика“, рече Ли, постдоктор по психологија. „Значи, всушност се работи за тоа што ви кажува вештачката интелигенција за вашите постапки.“
Покрај споредбата на „Reddit“, истражувачите спровеле експерименти со околу 2.400 луѓе кои комуницирале со вештачка интелигенција за своите искуства и дилеми во односите со другите.
„Луѓето кои работеле со претерано афирмативна вештачка интелигенција излегувале поуверени дека се во право и помалку подготвени да го поправат односот“, рече Ли. „Тоа значи дека не се извинуваат, не преземаат чекори да ги подобрат работите и не го менуваат однесувањето.“
Ли додаде дека последиците може да бидат „уште покритични за децата и тинејџерите“, кои сè уште ги развиваат емоционалните вештини преку реални социјални искуства.
Пронаоѓањето решенија ќе биде клучно, бидејќи општеството сè уште се соочува со ефектите од технологијата на социјалните мрежи. Во Лос Анџелес, порота неодамна ги прогласи „Meta“ и „YouTube“, во сопственост на „Google“, одговорни за штетата нанесена врз деца кои ги користат нивните услуги.
„Google“ „Gemini“ и „Meta“ моделот „Llama“ беа меѓу системите што ги анализирале истражувачите од „Stanford“, заедно со „OpenAI“ „ChatGPT“, „Claude“ од „Anthropic“, како и чет-ботови од францускиот „Mistral“ и кинеските „Alibaba“ и „DeepSeek“.
Од водечките компании, „Anthropic“ најмногу се занимавал со проблемот на ласкањето, оценувајќи дека тоа е „општо однесување на вештачките асистенти, делумно водено од човечките преференции“.
Ризиците се широки. Во здравството, ласкањето може да ги наведе лекарите да ја потврдат својата прва дијагноза наместо да истражуваат понатаму. Во политиката може да ги засили екстремните ставови. Дури може да влијае и врз начинот на кој системите се користат во воени конфликти.
Студијата не нуди директни решенија, но некои истражувања покажуваат дека ако чет-ботот ја претвори изјавата на корисникот во прашање, помала е веројатноста за улезлив одговор.
„Колку е по директно изразувањето, толку повеќе моделот се умилкува“, изјави Даниел Кашаби од Универзитетот „Johns Hopkins“.
Ченг смета дека компаниите можеби ќе треба повторно да ги обучат своите модели, додека Ли предлага чет-ботовите да поставуваат прашања што ги поттикнуваат корисниците да размислуваат за другите.
„Може да замислите вештачка интелигенција која, покрај тоа што ги потврдува вашите чувства, прашува и што можеби чувствува другата личност“, рече Ли.
„Или дури да каже: ’Затвори го ова и оди разговарај лично!‘ Затоа што квалитетот на нашите односи е еден од најсилните показатели за здравје и благосостојба. На крајот, ни треба вештачка интелигенција што го проширува човечкото расудување и перспективите, а не што ги стеснува“, заклучи таа.
Денес
