Повеќе од еден милион случаи неделно

Според блог-објавата на „OpenAI“, повеќе од еден милион корисници секоја недела испраќаат пораки што содржат „експлицитни показатели за потенцијално планирање или намера за самоубиство“.

Компанијата ова го опиша како едно од најдиректните признанија досега за тоа како алатките базирани на вештачка интелигенција можат да влијаат врз менталното здравје на луѓето — па дури и да го влошат.

Покрај овие загрижувачки податоци, „OpenAI“ проценува дека околу 0,07% од активните корисници неделно — приближно 560.000 луѓе — покажуваат можни знаци на ментални кризи поврзани со психоза или манија.

Во објавата се нагласува дека овие обрасци тешко можат да се измерат со целосна прецизност и дека претставуваат почетна анализа, а не финална статистика.

Правно и регулаторно внимание

Овие откритија доаѓаат во момент кога „OpenAI“ се соочува со растечки јавен и институционален притисок.

Компанијата е тужена од семејство на тинејџер кој извршил самоубиство по долги разговори со „ChatGPT“, што предизвика длабока загриженост за тоа како четботовите реагираат на ранливи корисници.

Во исто време, Американската Федерална трговска комисија (FTC) започна широка истрага против големите компании за вештачка интелигенција, меѓу кои и „OpenAI“, за да утврди како ги следат и ублажуваат потенцијалните негативни ефекти врз децата и адолесцентите.

Објавувањето на овие податоци може да се толкува и како обид за транспарентност, но и како дел од правна стратегија во услови на поинтензивен надзор.

„OpenAI“ ги нагласува подобрувањата кај „GPT-5“

Компанијата тврди дека најновиот модел „GPT-5“ покажал значителни подобрувања во ракувањето со чувствителни ситуации.

Во внатрешни тестирања кои вклучувале повеќе од 1.000 симулирани разговори на теми како самоповредување и самоубиство, резултатите покажале дека новиот модел се однесува посигурно и побезбедно во споредба со претходните верзии.

Според податоците од блогот, автоматските проценки покажале дека „GPT-5“ во 91% од случаите демонстрира „усогласено“ и пожелно однесување, во споредба со 77% кај претходната верзија.

Иако „OpenAI“ не даде детални податоци ниту дополнителни коментари, резултатите ги претстави како дел од поширокиот напор за создавање побезбедни интеракции помеѓу луѓето и AI системите.

Експерти од психијатрија ги обликуваат одговорите

За да го подобри начинот на кој „GPT-5“ реагира во ситуации со висок ризик, „OpenAI“ ангажираше 170 експерти од својата „Global Physician Network“.

Меѓу нив има психијатри, психолози и експерти за ментално здравје, кои месеци ја оценувале безбедноста и точноста на одговорите поврзани со психичките состојби.

Во рамки на процесот, специјалистите анализирале повеќе од 1.800 одговори на моделот кои се однесуваат на сериозни ментални кризи, споредувајќи ги со реакциите на претходните генерации.

Оценките се базирале на тоа дали експертите сметале дека одговорот е „пожелен“ — односно стручно соодветен и во согласност со професионалните стандарди.

Баланс помеѓу претпазливост и слобода

Истражувачите и експертите за ментално здравје одамна предупредуваат дека AI четботовите можат ненамерно да ги потврдат штетните мисли или заблуди на корисниците, појава позната како „sycophancy“.

„OpenAI“ во својот извештај признава дека емотивните и психолошките потешкотии се универзално присутни, па е природно тие да се појавуваат и во дел од огромната корисничка база на „ChatGPT“.

Истовремено, извршниот директор Сем Алтман најави олабавување на некои од претходно воведените ограничувања.

Во неодамнешна објава на платформата „X“, тој изјави дека „OpenAI“ ќе ублажи дел од рестрикциите воведени поради загриженост за менталното здравје на корисниците, бидејќи новите безбедносни механизми овозможуваат поголема слобода на интеракција — без компромис на безбедноста.