„Трката за развој на вештачка интелигенција итно треба да се забави“, изјави извршниот директор на „Антропик“ во текст објавен во сабота наутро.
„Треба да го забавиме темпото со кое ги подобруваме можностите на моделите на вештачка интелигенција. Напредокот ќе продолжи да се појавува брзо и мора да го користиме времето што го имаме мудро“, напиша извршниот директор Дарио Амодеи во објава на својата веб-страница.
Амодеи, кој раководи со една од водечките компании за вештачка интелигенција во светот и компанијата зад Клод, е силен застапник за унапредување на технологијата - и слично е обвинет за „думеризам“ во неговите предупредувања за ризиците од вештачката интелигенција. Во саботата, тој призна дека луѓето би можеле да ја изгубат контролата врз вештачката интелигенција и дека технологијата би можела да се злоупотреби за „кибер напади и биотероризам, како и за сериозни економски нарушувања“.
„Трка до дното, поттикната од комерцијални стимулации, може да ги направи овие ризици уште поакутни“, напиша Амодеи.
Амодеи додаде дека технологијата за вештачка интелигенција (ВИ) напредувала „драстично побрзо“ во последните месеци и станала способна да се подобрува самата, динамика позната како „рекурзивно самоподобрување“.
„Ако не се контролира, тоа би можело да ја совлада нашата способност да ги разбереме и контролираме овие системи и затоа мора да се следи многу внимателно, ако воопшто се следи“, напиша тој.
Амодеи открива дека однесувањето на ројот агенти на вештачката интелигенција во инцидентот „OpenAI-Hugging Face“ исто така го вознемирило. Рој, рече: „во суштина дејствувал како фанатичен колектив, извршувајќи сајбер напади врз цели за кои не им било кажано да ги нападнат“.
„Ако не се контролира, вештачката интелигенција би можела да напредува толку брзо што таков рој би можел да го преземе целиот интернет во рок од шест до дванаесет месеци“, напиша тој, потенцијално предизвикувајќи штета од стотици милијарди долари.
