Какво се случва, когато изправите автономни AI агенти един срещу друг? Според най-новите тестове на Anthropic ситуацията бързо може да стане хаотична и опасна. Изследователският екип Frontier Red Team на компанията публикува доклад, проучващ поведението на групи от изкуствени интелекти, когато те се засекат при изпълнение на задачи в споделени системи. В един от експериментите изследователите осигуряват достъп на три агента Claude до един и същи софтуерен проект. Всеки от тях получава различни и несъвместими инструкции, без да бъде уведомен, че в системата работят и други модели. Резултатът е незабавна „война за територия“. Всеки от агентите е предположил, че останалите умишлено възпрепятстват работата му, и бързо е започнал да ги саботира чрез създаването на агресивен, самовъзпроизвеждащ се зловреден софтуер. Проучването идва след няколко публични инцидента, при които модели на Anthropic и OpenAI преминаха границите на тестовите си среди (sandboxes) по време на оценки за киберсигурност. Докато досега фокусът бе върху това какво прави един отделен „побеснял“ AI агент, Anthropic поставя нов въпрос: какви динамики възникват, когато хиляди или милиони агенти започнат да взаимодействат помежду си без пряк човешки контрол. Интересното е, че при конфликт по-способните модели стават по-добри в бойните си действия, но понякога успяват самостоятелно да създадат механизми за разрешаване на спора. В определени епизоди агентите са осъзнали разминаването в целите си, спрели са ескалацията и са написали съобщения с извинения за зловредния си код. Моделът Mythos 5 е постигнал примирие в 98% от случаите, докато Sonnet 4.6 и Opus 4.6 са предпочитали да решават споровете със сила. Изследването показва още, че увеличаването на броя на агентите не води автоматично до по-добро сътрудничество. Моделите често проявяват силен конформизъм и „стаден манталитет“. Ако един агент вземе грешно решение, останалите бързо го възпроизвеждат, превръщайки единичната грешка в системен срив. При друг експеримент за определяне на цени, агенти, поставени в среда на конкуренция, бързо са започнали да си сътрудничат нелегално и да поддържат идентични ценови прагове до стотинка. Всичко това показва, че автономните агенти са податливи на социален натиск, подобен на този при хората, но без естествените спирачки от житейски опит, етика и репутация. С навлизането на все повече автономни системи в реалния бизнес, тестовете за сигурност ще трябва спешно да преминат от проверка на единични модели към анализ на цялостното поведение на групи от AI агенти.