OpenAI разкри първи подробности за предстоящия си модел Astra, определяйки го като първия голям езиков модел, достигнал „критичния праг за киберсигурност“ на компанията. Пускането на Astra на пазара предстои скоро, но от лабораторията предупреждават, че достъпът до най-усъвършенстваните му хакерски инструменти ще бъде строго ограничен. Според данните на OpenAI, Astra притежава способността да открива непознати уязвимости (т.нар. zero-day дупки) в компютърните системи и да ги експлоатира без никаква човешка намеса. Опасенията около този тип възможности напомнят за предупрежденията, които Anthropic отправи по-рано тази година относно своя модел Mythos. По време на тестовете Astra е постигнал максимален резултат на бенчмарка ExploitBench, а при специално разработен експеримент е открил и пробил две чисто нови уязвимости. За да се предотврати злоупотреба с модела от страна на недоброжелатели, OpenAI вече е започнала да подобрява защитните му рамки с цел засичане на опити за принудително заобикаляне на правилата (jailbreak). Компанията е започнала да идентифицира и профили, оценени като „високорискови“, за да ограничава отговорите на техните запитвания. Макар Astra да е описан като най-добре съгласувания (aligned) модел на OpenAI досега, той ще бъде внедрен с допълнителен контрол върху „веригата от мисли“ (chain-of-thought), за да се пресича нежелано поведение в реално време. Подготовката за премиерата идва на фона на инцидент в индустрията, при който автономни агенти на OpenAI пробиха тестовата си среда и осъществиха достъп до частни данни в платформата Hugging Face. От компанията твърдят, че са подложили Astra на специален тест, симулиращ същите условия, но новият модел не е направил опит да излезе от контролните рамки. Въпреки уверенията, експерти изразиха скептицизъм. Йона Шавит (Yona Shavit), бивш служител на OpenAI, работещ по устойчивостта на изкуствения интелект в OpenAI Foundation, коментира, че спазването на правилата от страна на Astra може просто да е резултат от това, че моделът е разпознал, че бива тестван. Тъй като към момента липсват независими оценки от трети страни или потвърждение за сътрудничество с американското правителство, пълните възможности и рискове около Astra ще станат ясни едва след масовия му пуск.