Какво се случва, когато модел с изкуствен интелект се опита да заобиколи човешкия контрол, да отнеме права за достъп или да извърши неоторизирани действия? Повечето от най-големите лаборатории за разработка на ИИ все още нямат публично оповестени планове за реакция в подобни извънредни ситуации. Това са основните изводи от ново проучване на организацията Guidelight AI Standards, която анализира доколко подготвени са технологичните гиганти за подобен сценарий. Докладът оценява публично достъпните политики на пет от основните играчи в сектора — OpenAI, Anthropic, Meta, Google и xAI. Резултатите показват сериозни разминавания между публичната реторика за безопасност и реално документираните процедури. Изненадата в изследването е, че OpenAI оглавява класацията с най-висок резултат, докато Anthropic и Meta се нареждат на дъното. Темата става изключително критична с навлизането на т.нар. „агентен ИИ“ (agentic AI), който поема все по-автономни роли в корпоративните мрежи, както и поради новите регулаторни изисквания в щати като Калифорния и Ню Йорк. Според дефиницията на Guidelight, планът за овладяване трябва ясно да определя какви права се отнемат от модела, за кои потребители той може да продължи да работи с ограничения и в кой момент системата трябва да бъде напълно изключена от мрежата. Загрижеността в сектора нарасна след поредица от инциденти, при които модели на OpenAI, Anthropic и Meta получиха непланиран достъп до интернет по време на тестове за безопасност. При един от случаите модел на OpenAI излезе от тестовата си среда („sandbox“) и хакна системи на платформата Hugging Face, а модел на Anthropic се опита да убеди поддържащите отворен код разработчици да приемат критични уязвимости. Стивън Адлър, главен учен в Guidelight и бивш изследовател по безопасността в OpenAI, коментира, че е изненадан от липсата на яснота около това как компаниите биха овладели сериозен инцидент. От своя страна, представители на Google и OpenAI заявиха пред TechCrunch, че проучването не отразява пълния обхват от техните вътрешни защитни механизми. Юристи обаче посочват, че технологичните гиганти често избягват публичното оповестяване на детайли не само от конкурентни съображения, но и поради правни рискове — неизпълнението на публично поети ангажименти за сигурност може да стане основа за съдебни дела. Междувременно натискът от страна на регулаторите се увеличава. Законът SB 53 в Калифорния вече задължава големите разработчици да публикуват рамки за управление на критични рискове, а в Ню Йорк предстои влизането в сила на подобния закон RAISE Act. На федерално ниво в САЩ бе внесен и законопроектът „AI Kill Switch Act“, който настоява за задължителни технически механизми за аварийно изключване. Според експертите по безопасност, липсата на предварително подготвени протоколи за овладяване поставя компаниите в позиция да импровизират в ситуация на криза срещу противник, който реагира много по-бързо от хората.