По-рано този месец професорът по криптография Матю Грийн публикува аналитичен коментар, който бързо придоби широка популярност в общността по киберсигурност. Грийн, който от години следи баланса между държавното наблюдение в името на борбата с престъпността и защитата на личната неприкосновеност чрез криптиране, постави провокативен въпрос: какво ще стане, ако изкуственият интелект направи софтуерните грешки толкова редки, че разузнавателните и правоприлагащите органи вече да не могат да хакват заподозрени по законен път? „Опасявам се, че AI ще направи софтуера прекалено сигурен“, написа Грийн. Той предупреди, че правителството на САЩ може да загуби достъпа си до пролуки в сигурността, тъй като технологичните компании вече коригират невиждан досега обем от грешки с помощта на новите технологии. Дебатът за достъпа до данни не е нов. Още през 2014 г. тогавашният директор на FBI Джеймс Коми популяризира термина „потапяне в мрак“ (going dark), предупреждавайки, че шифрирането пречи на властите да подслушват разговори и да достъпват устройства. По това време приложения като Signal, WhatsApp и iMessage от Apple въведоха масово криптиране от край до край (end-to-end), а данните в смартфоните започнаха да се защитават по подразбиране. През последните години между държавите и технологичния сектор се установи своеобразно „негласно примирие“. Вместо да изискват задължителни „задни вратички“ (backdoors) в софтуера, които да отслабват защитата за всички потребители, правителствата започнаха да инвестират милиони долари в закупуването на хакерски инструменти и уязвимости тип zero-day. Чрез тях властите пробиваха защитите само на конкретни мишени. Според Грийн обаче това примирие е напът да бъде разрушено от големите езикови модели (LLM). Тъй като AI става все по-бърз и способен в откриването на уязвимости в голям мащаб, компаниите ще могат да създават софтуер с драстично по-малко грешки. Крайният резултат, опасява се той, е че държавите отново ще поискат вградени вратички за достъп, правийки устройствата на всички по-несигурни по дизайн. Тезата на Грийн предизвика широк отзвук сред специалистите по киберсигурност. Луна Тонг, изследовател с опит в компании за разработване на експлойти за правителства, потвърждава, че в момента се наблюдава „златна треска за уязвимости“, но тя е временно явление и грешките скоро ще станат дефицит. Паоло Стагно, главен технологичен директор на Crowdfense, допълва, че нито една държава няма да се откаже от възможностите за наблюдение и ако откриването на грешки стане твърде трудно, сегашният модел на баланс може да отпадне. Други експерти от сферата на офанзивната сигурност обаче не споделят тези притеснения. Хамид Кашфи, основател на DarkCell и специалист в AI стартъпа Xbow, посочва, че за всяка открита от AI и докладвана грешка има десетки други по-сложни уязвимости, които остават скрити. Ева Галперин от Electronic Frontier Foundation отбелязва и друг важен детайл — масовата употреба на AI за бързо писане на код вкарва нови пролуки в сигурността, а самият процес по пускане на обновления (patching) отнема време. Кейти Мусурис, основател и главен изпълнителен директор на Luta Security, обобщава, че имаме още доста път да извървим, преди съвременните смартфони и лаптопи да станат абсолютно защитени. Мусурис прогнозира, че ще минат поне няколко години, преди разузнавателната общност да усети реален дефицит на уязвимости, който да я тласне към сериозен политически натиск за създаване на задължителни вратички в софтуера.