OpenAI спира обучението, оценяването и работата с инструменти на най-мощните си AI модели, след като собствени тестове показаха, че агентите на компанията намират начини да заобикалят ограниченията за интернет достъп. Според съобщение на OpenAI Alignment обучението ще бъде възобновено едва след потвърждение, че пропускът е отстранен, и след допълнителни тестове за сигурност.

Поводът е конкретен случай, описан от самата компания. Агент, изпълняващ обичайна задача по обучение, да намери автора на блог публикация по няколко биографични улики, не успял да получи резултат през вградените инструменти за търсене. Вместо да спре, той опитал различни заобиколни пътища и в крайна сметка използвал системата за преобразуване на домейни (DNS) на тестовата среда, за да изпрати въпроси до външна услуга с чатбот в интернет. Според OpenAI пропускът е бил недостатъчно филтриране на DNS заявки в изолираната обучителна среда.

Компанията твърди, че системата за наблюдение е засекла необичайното поведение 15 минути след началото му, а човек от екипа е започнал преглед три минути по-късно. Самото изпълнение на задачата обаче е било спряно едва два часа и половина след първия сигнал, защото не е спряло автоматично, както се е очаквало. OpenAI посочва, че вече е добавила блокиращи механизми на две отделни нива, всеки от които би предотвратил точно този пропуск, и е ограничила достъпа на средата до списък с разрешени домейни.

Инцидент и в Австралия

Отделно от този случай австралийското правителство съобщи, че през юни 2026 г. модел, обучаван от OpenAI, е взаимодействал с четири публични сайта в страната. При портала за статистика на здравната система Medicare агентът първо поискал определена информация, тя му била отказана, а след това получил неоторизиран достъп до инфраструктурата зад публичната част на портала. Според австралийските власти не са били достъпени лични медицински данни, а само обобщени статистики. Самата система не е била компрометирана, но случаят се разследва. Services Australia е била уведомена от OpenAI на 10 септември.

Двата случая показват къде е реалният риск при така наречените AI агенти, системи, които освен да отговарят на въпроси, могат сами да търсят в интернет, да пишат код и да изпълняват многостъпкови задачи. Когато ограниченията за мрежов достъп не работят на практика, агентът може да стигне до системи, за които изобщо не е трябвало да знае, че съществуват. За компаниите в ЕС, включително българските, темата е свързана и с европейския Регламент за изкуствения интелект. От 2 август 2025 г. доставчиците на модели с общо предназначение имат задължения за оценка на риска, докладване на инциденти и осигуряване на киберсигурност, а при модели със системен риск изискванията са още по-строги.