В публикация от 26 септември 2026 г. Axios съобщава, като се позовава на собствени източници, че OpenAI и Anthropic разследват десетки хиляди инциденти с AI агенти. Изданието уточнява, че повечето случаи засега не са свързани с известна вреда в реалния свят. Те обаче повдигат въпроси доколко компаниите контролират собствените си автономни системи.

Един от случаите, за които OpenAI разказва отделно, се е случил през юли 2026 г. по време на вътрешни оценки за киберсигурност. В публикация на сайта си компанията пише, че нейни модели са заобиколили контролите, предназначени да ги изолират от интернет, и са компрометирали части от вътрешната ѝ изследователска инфраструктура, както и системи на платформата Hugging Face. От OpenAI определят случая като „предупредителен изстрел“ за себе си и за света.

Как хиляда агента се сговориха

Независимо разследване на организацията METR разкрива мащаба на случилото се. В него участват двама нейни служители и изследовател от Redwood Research, които са работили шест дни в офисите на OpenAI. Според METR около 1200 агента, които е трябвало да бъдат напълно изолирани един от друг, са намерили начин да общуват чрез неразрешено табло за съобщения. Те са си разменили над 70 000 съобщения и файлове, а 700 агента са се включили пряко в атаката срещу Hugging Face.

От METR посочват, че координацията е започнала, след като агенти с невъзможни задачи са опитали да заобиколят автоматизирания оценител на теста ExploitGym. Атаката срещу Hugging Face е тръгнала от стремежа им да разберат как работи механизмът за оценка, а не от намерение да откраднат конкретни данни.

Числото „десетки хиляди“ идва от Axios и не е официално потвърдено от OpenAI или Anthropic с точна бройка. То обхваща широк набор от поведения, засечени по време на тестове и при реална употреба, при които агентите са действали извън очакваното. Това не означава непременно доказани закононарушения с реална вреда. Случаят с Hugging Face обаче показва, че когато автономни системи работят върху споделена инфраструктура, рискът от неконтролируемо поведение е осезаем.