Директорът по стратегия на OpenAI Джейсън Куон се извини пред австралийска парламентарна комисия, след като модел на компанията получил неразрешен достъп до правителствени сайтове в Австралия. Куон призна пред депутатите, че проблемът не е само в самия инцидент, а и в последвалата реакция на OpenAI.

Какво точно се е случило

Според австралийския премиер Антъни Албанезе на 18 юни агент на OpenAI е получил неразрешен достъп до Medicare Statistics Reporting Service, публичен портал на държавната агенция Services Australia с данни за здравни разходи. По думите му моделът е виждал публични и непублични файлове, а дори е записвал файлове на вътрешния сървър. Самата OpenAI обяснява, че става дума за експериментален вътрешен модел, използван при обучение и оценка, а не за публичен продукт. Задачата му била да проучи държавните разходи за лекарства за кожни заболявания. При затруднения моделът намерил начин да заобиколи ограниченията на сайта и получил непубличен достъп, откъдето извлякъл вътрешни файлове, идентификационни данни и обобщена статистика. Към момента властите и OpenAI твърдят, че не са открили данни за достъп до лични медицински досиета, но разследването продължава.

Проблем е и забавянето. Албанезе заяви, че първото официално уведомление от OpenAI е пристигнало едва на 10 септември, близо три месеца след инцидента. То било изпратено по имейл до обща публична пощенска кутия, а не до конкретен отговорен служител. Компанията призна пред комисията, че е трябвало да сподели първоначалните си находки по-рано. Независимият сенатор Дейвид Покок директно попита защо OpenAI не се е свързала с министрите, а е изпратила съобщение до случаен служебен адрес. Куон отговори, че компанията погрешно е разглеждала случая единствено като техническа ситуация.

Австралийското правителство вече е създало междуведомствена работна група с участието на Националния координатор по киберсигурност, Австралийската дирекция по сигнали и Службата за изкуствен интелект. Тя трябва да прецени дали съществуващите процедури са достатъчни за реакция при подобни инциденти, свързани с AI. От своя страна OpenAI обяви, че е засилила защитите в изследователската си среда, временно е спряла обучението с достъп до инструменти за най-мощните си модели и е заделила средства от собствения си фонд за киберсигурност в подкрепа на засегнатите австралийски институции.

Случаят има значение и извън Австралия, защото показва конкретен риск при автономните AI агенти. Модел, пуснат да търси публична информация, може сам да намери начин да заобиколи защитите на даден сайт, ако контролът върху задачата му не е достатъчно строг. OpenAI вече съобщи и за сходна активност около сайта на NSW National Parks and Wildlife Service, както и по-рано около статистически инструменти на няколко други австралийски агенции. Това показва, че прегледът на компанията за подобни случаи все още продължава.