Три от най-влиятелните компании в изкуствения интелект обмислят собствен орган за стандарти за безопасност, вместо да чакат допълнителна намеса от американските власти. Пред журналисти на 15 септември ръководителят на глобалната политика на OpenAI Крис Лихейн потвърди, че компанията от седмици разговаря с Anthropic и Google DeepMind по темата, пише TechCrunch. Ако идеята се материализира, тя ще бъде опит трите лаборатории сами да определят какви проверки трябва да преминава един модел, преди да стигне до потребителите.

Разговорите се развиват на фона на по-широк дебат за темпото, с което се пускат нови модели. В края на миналата седмица изпълнителният директор на Anthropic Дарио Амодей публикува есе с призив индустрията да забави разработката на най-мощните системи, за да се избегнат катастрофални рискове. Позицията му получи публична подкрепа от Сам Алтман от OpenAI, Демис Хасабис от Google DeepMind и Илон Мъск. TechCrunch пише, че Алтман е обявил, че OpenAI ще последва Anthropic и ще допусне независими оценители в компанията, които да наблюдават безопасността.

Самостоятелно решение след провален план за надзор

Според по-ранно съобщение на TechRepublic, позоваващо се на изданието The Information, идеята за общ орган идва след провал на друг обсъждан по-рано вариант: публично-частно партньорство под надзора на федералните власти в САЩ. Проект за изпълнителна заповед на Белия дом по темата не получил достатъчна подкрепа в администрацията на президента Доналд Тръмп. Тръмп многократно се е противопоставял на по-строги правила с довода, че те биха коствали на страната технологичното предимство пред Китай.

Лихейн заяви, че компаниите не възнамеряват да искат специално одобрение от властите, за да си сътрудничат по безопасността. Алтман обаче по-рано е предупреждавал за риск от нарушаване на антитръстовото законодателство при подобна координация между конкуренти. В есето си Амодей предложи тясно изключение от закона, което да позволи легално сътрудничество, но TechCrunch пише, че според Лихейн компаниите не смятат, че имат нужда от такова.

Работно име SAFA, все още без официално потвърждение

Изданието The Information съобщи, а TechRepublic препредаде новината, че Google, OpenAI и Anthropic са близо до създаването на самостоятелен, доброволен орган с работно име Standards Authority for Frontier AI (SAFA). Според тази информация коалицията може да заработи в края на 2026 г. или началото на 2027 г. и да разработи подходи за проверки преди пускане на нови модели, докладване на инциденти и изисквания към одиторите. За поста изпълнителен директор се обмислят бившият съветник по политика за ИИ в Белия дом Срирам Кришнан и бившата ръководителка на научната политика Арати Прабхакар, а за председател на борда се обсъжда бившият държавен секретар Кондолиза Райс. Нито едно от тези имена или подробности не е потвърдено официално от трите компании, а правомощията на бъдещия орган остават неизвестни.

Празна заседателна зала, в която биха се обсъждали бъдещи стандарти за безопасност на изкуствения интелект.Генерирано с AI
Празна заседателна зала, в която биха се обсъждали бъдещи стандарти за безопасност на изкуствения интелект.

Не е първи опит за самоуправление

Идеята за общ орган не е нова за сектора. През юли 2023 г. Google, Anthropic и OpenAI, заедно с Microsoft, обявиха създаването на Frontier Model Forum, индустриална структура, която пое ангажимент да проучва рисковете, да събира добри практики и да улеснява обмена на информация между компании и регулатори. Новата инициатива, ако бъде учредена, би представлявала по-конкретен опит за общи стандарти и евентуални одити, а не просто платформа за дискусии.

За бизнеса и обикновените потребители засега няма практическа промяна. Няма обявени задължителни тестове, сертификат или нови условия за използване на ChatGPT, Gemini или Claude. Идеята за доброволен орган не гарантира независима проверка на моделите, щом самите разработчици участват в изготвянето на критериите. ИТ екипите биха имали полза, ако бъдещият орган публикува ясни критерии за одит, с които да сравняват доставчиците. Дори тогава обаче ще трябва сами да проверяват контрола на достъп, обработката на данни и реда за докладване на инциденти при всеки конкретен модел.

За България и останалата част от Европейския съюз подобен американски доброволен орган не би заменил вече действащите правила. Задълженията по европейския Регламент за изкуствения интелект към доставчиците на модели с общо предназначение вече се прилагат, а моделите с най-голям обхват имат и допълнителни изисквания за безопасност и сигурност, включително уведомяване на Европейската комисия. Това съобщава самата институция. С други думи, дори OpenAI, Google и Anthropic да изградят собствен стандарт отвъд Атлантика, той ще съществува успоредно с европейските задължения, а не вместо тях.