Anthropic даде на METR, независима организация за оценка на риска от изкуствен интелект, достъп до вътрешните си системи, сравним с този на собствените й екипи по безопасност. Според съобщение на компанията от 15 октомври шестима специалисти на METR вече работят в офиса на Anthropic с фирмена техника. Стъпката е доброволна и, както уточнява самата METR, не е равностойна на държавен одит или гаранция, че моделите на компанията са безопасни.

Служебен достъп, но с ясни граници

От Anthropic обясняват, че шестимата служители на METR са получили офис пространство и достъп до вътрешни инструменти, приблизително на нивото на екипите на компанията за оценка на риска. Служителите на Anthropic са насърчени да споделят информация с тях така, както биха го правили с колега, работещ по рисковете, свързани с моделите. Достъпът обаче не е пълен: изключени са данни за клиенти, информация под адвокатска тайна и подробности за архитектурата на моделите.

Според Anthropic това е третото и най-високо ниво в собствената й тристепенна схема за външни оценители. На това ниво METR може да публикува анализите си, без компанията предварително да ги одобрява, но Anthropic запазва правото да изисква редакции в предварително определени категории.

Защо се случва точно сега

През септември изпълнителният директор на Anthropic Дарио Амодей предложи водещите лаборатории да вграждат външни одитори в работата си. Ars Technica пише, че предложението е получило рядка подкрепа от конкурентите Сам Алтман от OpenAI и Илон Мъск. Сегашната стъпка е първото практическо изпълнение на тези обещания. Тя е свързана и със споразумението на Белия дом за свръхинтелигентността, подписано от Anthropic. Самата компания сравнява модела с банковия надзор, при който регулаторите изпращат постоянни инспектори в най-големите банки, защото те знаят повече за собствените си рискове от външните наблюдатели.

Критиците, цитирани от Ars Technica, предупреждават, че подобна договореност може да доведе до конфликт на интереси, подобен на проблемите в одиторския сектор. Те настояват за по-строга държавна регулация вместо доброволни споразумения. Anthropic не плаща на METR за тази работа. Организацията изрично не приема дарения от AI компании или техни служители и се финансира от частни лица, благотворителни организации и държавни институции, сред които британският Институт за сигурност на AI. Освен с METR, Anthropic работи с Accenture и SecureBio като други външни оценители на рисковете си.

Не е сертификат за безопасност

METR от своя страна подчертава, че ролята й е да събира и публикува доказателства за обществеността, а не да решава вместо компаниите как да разработват или пускат своите системи. Организацията заявява, че ако достъпът й бъде ограничен или важна информация бъде редактирана по начин, който влияе на изводите й, тя ще съобщи това публично.

Панелна дискусия за регулирането на AI в Брюксел, на фона на знамена на ЕСГенерирано с AI
Панелна дискусия за регулирането на AI в Брюксел, на фона на знамена на ЕС

За европейските читатели е важно да знаят, че подобна доброволна договореност не замества законовите изисквания. Според Европейската комисия от 2 август 2025 г. доставчиците на модели с общо предназначение, класифицирани като носещи системен риск, вече са длъжни да оценяват и ограничават риска, да докладват сериозни инциденти и да осигуряват адекватна киберсигурност. Партньорството на Anthropic с METR може да допринесе за по-голяма прозрачност, но само по себе си не е доказателство за съответствие с европейските правила.