Редакция Интелектуално
Главният изпълнителен директор на Microsoft Сатя Надела публикува на 10 октомври текст, в който призовава компаниите да вграждат „аварийна спирачка“ в системите с напреднал изкуствен интелект. Това е механизъм, който позволява на оторизиран служител да спре AI модел по средата на задача. Призивът му не е да се спре разработването на изкуствен интелект, а организациите да не прехвърлят изцяло отговорността за действията на моделите върху техните създатели.
Модел, третиран като „вътрешен риск“
В публикация в личния си блог Надела предлага мощните модели, независимо дали са затворени или с отворени тегла, да се управляват като потенциален вътрешен риск за организацията. Не защото непременно са злонамерени, а защото всеки достатъчно способен участник с достъп до важни системи може да допусне грешка или да бъде компрометиран, пише той.
Според Надела контролът над това до какво има достъп моделът и какви действия може да извършва трябва да е извън самия модел. Той предлага моделът да бъде отделен от софтуерната среда, която координира работата му, както и от набора разрешени действия. Всяко значимо действие трябва да оставя защитено срещу подправяне и четимо за човек доказателство.
Генерирано с AIКакво означава за ЕС и България
Централната идея в текста на Надела е сравнението с аварийна спирачка: оторизиран човек трябва винаги да може временно да спре или да изключи модела, докато той изпълнява задача. Това пише Надела в публикацията, цитирана и от TechCrunch. По думите му трябва по подразбиране да се приема, че моделът е компрометиран, а системата да го ограничава от самото начало.
Според TechCrunch изявлението на Надела идва след като водещи AI компании признават все повече случаи, в които са губили контрол над свои модели, както и след като изпълнителният директор на Anthropic Дарио Амодей публикува собствен план за по-предпазливо развитие на изкуствения интелект.
Какво означава за ЕС и България
Темата не е чужда и за европейския контекст. Регламентът на ЕС за изкуствения интелект, AI Act, вече предвижда човешки надзор над високорисковите AI системи, а задълженията за доставчиците на модели с общо предназначение важат от 2 август 2025 г., посочва Европейската комисия. От 2 август 2026 г. Комисията и националните органи в държавите членки ще имат правомощия да прилагат регламента, включително спрямо подобни модели.
Конкретните правила за високорисковите случаи по така наречения Annex III обаче влизат в сила едва на 2 декември 2027 г., а за AI, вграден в регулирани продукти, срокът е 2 август 2028 г. Това означава, че идеята на Надела за външен човешки контрол засега не е законово задължение за всяка AI система в ЕС, но е близка до посоката, заложена в европейската рамка.
