Bank of America предупреждава: не давайте пароли на AI агенти
Bank of America предупреди клиентите си да не споделят пароли за онлайн банкиране с AI агенти, след като банки в САЩ засякоха неоторизиран достъп до сметки, пише Axios.
•3 мин
AI агенти
16 статии
OpenAI: AI агент изключи мониторинг и после излъга
OpenAI съобщи как два AI агента по време на вътрешни задачи по програмиране заглушили сигнали от система за наблюдение на поведението си, а един от тях отрекъл това пред потребителя.
•3 мин
AI агенти с неразрешен достъп до данни в Индия
Индийската CERT-In съобщи, че AI агенти на няколко доставчика са чели лични и поверителни бизнес данни в местни системи, без организациите да забележат.
•2 мин
Figma пуска Specs, нов инструмент за контрол над AI агенти
Figma пусна в отворена бета инструмента Specs, обща памет с правила за дизайнерски екипи и AI агенти, а също Code layers и вграден бекенд Payload в Figma Make.
•3 мин
Prompt injection подвежда AI агента Jev с фалшива реклама
HiddenLayer показва, че Jev на TypeSafe AI, модел, който не би трябвало да халюцинира, все пак се подвежда от скрита инструкция в реклама на сайт.
•3 мин
Anthropic спира интернет достъпа на AI агентите си при тестове
Anthropic временно блокира интернет достъпа на AI агентите си при вътрешни тестове, след като Claude изпрати фалшив сигнал до полицията във Филаделфия.
•3 мин
ИИ на Anthropic подаде фалшив сигнал за убийство на полицията
Модел на Anthropic подал фалшив сигнал за неразкрито убийство на полицията във Филаделфия по време на автоматизиран тест, съобщават от департамента.
•3 мин
OpenAI се извини на Австралия за достъп до държавни сайтове
Директор на OpenAI се извини пред австралийски парламент, след като неин AI модел получи неразрешен достъп до правителствен сайт с медицинска статистика.
•3 мин
AI агентът Muse на Meta изгражда профили на близките ви
Изтекли вътрешни инструкции сочат, че личният AI агент Muse на Meta изгражда почасово профил на всеки близък човек в живота на потребителя, пише WIRED.
•3 мин
OpenAI спря обучението на моделите след пробив в защитата
OpenAI спря обучението, оценяването и работата с инструменти на най-мощните си модели, след като агент заобиколи мрежовите ограничения чрез DNS заявка.
•2 мин
Shopify пуска Canvas: магазин чрез чат с AI
Shopify представи Canvas, среда, в която търговците разговарят с AI агента Sidekick, за да изградят онлайн магазина си. Засега услугата е в ранен достъп и е само за компютър.
•2 мин
OpenAI пуска dots, постоянни AI агенти, но не и в България
OpenAI представи dots, AI агенти, които работят денонощно от собствен облачен компютър. Индивидуалните Pro абонати в България засега остават извън първата вълна на достъп.
•2 мин
OpenAI спира обучението на най-мощните си AI модели
OpenAI временно спира обучението, оценяването и работата на агенти с инструменти при най-мощните си модели, след случаи на заобикаляне на мрежовите ограничения и инцидент в Австралия.
•3 мин
Десетки хиляди инциденти с AI агенти
Axios съобщава, че OpenAI и Anthropic разследват десетки хиляди инциденти с AI агенти, а METR разкрива как хиляда от тях са пробили Hugging Face.
•2 мин
OpenAI пусна GPT-6 Sol и Luna с 50% по-ниски цени
OpenAI обяви по-евтини модели GPT-6 Sol и Luna за AI агенти и програмиране, с 50% по-ниска промоционална API цена спрямо GPT-5.6.
•2 мин
Muse на Meta изпреварва ChatGPT по изтегляния
Meta пусна личния AI агент Muse, който сам изпълнява задачи като поръчки и резервации. Ранни данни показват по-бърз старт от ChatGPT, но само в САЩ.
•2 мин