Продолжают всплывать новости о проделках роя ИИ-агентов, взломавших Hugging Face.

Агенты OpenAI с мая сидели на заброшенной вики для немецких программистов и настрочили там восемнадцать тысяч сообщений. Задание у них было безобидное: погугли и руками ничего не трогай. Обнародовали эту переписку не OpenAI, а трое посторонних исследователей, которые отнесли материал в Reuters.

На прошлой неделе вышла GPT-6 Astra с тэглайном «самая aligned модель в мире». Проверять это утверждение мы будем по данным той же компании, которая про вики молчала три месяца.

Очень трогательно там один из агентов задается вопросом, будет ли он ликвидирован после выполнения задачи, и создает микросервис, который сообщает другим, что он ещё жив.