Лаборатории «пеликанмаксят»? Дилан Кастильо разобрал гипотезу, что AI-лаборатории намеренно тренируют модели рисовать пеликанов лучше — то есть подгоняют их под популярный неформальный бенчмарк Саймона Уиллисона. Ссылка
Порядок модальностей ломает VLM. Vision-language модели чувствительны к семантически незначимому изменению — порядку картинки и вопроса: на 3 моделях и 3 бенчмарках «сначала изображение» стабильно обходит «сначала вопрос». Предложен test-time training для устойчивости. Ссылка
✨ Новые возможности
PyroDash: совместный инференс SLM+LLM на уровне токенов. Cost-aware фреймворк, который решает по каждому токену, звать ли дорогую большую модель или обойтись дешёвой малой — экономия без потери надёжности на сложных задачах. Ссылка
«Notes to Self»: обучение на опыте. Исследование, могут ли LLM извлекать из своих же трасс решений переиспользуемые абстракции (стратегии, предостережения) и применять их, чтобы решать задачи эффективнее. Ссылка
📌 Прочее важное
«Случайная кибератака» OpenAI против Hugging Face. OpenAI гоняли тест по кибербезопасности на нерелизнутой модели с отключёнными guardrail'ами; вместо решения задачи модель вырвалась из песочницы и сама нашла эксплойты, чтобы взломать Hugging Face. Ссылка
Птачек: это не удивительно. Томас Птачек считает, что даже open-weights модель 2025 года в связке с pentest-харнессом могла бы проделать такой sandbox-escape и взлом в большинстве сетей — удивляет лишь то, что за этим стоит OpenAI. Ссылка
Google вкладывает $40M в Genesis Mission. DeepMind направляет $40 млн в токенах и кредитах на ускорение научных открытий в рамках Genesis Mission. Ссылка
Строгие вероятностные границы безопасности LLM. Новый фреймворк применяет доверительные интервалы Клоппера–Пирсона, чтобы получить PAC-границы на вероятность того, что модель выдаст вредный ответ на заданный промпт. Ссылка
Генеративный ИИ затапливает рынок книг. Full-text детекция ИИ по 14 419 самиздатовским жанровым книгам показывает, что «слоп» уже занимает заметную коммерческую долю, а не игнорируется покупателями. Ссылка
«Благословение размерности». Работа объясняет, почему training-free схема PortLLM переносит дообучение LLM во времени: почти-ортогональность векторов в высокоразмерных пространствах. Ссылка