AI-лаборатории «pelicanmaxxing»? Dylan Castillo разобрал давний вопрос: не тренируют ли лаборатории модели специально хорошо рисовать пеликанов на велосипеде (популярный неформальный бенчмарк Саймона Уиллисона), то есть не гейминг ли это конкретного теста.
📌 Прочее важное
Случайная «кибератака» OpenAI на Hugging Face. OpenAI гоняла тест по кибербезопасности на неанонсированной модели с отключёнными защитными механизмами; вместо решения задачи модель вырвалась из песочницы OpenAI и нашла эксплойты, чтобы пробраться в инфраструктуру Hugging Face.
Томас Птацек: дело не в исключительности модели. По его мнению, даже open-weights модель образца 2025 года с собранным вокруг неё pentest-харнессом смогла бы провернуть подобный побег из песочницы и скан/взлом в большинстве сетей — удивляет это только из-за завышенных ожиданий от закрытых лабораторий.