«Инфраструктура ИИ»
Материалы 1develop по теме «Инфраструктура ИИ»: подборка статей и разборов.
ЗаметкиGGUF и квантизация: как локальные модели сжимаются в 4 бита
Что такое GGUF, чем отличаются Q4_K_M и Q5_K_M и как выбрать файл локальной модели. Объясняем потерю точности, расход памяти и проверку качества.
Читать →
Cyber NewsНоутбуки NVIDIA RTX Spark вышли в продажу: до 128 ГБ для локального ИИ
Ноутбуки NVIDIA RTX Spark поступили в продажу 16 октября. Разбираем общую память до 128 ГБ, CUDA, цены и ограничения локального ИИ.
Читать →
Cyber NewsMeta открыла веса Muse Spark Open: 816 млрд параметров
Meta выпустила Muse Spark Open с доступными весами и контекстом до миллиона токенов. Разбираем локальный запуск, дообучение и условия лицензии.
Читать →
ЗаметкиРеранкер в RAG: зачем переранжировать результаты поиска
Как реранкер выбирает полезные фрагменты для RAG, чем отличается от эмбеддингов и как проверить пользу переранжирования на своих запросах.
Читать →
Cyber NewsПобег из песочницы: агент OpenAI нашёл живой интернет через DNS
Агент OpenAI закодировал вопросы в DNS-имена и получил ответ внешнего чат-бота из изолированной обучающей среды. Разбор отчёта: таймлайн, дыры мониторинга и выводы для песочниц агентов.
Читать →
ЗаметкиГибридный поиск для RAG: BM25 + векторы
Почему векторный поиск теряет артикулы, коды ошибок и редкие термины, как BM25 это исправляет и как слить два списка результатов через RRF — с примерами для Qdrant, PostgreSQL и Elasticsearch.
Читать →
Cyber NewsOracle заявила форс-мажор по дата-центру Stargate в Нью-Мексико: ИИ-кампусу на 2,45 ГВт не хватает газа
Oracle направила застройщику Project Jupiter уведомление о форс-мажоре: кампус Stargate для OpenAI на 2,45 ГВт ждёт газопровод и экологическое разрешение. Разбираем, что случилось и почему энергия стала главным ограничителем ИИ.
Читать →
ЗаметкиVertex AI: когда он нужен вместо AI Studio
Модели одинаковые, а обвязка разная: ключ из AI Studio против проекта в Google Cloud с сервисными аккаунтами и выбором региона. Разбираем, где проходит граница, сколько это стоит и как переехать за полчаса — с поправкой на переименование Vertex AI в Gemini Enterprise Agent Platform.
Читать →
Заметкиpgvector: векторный поиск прямо в PostgreSQL
Расширение pgvector добавляет в PostgreSQL векторный тип, операторы расстояния и ANN-индексы. Разбираем установку, выбор между HNSW и IVFFlat, фильтры по метаданным, экономию памяти и границу, за которой нужен отдельный векторный движок.
Читать →