В какой‑то момент я посмотрел на 13 ГБ весов LLaMA-7B и подумал: а почему, собственно, они должны занимать именно столько? Что, если не делать маленькую модель, не учить её заново и не заставлять копировать большую, а просто найти более короткую запись тех же «мозгов»?
Здравый человек, вероятно, скачал бы готовую квантизацию и пошёл заниматься своими делами. Я вместо этого поставил цель ужать модель сначала до 2 ГБ, а в идеале — до одного. Без дообучения, дистилляции, pruning и изменения архитектуры. Только математика над уже готовыми весами и небольшая выборка текстов для калибровки.
Так появился PCST — домашний исследовательский проект, который довольно быстро превратился в длинный сериал. В нём уже больше 60 проверенных методов, сотни конфигураций, несколько версий модели, один очень неприятный системный баг и приличная коллекция идей, которые выглядели прекрасно ровно до тех пор, пока я не запускал модель целиком.
Спойлер: одного гигабайта и качества Q8 я не получил. Текущий артефакт занимает 2.05 GiB и пока проигрывает обычной Q3_K_M и по качеству, и по скорости. Зато я наткнулся на вещь, которая оказалась интереснее очередной красивой цифры: можно заметно улучшить восстановление отдельных весов и одновременно сделать всю модель глупее.
Ниже — история о том, куда исчезают локальные улучшения, почему методы из картинок почти бесполезны для сырых весов и как одна ошибка с transpose заставила пересмотреть большую часть уже полученных результатов.
Читать далее30 августа делал security-ревью собственной инфраструктуры и решил проверить один служебный маршрут вручную, вместо того чтобы верить, что раз он «внутренний», значит закрыт. Обычный curl с ноутбука:
Читать далееПривет, Хабр! Я Елена Журавлева, системный аналитик в Т-Банке в команде импортозамещения АБС. Внедрять новые платежные методы в условиях санкций и одновременно менять ядро АБС — вызов для любой команды. Расскажу, как профессия стала инфраструктурой и как эта инфраструктура помогает аналитику менять проекты, не теряя в перформансе.
Моя история — часть проекта «20 в 20» в честь 20-летия компании: 20 специалистов из 20 городов делятся своими историями в серии статей, чтобы показать ИТ-хабы в разных городах и рассказать о людях, которые в них выросли.
Читать далееВ этой небольшой заметке хотелось бы познакомить читателя с основными принципами написания osl-шэйдеров. Конечно, познакомить коротко с тем, что это такое, чем отличается от glsl-шэйдеров. Мы не будем разбирать синтаксис, который можно посмотреть в официальной документации. Я предлагаю понять основные принципы, написав несколько (ровно четыре) примеров шэйдеров для решения разных задач. Прямо вот так, пишем - и разбираемся, что это всё значит.
И ещё, прежде чем переходить к делу, отмечу, что текст статьи полностью авторский. Редко сейчас такое встретишь. Но никаких этих ваших искусственных интеллектов ни на какой стадии написании статьи не использовалось. Ни для редактуры, ни для, прости-господи, генерации. Так что все ошибки наши - человеческие. А не бездушной машины. Может быть это единственное достоинство статьи. Ну, уж какое есть. Что-то у меня AI-дисклеймер большой получился...
Читать далееОдин SVG: при 640 пикселях QR не читается, при 320 читается. Разбираю, как локатор принял часть подписи за угол кода, почему удаление букв возвращало чтение и как удалось оставить подпись на месте. С контрольными опытами и исходниками.
Читать далееРаз в неделю падает один и тот же сервис. Админ его перезапускает, пользователи возвращаются к работе, инцидент закрывают. Через несколько месяцев авария превращается рутину, и так продолжается годами. Управление проблемами — problem management — начинается в тот момент, когда кто-то все-таки спрашивает: «Почему это повторяется?». Для сервисного провайдера это логичное продолжение управления инцидентами. Обычно мы сами инициируем разбор, как только серия однотипных происшествий перестает выглядеть случайностью. Но если ты аутсорсер, то найти root cause — это только полдела. Дальше нужно понять, что с ней делать. Причина может оказаться в продукте вендора, легаси заказчика или системе другого подрядчика — то есть там, где инженер внешней техподдержки не может просто взять и исправить ее. Но и тогда можно попробовать договориться и исправить ее. Об этом сегодня и пойдет речь.
Меня зовут Наталия Сляднева и я руковожу Центром экспертизы по комплексному сервису К2Тех. Под катом — два расследования с разными финалами и третий случай, в котором проблему осознанно не стали решать. Иногда это самый рациональный вариант.
Читать далееСайт на 1С-Битрикс может месяцами работать вроде нормально, пока подключения к базе подбираются к 95%, диск незаметно заполняется логами, бэкап давно не запускался, а в логах копится одна и та же ошибка, на которую никто не смотрит.
Разбираем пять инфраструктурных причин, из-за которых Битрикс-проекты тормозят и падают: база данных, диск, PHP и веб-сервер, резервные копии, мониторинг. В каждом разделе есть простая проверка, которую можно провести у себя за 10 минут.
Читать далееКаждый год несколько мобильных жанров коронуются как «следующий прорыв» (следующий хит). Гиперказуальные раннеры, клоны королевских битв, айдл-тайкуны — все они получают свою минуту хайпа, за которой следуют насыщение рынка и сокращение маржинальности для всех, кто пришел слишком поздно. Но есть один жанр, который тихо продолжает приносить стабильные загрузки, сильное сессионное время и удерживать лояльных игроков из года в год, никогда не проходя через цикл резкого взлета и падения: цифровые настольные игры.
Читать далееПривет! Я Андрей Иванов, NLP-исследователь в R&D-лаборатории red_mad_robot.
Персональные данные попадают в языковые модели постоянно. Отдельные пользователи и компании отправляют модели рабочие тексты, и вместе с ними уходят имена, телефоны, номера документов и другие чувствительные данные.
Чтобы избежать рисков утечек, компании разрабатывают целые системы маскировки персональных данных, которые передают модели уже обезличенные тексты. Но у такого процесса тоже есть свои минусы: защита данных ломает рабочие сценарии, ведь модель возвращает точно такие же обезличенные тексты.
Поэтому в последнее время запрос к системам маскировки изменился. Теперь они должны уметь не только скрывать данные, но и подставлять их обратно в ответы модели, которая работала с обезличенным текстом. В этой статье я расскажу, как мы строили такую систему и какими путями шли к ней — результаты работы лежат в репозитории. В конце покажу метрики на датасетах и сравню с другими открытыми решениями.
Читать далееВсем привет, меня зовут Алина, я работаю системным аналитиком. Я не программист. Но в какой‑то момент на нашем проекте передо мной встала задача, которую вручную невозможно было решить в разумные сроки. Пришлось взять в руки VBA‑скрипты, нейросеть, немного упрямства и находчивости. Но обо всём по порядку.
Погрузиться в пучину моего безумияИИ‑агенты получают доступ к данным и инструментам, но вместе с автономностью появляются новые риски. Разбираем, как работают атаки на агентные системы — от промпт‑инъекций до отравления данных — и какие подходы помогают защитить ИИ‑системы.
Разобрать угрозыМежду покупателем и продавцом в карточном платеже стоят четверо: банк-эмитент, платёжная система, банк-эквайер и процессор с агрегатором. Обмануть покупателя может только продавец. Но подключить продавца к инфраструктуре может только посредник — и вопрос, отвечает ли он за это подключение, до сентября этого года внятного ответа не имел нигде.
4 сентября 2026 года Федеральная торговая комиссия США объявила о мировом соглашении с Nuvei, одним из крупнейших мировых платёжных процессоров. Компания выплатит 4,85 млн долларов и перестроит процедуры проверки подключаемых магазинов.
Сумма для компании такого размера символическая. Интересно другое: впервые внятно сформулировано, за что отвечает посредник, который сам ничего покупателю не продавал.
Читать далееПолгода назад я начал писать сжатую файловую систему для macOS. Идея была довольно простой. В macOS уже существует decmpfs — встроенный механизм прозрачного сжатия файлов. Приложение продолжает видеть обычный файл, хотя физически его содержимое может храниться в сжатом виде. Но у этого подхода есть неприятное для моей задачи свойство: после изменения файла сжатие может исчезнуть.
Например, можно сжать node_modules, получить приличную экономию места, потом запустить сборку — часть файлов перезапишется, распакуется, и каталог постепенно снова начнёт занимать почти исходный объём. Мне хотелось другого поведения: если файл лежит на сжатом диске, он должен оставаться сжатым независимо от того, сколько раз его переписывали.
Читать далееЯ пользуюсь TorrServer на Mac и хотел избавиться от постоянных переходов между Терминалом, Web UI и плеером. Так появился TorrServe Silicon — нативное open-source приложение на SwiftUI для Apple Silicon. В статье рассказываю, почему выбрал прямую работу с API вместо WebView, как устроены библиотека, метаданные, поиск через Jackett, запуск внешних плееров и управление сервером из строки меню.
Читать далееПосле ковида многие перешли на удаленку, а у удаленщиков таких точек контакта почти нет. Можно ежедневно видеть коллегу в Teams, годами обсуждать архитектуру микросервисов, запускать совместные проекты и иронизировать над статусами в Jira. Между тем за 5 лет совместных проектов так и не узнать, что один коллега объездил половину Азии, а другой за две секунды угадывает любой трек из 90-х. У нас так и было. Люди работали рядом, но друг друга не видели.
Вот мы и решили это исправить.
Читать далееВо времена, когда Nokia владела Qt, инженеры были отважнее. Они разработали и релизнули QMediaPlayer в Qt5Multimedia для проигрывания медиа файлов на основе подгружаемых плагинов. Архитектура позволяла сначала выпустить API, а реализацию конкретного бекенда добавить позже. Поэтому API уже существовал даже там, где полноценного воспроизведения видео ещё не было.
С учётом того, что публичный API нельзя изменить или удалить в мажорной версии, кто готов проделать такое еще раз?
Этот подход породил интерфейсы, часть функционала которых не так работала или полностью отсутствовала на некоторых платформах.
Читать далееВсем привет! Меня зовут Сергей Бобров aka BlackFan. Я работаю в Лаборатории Касперского, занимаюсь анализом защищенности мобильных и веб-приложений, участвую в пентестах и редтимах. В свободное время я также разрабатываю собственные инструменты, занимаюсь исследованиями в области безопасности и ищу баги на платформе Standoff Bug Bounty. Сегодня мы разберем на практике мисконфигурации, связанные с объектным хранилищем S3, и углубимся в проблемы, возникающие при его интеграции в веб-приложения через прокси (например, nginx). В основе статьи — 10 лабораторных стендов, каждый из которых поясняет различные уязвимости интеграции: от классической хранимой XSS и подмены бакетов до обхода правила rewrite и отравления кэша.
Читать далееИстория ретинола — это путь от древних эмпирических наблюдений до хорошо изученного инструмента косметологии, подтверждённого тоннами клинических исследований. Мы не раз и не два писали о пользе этого актива, но ретинол так интересен и многогранен, что не грех и повторить.
Читать далееПредставьте ситуацию, вы вкладываетесь в рекламу и вроде приводите заявки, но часть из них всё равно теряется. Ваши менеджеры не всегда отвечают вовремя, забывают вернуться к клиенту иногда или вообще не фиксируют договорённости после звонка, и от этого вы часто в базе видите такую пометку "клиент думает". От этого сложно понять, где срезается конверсия по продажам и насколько хорошо менеджеры.
Я и моя команда с 2019 года помогаем компаниям выстраивать и автоматизировать продажи в amoCRM. За это время реализовали более 500 внедрений и видим, какие задачи отдела продаж сегодня имеет смысл отдавать ИИшке.
Я собрал со своего опыта семь практических сценариев (мы их внедряем и себе и клиентам) от мгновенного ответа на новую заявку и разбора звонков до автоматического follow-up и возвращения сделок в работу, которые зависли.
Читать далееOpenAI представила новую функцию Set up writing style, которая изучает, как вы пишете в гугловских документах, а затем переносит ваш стиль, манеру речи, формулировки и форматирование текста в черновик.
Само собой, ChatGPT не напишет сиквел Евгения Онегина, но подачу и структуру ИИ повторит лучше, чем по обычному запросу аля пиши в моем стиле.
Читать далее