Feed aggregator

Свой инференс для 25 разработчиков: 452:1, KV‑пул и почему это не экономит денег

Habr.com - Sat, 08/22/2026 - 17:05

Для тех, кто держит или собирается держать LLM внутри контура: тимлидов, DevOps, архитекторов. Здесь конфиги, цифры и грабли, а не введение в трансформеры.

Что вы унесёте: историю пяти последовательных конфигураций с тем, что каждая дала и чего стоила; рабочий набор флагов vLLM под одну карту Blackwell; три неочевидных бага и обходы; разбор реального счёта с отношением вход/выход 452:1.

Главный вывод, если дальше читать некогда: на агентской нагрузке кэш префикса решает больше, чем выбор модели, размер карты и всё остальное вместе взятое. Мы шли к этому через четыре промежуточных стенда и потратили лишние месяцы, потому что не понимали, что именно меряем.

Читать далее

Что такое RAGFlow и с чем его едят

Habr.com - Sat, 08/22/2026 - 17:00

Если вы хоть раз пользовались LLM, то почти наверняка сталкивались с двумя ее классическими болячками: галлюцинациями и устаревшими знаниями. А когда дело доходит до рабочих задач, появляется еще одна проблема — как использовать внутренние документы компании, не выкладывая их в открытый доступ. 

В этой статье разберем метод RAG (Retrieval-Augmented Generation) и подробно посмотрим на один из самых интересных open-source инструментов для его реализации — RAGFlow. Попробуем понять, насколько он подходит для внутреннего использования.

Читать далее

Аналитика без cookie: дневной HMAC вместо идентификатора посетителя

Habr.com - Sat, 08/22/2026 - 16:54

Внешний счётчик ставится за пять минут, и обычно этого достаточно. Но у модели «сторонний скрипт с чужого домена» есть технический потолок, и на магазине я в него упёрся: запрос к третьему домену режут блокировщики и антитрекинг браузеров, на объёме включается сэмплирование, cookie тянет за собой баннер согласия (а все, кто его отклонил, выпадают из статистики целиком), и главное – поведение ваших покупателей лежит в чужой системе, рядом с которой нет ваших заказов.

Ниже – как устроен свой cookieless-трекинг в двух проектах на Next.js: интернет-магазин (Next.js 15.5, TypeScript, Prisma 6, PostgreSQL) и маркетплейс услуг (тот же Next.js, но pg без ORM). Код в статье – из работающих проектов, с теми решениями, которые оказались неочевидными, и с теми, которые пришлось переделать.

Сразу оговорка: это не «Метрика – зло». Для контентного сайта внешний счётчик закрывает вопрос целиком. Разговор начинается там, где аналитика – часть продукта.

Читать далее

Современный API Reference в Symfony через Scalar

Habr.com - Sat, 08/22/2026 - 16:38

Работая с PHP, испытываешь постоянную необходимость поддерживать документацию в актуальном состоянии. В последнее время PHP проекты — это API‑first, когда бек на PHP, а фронт собирается отдельно.

Тут у нас два пути:

— Spec‑first, то есть сначала готовится спецификация всех возможных маршрутов с входными/выходными параметрами, ошибками и пр. Часто это YAML‑файл OpenAPI.

— OpenAPI файл генерируется на основе атрибутов и аннотаций в коде.

В первом случае мы делаем то, что прописано в спецификации и имеем возможность сравнить, верно ли у нас всё сделано. Во втором случае у нас всегда актуальная схема (после автоматического обновления).

Хотелось бы легкий, современный UI для отрисовки готового OpenAPI yaml файла для первого типа работы с документацией API.
И, кажется, Scalar для этого отлично подходит, но вот интеграции из коробки у Symfony со Scalar нет. В одном своём проекте у меня подход OpenAPI‑first, то есть сначала спецификация, потом реализация. Мощный NelmioApiDocBundle тянуть в проект не хотелось.

Выбор пал на Scalar. Но одно плохо, нет интеграции. Можно было просто интегрировать своими силами в проекте, но понял, что можно оформить это в виде bundle и в дальнейшем переиспользовать в других проектах.

Читать далее

Почему мы перестали собирать персональную ленту SQL-запросами

Habr.com - Sat, 08/22/2026 - 16:34

Как собрать персональную ленту для миллионов пользователей, когда обычный SQL-запрос с JOIN становится слишком тяжёлым? Рассказываю, как мы заранее собираем ленты, обновляем их через события и храним готовый результат в MongoDB.

Читать далее

Как я решил приоритизацию самых критических уязвимостей и создал Vulnaware

Habr.com - Sat, 08/22/2026 - 16:32

У уязвимостей нет инцидента, нет простоя, нет тикета с горящим SLA. У неё нет ничего, что обычно заставляет IT сервис решать проблему быстрее. Именно поэтому она проигрывает конкуренцию за внимание ровно до того дня, когда становится инцидентом.

В статье я немного расскажу про Vulnaware, как в итоге у меня получился механизм оперативной приоритизации уязвимостей, с дополнительной экспертизой и оповещением SOC 24/7.

Читать далее

Почему не работают сайты в России с VPN и без — VPN, ТСПУ РКН, Сертификаты

Habr.com - Sat, 08/22/2026 - 16:31

Это статья будет в большой степени для обычных пользователей интернета, но так же и для владельцев и разработчиков (в конце будут решения), Вы поймете почему у Вас не открываются определенные легитимные сайты и что делать.

Читать далее

От сковородок до машин: Пьер Карден и его товарные знаки

Habr.com - Sat, 08/22/2026 - 16:23

Пьер Карден — французский модельер итальянского происхождения. В 1957 году он представил первую коллекцию моделей женской одежды, а позже под брендом Pierre Cardin стали продаваться самые разные вещи. О них и о том, как он защищал свою интеллектуальную собственность, в нашем материале.

Читать далее

Как объединить личные AI подписки в единый пул

Habr.com - Sat, 08/22/2026 - 16:19

Представим ситуацию: вы - руководитель средней IT-команды. В наше время у каждого сотрудника, от технического писателя, до архитектора, есть платная подписка на AI-инструменты. Так как это производственная необходимость - компания компенсирует затраты на личные подписки каждому члену команды.

Но у всех сотрудников совершенно разные затраты, и далеко не каждый будет тратить эффективно свою подписку.

Возможно, подписки можно как-то объединить в единый пул? Именно этот вопрос мы будем рассматривать в нашей статье

Читать далее

ora2pg переносит около 80% Oracle‑схемы. А что происходит с оставшимися 20%?

Habr.com - Sat, 08/22/2026 - 15:54

Работаю в конторе, которая обслуживает госзаказчиков, и последние месяцы у меня одна большая головная боль: перевод старой оракловой схемы на Postgres Pro. Контур закрытый, интернета нет, лицензии на Enterprise нет, проприетарной ora2pgpro тоже нет. То есть из автоматики только опенсорсный ora2pg, и всё.

Штука рабочая, кто пользовался, тот знает. По разным оценкам тянет процентов восемьдесят перевода PL/SQL в PL/pgSQL. Для инструмента, который пилят несколько человек в свободное время против СУБД с тридцатилетней историей, это вообще‑то дофига )

Схема не маленькая, под сотню пакетов и триггеров, плюс куча legacy, которое живёт ещё с нулевых. И когда я первый раз прогнал её через ora2pg и увидел зелёный SHOW_REPORT, я на секунду выдохнул. Рано выдохнул, как выяснилось;)

В итоге доканали меня не эти восемьдесят процентов, а оставшиеся двадцать. И не количеством. А тем, что они не падают в момент конвертации, а спокойно ждут, пока код доедет до прода.

Читать далее

Все, что вы не знали о киберпанке. Часть 1

Habr.com - Sat, 08/22/2026 - 15:30

Все, что вы не знали о киберпанке - как появился, что с ним стало и наконец - что он такое на самом деле. Соскучились по авторскому контенту, господа? Сейчас против вашей воли вам предстоит отправиться в небольшую прогулку в историю, чтобы узнать, как один невинный вопрос привел к исследованию длиной несколько лет. Я изучил почти все, что есть в интернете, чтобы разобраться, что такое киберпанк на самом деле, почему аниме не создало и уж точно не убило его и что с ним стало в итоге.

Читать далее

Как коммунист создал монстра капитализма — История Huawei

Habr.com - Sat, 08/22/2026 - 14:56

Целых девять чертовых лет Жэнь Чжэнфэй честно трудился в инженерных войсках Китая, и какое-то время всё, казалось, складывалось как нельзя лучше. Однако в 1983 году, партийное руководство инициировало масштабную военную реорганизацию, и весь строительный инженерный корпус, где он годами строил карьеру, попросту расформировали.

Читать далее

Прошивка Arduino под капотом

Habr.com - Sat, 08/22/2026 - 14:55

В этой статье освещается задача прошивки плат Arduino на базе микроконтроллеров AVR: разбирается низкоуровневые подробности происходящих за этим процессов. Поговорим про теорию, загрузчики, протоколы как со стороны железки, так и со стороны компьютерной прикладной части.

Читать далее

Сеть kubernetes без магии: трассировка пакета на kind + Cilium

Habr.com - Sat, 08/22/2026 - 14:44

Все, кто работал с k8s, знают: что такое CNI, разбираются как его подключить и даже поверхностно могут понимать какой из предлагаемых на «рынке» интерфейсов лучше подходит под определенный кейс. Но между поверхностными абстракциями и пониманием того, что фактически происходит с пакетом пропасть. Пока кластер функционирует стабильно эта пропасть не мешает. Она стреляет, когда начинается полтергейст: пакеты теряются между нодами, latency скачет через раз, NetworkPolicy «отказывается работать», но по всем кажущимся метрикам все зеленое.

Читать далее

В Yandex browser не работает сайт Госуслуг

Habr.com - Sat, 08/22/2026 - 14:40

— ЧТО?!
— Да!

Что за тупой кликбейт Но как так? — спросит читатель. Недоверенный корневой сертификат?

Вордстат в чате с Claude, или как я автоматизировал сбор семантики

Habr.com - Sat, 08/22/2026 - 14:34

Честно скажу, идея подключить вордстат к ИИ ко мне пришла достаточно спонтанно и скорее была вынужденной на тот момент необходимостью – у меня в команде сократили SEO специалиста и этот блок полностью лёг на мои плечи. Помимо всех оптимизаций и задач связанных непосредственно с самим seo тут же был и еще один масштабный пласт, дававший бизнесу много денег – seo блог и глоссарий.

Блог был полностью ориентирован на seo и на получение небрендового трафика и перформил очень хорошо. Для меня это означало то, что теперь мне придется его развивать и поддерживать самостоятельно.

Кто собирал ключи в вордстате знает, что помимо базовых функций есть всевозможные расширения в хроме, с помощью которого ключи можно собирать вместе и потом выгружать, но это все равно требует большого количества времени. Плюс к этому для начала все равно нужно ответить на вопрос "а на какую тему мне вообще собирать ключи?".

Такая вот преамбула. Как вы понимаете, дальше я пошел искать пути для аутсорса этой задачи в клод.

Читать далее

Цена за успешный результат: почему дешёвая модель может обойтись дороже дорогой

Habr.com - Sat, 08/22/2026 - 14:31

Дешёвая LLM легко превращается в дорогую, если агент чаще ошибается, уходит в повторные прогоны и требует внимания инженера.

В статье разберём, как считать стоимость закрытой задачи, учитывать кэш и человеко‑время и почему прайс за миллион токенов почти ничего не говорит об итоговой экономике.

Посчитать стоимость

Замерзание переохлажденной воды в изолированной системе

Habr.com - Sat, 08/22/2026 - 14:31

При охлаждении воды в сосуде без центров кристаллизации можно переохладить воду ниже температуры замерзания. Переохлажденная вода находится в метастабильном состоянии, и поэтому процесс ее перехода в лед является самопроизвольным. Поместим переохлажденную воду для определенности при -2°С (271.15 К) в изолированную систему. В изолированной системе в самопроизвольном процессе энтропия системы должна увеличиться, но в данном случае энтропия переохлажденной воды больше энтропии льда.

Разберем, как в такой ситуации будет происходить замерзание переохлажденной воды.

Читать далее

Как за 5 минут аннигилировать завод

Habr.com - Sat, 08/22/2026 - 14:30

Можно ли всего за 5 минут аннигилировать завод? В Северной Каролине в 2006 доказали, что да!

Бывает, что истории техногенных аварий подают с упором на разрушения, или на жертвы, или на идиотизм участников.

Я хочу подать историю с упором на идею, что любая авария – это сочетание множества факторов, и авария случается только тогда, когда все эти факторы сошлись в одном месте и в одно время, даже если каждое отдельное действие участников может быть логичным.

Читать далее

TrueForge: открытая обвязка, которая превращает LLM в полноценного агента

Habr.com - Sat, 08/22/2026 - 14:04

Собрать демо-агента сегодня несложно. Подключаешь модель, добавляешь пару инструментов — и она уже читает файлы, вызывает API и бодро обещает выполнить любую задачу.

Сложности начинаются, когда такого агента нужно запустить в проде.

Кто будет хранить состояние между запросами? Как пережить перезапуск? Где выполнять сгенерированный код? Как не передать ему секреты? Когда запрашивать подтверждение пользователя? Что делать, когда контекст разрастается до сотен тысяч токенов?

Глубже

Who's online

There are currently 1 user and 3 guests online.
Syndicate content