Habr.com

Syndicate content Хабр
Все публикации подряд на Хабре
Updated: 1 hour 24 min ago

Как мы запустили Qwen3.8–27B целиком на RTX 5060 8 GB и получили ~30 токенов/с

Wed, 10/07/2026 - 16:34

Наш проект называется ExVRAM Lab. Это открытая исследовательская лаборатория, в которой мы проверяем, насколько большие локальные LLM можно запускать на обычных видеокартах с ограниченным объёмом VRAM, если использовать ultra‑low‑bit quantization, полное размещение весов на GPU и существующие open‑source inference‑технологии.

ExVRAM расшифровывается как Exchange Compute for VRAM. Основная идея проекта — в ряде сценариев выгоднее потратить часть свободной вычислительной мощности GPU на работу с более компактным представлением весов, чем хранить часть модели в оперативной памяти и постоянно передавать данные через PCIe.

Когда мы начинали проект, исходный вопрос был достаточно простой: можно ли запустить dense‑модель примерно на 27 миллиардов параметров на видеокарте всего с 8 ГБ VRAM так, чтобы она не просто «запустилась», а работала полностью на GPU, поддерживала длинный контекст и обеспечивала нормальную интерактивную скорость генерации.

В качестве основной тестовой системы мы используем NVIDIA GeForce RTX 5060 8 GB на архитектуре Blackwell. Основная модель в текущих экспериментах — Qwen3.8–27B.

Сначала результат выглядел не слишком впечатляюще. Модель запускалась, но значительная часть весов оставалась в системной памяти. Около 5,7 GiB весов находилось на GPU, ещё примерно 2,5 GiB — на CPU. Скорость генерации составляла порядка 3,8–5,5 токена в секунду.

При этом сама видеокарта была загружена далеко не полностью.

Это стало одним из первых важных наблюдений проекта. Проблема заключалась не столько в нехватке вычислительной мощности RTX 5060, сколько в том, что часть decoder weights находилась в RAM. Во время autoregressive generation данные приходилось постоянно передавать между CPU и GPU через PCIe.

Читать далее

Digital Q.ProductFactory: как быстро сменить тарифы под новые условия рынка

Wed, 10/07/2026 - 16:33

Ставка ЦБ изменилась. Конкурент выкатил акцию. Регулятор ввел новое требование. Вопрос один: сколько времени займет обновление вашей продуктовой линейки? Если от недели до полугода – эта статья для вас.

Читать далее

Как я данные со станков снимал: девять машин, три способа и Odoo

Wed, 10/07/2026 - 16:30

Задача звучала просто: руководство хотело знать, сколько станки реально работают. Не по словам мастеров и не по журналу, который заполняют в конце смены, а по факту. Счётчик выпущенных деталей вторым приоритетом. Обязательное условие: полностью автоматически, без участия человека.

Станков девять, производители разные, возраст тоже. Я был уверен, что главная сложность будет в Odoo. Оказалось наоборот: Odoo здесь самая спокойная часть, а вся работа ушла на то, чтобы вытащить данные из самих станков.

Читать далее

Переезд с Webflow на Next.js по одной странице: Payload CMS, next-intl и проверки в CI

Wed, 10/07/2026 - 16:29

Корпоративный сайт на пяти языках: около сотни страниц, блог, новости и 100–150 тысяч пользователей в месяц. Два года он жил на Webflow. Переезд на Next.js 15 и Payload CMS сейчас на финишной прямой, и шёл он без дня Х: страница за страницей, на одном домене со старым сайтом.

Разбираю, как это устроено. Счёт Webflow по строкам, Next.js под /app на Webflow Cloud и 301-редиректы с пятью локалями, перенос CMS-коллекций в Lexical, next-intl и проверки в CI, которые ловят то, что раньше находил только дизайнер через месяц.

Как это устроено

NetHackers — открытое сообщество для создания программы, которая сможет стабильно проходить NetHack

Wed, 10/07/2026 - 16:26

Привет, Хабр. Я — Влад Куренков, руковожу научной группой «Адаптивные агенты» Института AIRI и сегодня я хочу позвать вас поделать немного распределённой науки. Вот, в чём суть.

Есть такая компьютерная игра NetHack — пошаговый рогалик 1987 года, который до сих пор не может пройти искусственный интеллект. Жизнь у героя одна, сохранений нет, подземелье каждый раз новое, а игра по дороге ничего не подсказывает. Если вы сыграли плохо, то выясняется это тогда, когда ничего исправить уже нельзя. На таких же ошибках спотыкаются ИИ‑агенты, когда пишут код: отдельный шаг они выполняют прекрасно, а на длинной дистанции держать планку им уже сложнее. И NetHack в этом плане становится весьма полезной для проверки агентов.

По этой причине я запустил открытое сообщество людей, которые создают системы планирования ИИ, чтобы вместе решить NetHack. Понятно, что игра — это не ценность сама по себе. Гораздо важнее способ, которым возьмут игру, а также тот факт, что этот способ станет общественным достоянием. Если вы разрабатываете ИИ‑агентов, занимаетесь планированием или пишете игровых ботов, давайте идти к этой цели вместе.

Далее расскажу подробнее про проект NetHackers и наше сообщество.

Читать далее

Оцифровка киберрисков: как рассказать о киберугрозах совету директоров на «языке денег»

Wed, 10/07/2026 - 16:25

Уязвимости, угрозы и инциденты – привычный язык специалистов по информационной безопасности. Совет директоров и инвесторы говорят на другом: потенциальные убытки, длительность простоя, влияние на прибыль. Оцифровка киберрисков переводит одно в другое: технические понятия становятся бизнес-метриками, а киберриски выражаются в тех же единицах, что и другие риски организации. Мы в «Соларе» решили рассказать о методологии, руководствуясь которой в свои проектах, переводим киберриски в вероятности и деньги: что такое оцифровка киберрисков, почему она стала необходимой, из каких этапов состоит и что дает бизнесу.

Оценить риски

Испытание абстракций: как чужая процессорная система RISC-V переехала на десятки отладочных плат

Wed, 10/07/2026 - 16:23

10 октября стартует новый сезон Школы синтеза цифровых схем. Её проведение рассредоточено по множеству независимых кластеров, в каждом из которых есть свой преподаватель, свои отладочные платы и САПР, и необходимо обеспечить выполнение всех примеров школы на этом зоопарке различных устройств таким образом, чтобы преподавателю не нужно было думать о проблеме вроде: “Этот код точно собирался у меня в BRAM, почему здесь он синтезируется в миллион регистров, сжирающих все ресурсы платы”.

Чтобы избежать подобных проблем был создан репозиторий basics-graphics-music (BGM), добавляющий примерам несколько слоёв абстракции, которые позволяют избежать подобных проблем.

Упор этого года будет сделан на архитектуру RISC-V. Для этого в репозиторий был добавлен пример многопоточной программы, а также несколько RISC-V ядер, включая ядро НИУ МИЭТ, проектируемое на курсе “Архитектуры процессорных систем”. Это стало отдельным испытанием существующих абстракций на прочность: данное ядро проектировалось независимо от репозитория BGM и его абстракций, поэтому его интеграция стала интересным опытом. Подробнее об этом под катом.

Читать далее

Как React учился батчингу и как научить его «летать»?

Wed, 10/07/2026 - 16:19

Чтобы React летал как Vue 3, достаточно забрать у него тяжелые вычисления и переложить их на плоский реактивный граф зависимостей с умным планировщиком транзакций на уровне микрозадач.

Больше реактивности

Важнейшая загадка бозона Хиггса остаётся нерешённой

Wed, 10/07/2026 - 16:14

Итан Сигел (американский астрофизик‑теоретик и научный журналист, автор рубрики «Спросите Итана», один из пропагандистов современных научных знаний), пытается разобрать в одной из ключевых проблем современной физики: Что не так с бозоном Хиггса?

@avshkol сделал перевод статьи, ведь его тоже волнует вот это: Когда в далёком уже 2012 году (24 года прошло!) был обнаружен предсказанный ещё в 1960-х бозон, казалось, что будет решена загадка массы, а значит, и гравитации, а значит, искривления пространства-времени, а там кротовые норы, всякие-разные гипердвигатели... Но воз и ныне там, и как будто мы всё ещё застряли в тех 60-х, когда открыли бозон, и... что дальше?..

Так что не так с бозоном Хиггса?.. или с нашей физикой?.. или с нашими ожиданиями от этого бозона?

Читать далее

Книга: «Армия иммунитета. Как два триллиона микроскопических существ хранят ваше здоровье и как им помочь»

Wed, 10/07/2026 - 16:11

Привет, Хаброжители! Мы привыкли считать себя хозяевами планеты, но на самом деле люди — лишь 5 процентов всей биомассы, крохотная верхушка в мире растений и микробов. Как мы выживаем в мире, где вирусов в три раза больше, чем людей? Ответ прост: внутри каждого из нас несет службу «килограммовая армия» — около 1,8 триллиона бойцов общей массой 1,2 килограмма.

«Армия иммунитета» — это увлекательный путеводитель по вашему внутреннему министерству обороны. Вы познакомитесь с «мусорными генералами» макрофагами, рядовыми штурмовиками нейтрофилами и элитным подразделением адаптивного иммунитета. Книга объясняет, почему «цветет» синяк, как связаны чистота и аллергия и почему ваша иммунная система — ключ к долголетию. Это честный и ироничный рассказ о том, как клетки умеют воевать без рук, проверять документы без глаз и защищать нас 24/7.

Читать далее

Go 1.25 сам читает лимит CPU, а automaxprocs молча это выключает

Wed, 10/07/2026 - 16:10

Обновили Go до 1.25 и оставили привычный automaxprocs? Пустой импорт теперь может отключить встроенное управление GOMAXPROCS и изменить поведение сервиса под CPU‑квотой. Разбираемся, как новый рантайм работает с cgroup, откуда берётся разница на дробных лимитах и что проверить перед удалением старой зависимости.

Проверить GOMAXPROCS

Нобелевская премия по химии-2026: смотрим на патенты лауреатов и главных бенефициаров открытий ученых

Wed, 10/07/2026 - 16:08

В Стокгольме огласили имена двух лауреатов Нобелевской премии по химии. Ими стали французский исследователь Анри Борис Каган и японский ученый Соаи Кэндзо (у японцев правильно сперва фамилию, потом имя, и да, звука «е» у них нет). Высокую награду им вручили «за открытие нелинейных эффектов и автокатализа в асимметричном органическом синтезе». На сайте Нобелевского комитета поясняется, что ученые смогли ответить на вопрос, как возникла химическая асимметрия живого. Это явление, при котором молекулы (например, аминокислоты) бывают двух зеркальных видов, но при этом организмы содержат лишь один.

Благодаря Анри Борису Кагану и Соаи Кэндзо ученое сообщество теперь понимает, как может возникать гомохиральность. Их открытия «сыграли решающую роль» для химиков, разрабатывающих реакции для производства фармацевтических препаратов, отмечается в сообщении Нобелевского комитета.

Уверен, что подробные разборы открытий ученых появятся в ближайшие дни. А мы пока разбираемся, что с патентами у данных нобелиатов по химии. 

Читать далее

Вайбкодинг от $100 000 в месяц: пять проектов порог прошли, четыре не дотянули

Wed, 10/07/2026 - 16:06

Вайбкодинг подают как способ собрать миллион за две недели: миллион за 17 дней, миллион к октябрю, миллион с одного промпта. Я проверил, какие проекты реально прошли порог в $100 000 выручки в месяц или миллион заработанных, и сколько из них основаны именно на вайбкодинге, а не просто держат AI внутри продукта.

Разбираю девять кейсов. Medvi: $401 млн за первый год при двух людях в штате. Base44: продан Wix за $80 млн через полгода после запуска. Cal AI: $2 млн в месяц и ярлык, который TechCrunch опроверг. Peec AI и Wave AI: $4 млн и $7 млн ARR при команде в один-два человека. Отдельно четыре проекта, которые кочуют по подборкам, а порог не проходят: fly.pieter.com с пиком $87 000 в месяц, Stanley, Lumoo, Plinq.

Читать далее

Методика оценки ИИ зрелости

Wed, 10/07/2026 - 16:00

Я подготовил и предлагаю к обсуждению методику экспресс‑аудита ИИ‑зрелости промышленного предприятия.

Методика представлена в excel (её можно получить по запросу в мой адрес): вы ставите оценки и указываете доказательства — файл считает остальное.

Каждый из 30 вопросов оценивается по двум измерениям — техническому (Т) и организационному (О). Итоговый уровень определяется по правилу узкого горлышка как минимум из технического (Т) и организационного (О) уровня, подтверждённого 20 гейтами, и ограничения по кибербезопасности ИИ‑контура.

Результат аудита — уровень зрелости, разрыв между измерениями, узкое место, степень преодоления пяти барьеров масштабирования, контрольный срок закрытия гейтов и план на 12 месяцев.

Читать далее

Roaring Bitmap: как уместить базу данных в памяти приложения

Wed, 10/07/2026 - 15:59

Битовые массивы кажутся экзотической структурой данных, которую применяют только опытные учёные мужи в специфичных сферах? Не всегда!

В этой статье я расскажу, как мы выкинули базу данных и загрузили всё в память приложения, упаковав данные в сжатый битовый массив Roaring Bitmap. Это позволило ускорить систему с сотен миллисекунд до считаных единиц.

Под катом — эволюция от классических битовых массивов до современных сжатых форматов и реальный бизнес‑кейс их прикладного применения.

Читать далее

Что отвалится у вашего сайта, если завтра отключат иностранные сервисы. Проверил 50 сайтов

Wed, 10/07/2026 - 15:40

Мне стало интересно, насколько российские сайты в 2026 году ещё зависят от зарубежных сервисов. Не в смысле «пользуется ли компания Zoom», а буквально: что сломается у сайта, если завтра иностранный провайдер отключит российских клиентов.

Я написал открытую утилиту и прогнал через неё 50 сайтов: банки, магазины, операторов связи, авиакомпании, госорганы. Спойлер: серверы почти все уже перевезли, а вот сертификаты, аналитика и шрифты остались. Рассказываю, что нашлось, как устроена проверка и как одна регулярка повесила всю программу.

Читать далее

24 резюме на одну IT‑вакансию: почему работу сейчас так тяжело найти. Цифры 2019–2026

Wed, 10/07/2026 - 15:34

Этим летом я искал работу и в какой‑то момент перестал понимать, что происходит. Откликаешься, тебя не смотрят. Вакансия висит день, а у неё уже сотня откликов. Я решил разобраться, это со мной что‑то не так или с рынком. Оказалось, с рынком, и сильно.

В июле 2024 года на одну вакансию в России приходилось 3,4 резюме. В июле 2026-го уже 8,7. Это в среднем по всем профессиям, и это самое высокое значение для июля за восемь лет, что есть у hh. В IT ещё хуже: 24 резюме на одну вакансию, почти втрое больше, чем по рынку.

Читать далее

Я б в ИИ-шечку пошёл, пусть меня научат

Wed, 10/07/2026 - 15:32

Привет, Хабр! В эфире руководитель проектов компьютерной редакции издательства «БХВ» @Holmogorov и сегодня я хотел бы поговорить о будущем, вернее о том, какие направления стоило бы изучать современным молодым специалистам.

Годы идут, тенденции меняются: помнится, во времена моей студенческой молодости все мечтали учиться на бухгалтеров и экономистов, ведь они считались чрезвычайно востребованными молодой рыночной экономикой нашей страны. Очень быстро учебные заведения наплодили такое количество подобных специалистов, что многие из них были вынуждены перебиваться случайными заработками. Потом случился бум программистов, затем все старались стать веб-дизайнерами, специалистами по SEO и интернет-рекламе, экспертами по крипте и блокчейну, и вот теперь — по искусственному интеллекту. Возникает справедливый вопрос: какие аспекты ИИ все-таки перспективнее всего изучать сейчас, насколько это оправдано и не схлынет ли такая мода через пару лет, как сошли на нет все остальные?

Ну, и что будем изучать?

Дизайн-тренажер: куда ведет кнопка «Назад»

Wed, 10/07/2026 - 15:30

Кнопка «Назад» кажется простой, пока на страницу не начинают вести разные маршруты. Мы решили разобраться, как спроектировать возврат так, чтобы пользователь не терял контекст и всегда понимал, куда попадет.

Читать далее

777 вишлистов за неделю после создания страницы в Steam — без какого-либо освещения в СМИ

Wed, 10/07/2026 - 15:25

Как Pocket Cat Desktop набрала 777 вишлистов в Steam за первую неделю без освещения в профильной прессе: реальные цифры и выводы из опыта продвижения небольшой инди-игры.

Читать далее

Who's online

There are currently 1 user and 11 guests online.