Habr.com

Syndicate content Хабр
Все публикации подряд на Хабре
Updated: 1 hour 5 min ago

[Перевод] ИИ, возможно, способен уничтожить человечество. Как людям вообще это осмыслить?

Tue, 10/06/2026 - 13:13

Он может организовать атаку с применением биологического оружия или развязать глобальную войну дронов. Может привести в действие ядерную бомбу. А может разрушить человеческое общество более постепенно, сосредоточив в своих руках все экономические ресурсы мира и лишив нас еды, жилья или лекарств.

Именно такие мрачные мысли сегодня возникают вокруг искусственного интеллекта, технологии, которая уже стала огромным достижением человечества, но которая, как опасаются некоторые, потенциально способна полностью нас уничтожить.

В сентябре подобные тревоги попали в заголовки мировых СМИ после того, как исследователь Anthropic ушёл из индустрии, объяснив своё решение опасениями, что его лаборатория и другие подобные компании создают сверхразумные машины, которые люди не смогут контролировать.

Потенциальные угрозы, связанные с ИИ, вполне объяснимо пугают. Но современный мир изобилует множеством экзистенциальных рисков. Человечеству также грозит гибель из‑за астероидов, пандемий, термоядерной войны, изменения климата, гигантских выбросов раскалённого вещества с Солнца, экологического коллапса и внезапного наступления ледникового периода.

Проблема, говорят учёные и специалисты по государственной политике, заключается не столько в самих угрозах, среди которых ИИ лишь самая новая, сколько во врождённой человеческой неспособности правильно оценивать их масштаб и соотношение.

«Мы терпимо относимся к рискам, к которым привыкли, но боимся новых», — сказал Джеймс К. Хэммитт, директор Гарвардского центра анализа рисков. Мы гораздо чаще ездим на автомобилях, чем летаем на самолётах, отметил он, поэтому «авиаперелёты воспринимаются как нечто более опасное по сравнению с автомобильным транспортом, хотя на самом деле это не так». Искусственный интеллект, добавил он, «очевидно, плохо понятен и не воспринимается нами как нечто находящееся под нашим контролем, поэтому вызывает огромную общественную тревогу».

Читать далее

Как настроить параллельное согласование договоров в Битрикс24 и не получить зависший процесс

Tue, 10/06/2026 - 13:10

Параллельные ветки могут сократить путь договора вдвое, но одна ошибка в логике слияния — и процесс останется «в работе», хотя согласовывать уже некому. Разберём маршрут от запуска веток до итогового решения и покажем, как обработать отказы, таймауты и повторные раунды так, чтобы договор действительно дошёл до конца.

Настроить процесс

Фреймворк RAFT: как работает RAG на максималках от Microsoft

Tue, 10/06/2026 - 13:07

Чтобы быстрее отвечать пользователям, команды техподдержки применяют RAG — подход, при котором нейросеть ищет информацию в базе знаний и опирается на нее при подготовке ответа.

Проблема в том, что в архивных тикетах важные детали часто разбросаны по переписке: по отдельному фрагменту не всегда понятно, какие способы уже проверяли и чем все закончилось. К тому же в ходе диагностики часто появляются новые факты, которые меняют представление о проблеме. 

Исследователи из Microsoft предложили новый подход — RAFT. Он разбивает старые обращения по шагам: от первых симптомов до конечного решения. Когда появляется новая проблема, система находит похожий этап в прошлых обращениях и показывает, как именно проблему решали в прошлый раз.

В этой статье разберемся, как устроен RAFT, кому он нужен и чем он отличается от обычного RAG. Заодно посмотрим, что показали тесты Microsoft.

Читать далее

Писать агенту по-английски ради экономии? 40 прогонов: разница 12 токенов на задачу

Tue, 10/06/2026 - 13:03

Частый совет: пишите агенту по-английски, русский съедает в полтора раза больше токенов. Токенизатор это подтверждает: 194 токена против 132 на одном и том же абзаце. Я прогнал пять рутинных задач на двух моделях, на обоих языках, по два раза. Сорок прогонов.

Оба языка решили по 17 задач из 20, русский промпт к задаче длиннее в среднем на 12 токенов, а это 0,005% от того, что агент читает за прогон. Разброс между двумя одинаковыми запусками доходит до 3,4 раза. Рассказываю, куда делись полтора раза и где язык всё-таки стоит денег.

Читать далее

Какой ты вайбкодер. Шуточный опрос

Tue, 10/06/2026 - 13:00

/

Мы уже научились писать код с помощью AI. Но гораздо интереснее другое - как именно мы встроили AI разработку в свою работу. Я попробовал вспомнить все свои наблюдения и составил небольшую небольшую классификацию - от Воина до Некроманта. Надеюсь этот опрос вас немного порадует.

Читать далее

PPU Zhenwu 810E от Alibaba: как китайский AI-ускоритель справляется с LLM

Tue, 10/06/2026 - 13:00

Привет, я Дмитрий, MLOps-инженер в Selectel. 

Современный ландшафт AI-ускорителей изобилует всевозможными устройствами: GPU, TPU, NPU, LPU и прочими удивительными аббревиатурами. Китайские компании активно участвуют в этой колоссальной гонке, и в данном материале я расскажу, как мы тестировали AI-ускоритель от Alibaba Group.

В первую очередь мы хотели понять, что за устройство перед нами и как его можно использовать в наших стандартных сценариях для инференса — прежде всего в качестве ноды для облачного Kubernetes или как самостоятельный dedicated-сервер. Что ж, давайте разбираться.

Читать далее

Windows IR: системный подход. Часть 2 — изоляция, процессы, службы

Tue, 10/06/2026 - 13:00

Это вторая часть материала, посвященного Windows Incident Response. Первая часть была посвящена подготовке, общим принципам расследования, фиксации состояния хоста и анализу сетевого состояния. В этой части — изолируем хост, чтобы прекратить возможную угрозу, не потеряв данные, а затем идём разбирать процессы и службы. Именно здесь у найденной в демонстрационной лабе сетевой активности будет установлен процесс-источник.

Читать далее

Как сэкономить на ISTQB: Личный опыт

Tue, 10/06/2026 - 12:48

Как сэкономить 100$ на экзамене ISTQB? Расскажу про свой опыт сдачи ISTQB CTFL 4.0 через индийского провайдера.

Читать далее

Кто может нажиться на космической гонке США и Китая?

Tue, 10/06/2026 - 12:42

50 лет назад люди летали на Луну прежде всего ради научных и политических целей — технологии того времени не позволяли говорить о постоянном присутствии человека на поверхности. Сейчас же космос постепенно превращается из политического проекта в часть новой экономики. Активно идет разработка многоразовых ракет, удешевляющих запуски, а также в лабораториях таких компаний, как, например, Blue Origin, разрабатывается новая лунная промышленность.

Нельзя сказать точно, чем это обернется для стран-участниц. Однако для любого противостояния справедливо утверждение, что в противостояниях часто побеждают поставщики необходимых для противостояния компонентов обеим сторонам.

В этой статье предлагаю разобраться, кто именно может стать бенефициаром этой гонки и какие ограничения придется учесть, чтобы заработать на ней максимум?

Читать далее

Продвижение в нейросетях: больше 80% ссылок ИИ ведут на чужие сайты, но это не довод уходить во внешние публикации

Tue, 10/06/2026 - 12:30

Я разобрал два исследования, которые вышли в один день, 30.09.2026: NP Digital и Grow and Convert. Оба смотрели, на какие страницы ведут ссылки-источники под ответами нейросетей. У NP Digital на коммерческих вопросах по 400+ крупным брендам 82% ссылок ведут на чужие сайты. У Grow and Convert на вопросах одного B2B-клиента таких 85%. Но в том же исследовании Grow and Convert в 87% ответов, где клиента назвали, среди источников был его собственный сайт. Для продвижения бренда в нейросетях из этого следует одно: выбирать между своим сайтом и внешними публикациями приходится по каждой теме отдельно.

Читать далее

PostgreSQL 19: Коммитфест 2026-03 Часть 5.4 (SQL, DEV1, DEV2)

Tue, 10/06/2026 - 12:24

Завершаем обзор мартовского коммитфеста 19-й версии. В четвертой и последней статье серии рассмотрим изменения, относящиеся к языку SQL и материалам курсов DEV1 и DEV2.

Напоминаю план статей о последнем коммитфесте 19-й версии:

Часть 5.1 (QPT)

Часть 5.2 (DBA1, DBA2)

Часть 5.3 (DBA3, DBS)

Часть 5.4 (SQL, DEV1, DEV2) – мы здесь

Как я читерил с помощью ИИ в реверс-инжиниринге промышленного ПО

Tue, 10/06/2026 - 12:15

В статье рассказано об опыте использования генеративного ИИ для решения задач реверс-инжиниринга промышленного программного обеспечения. Рассмотрен кейс разбора проприетарного бинарного формата исторических архивов промышленной системы сбора данных и мониторинга Solar Turbines TT4000, выполненного с использованием DeepSeek, Qwen, GigaChat и Алисы.

Статья содержит ссылку на публичный репозиторий со всеми сгенерированными артефактами, а также ссылки на опубликованные диалоги с ИИ-сервисами.

Читать далее

Один разработчик, пять сервисов, три базы: что я понял об архитектуре, когда пришлось самому всё деплоить и чинить

Tue, 10/06/2026 - 12:11

Через год после закрытия проекта я открыл его код и устроил себе code review. Это был автомобильный маркетплейс объявлений, который я в одиночку спроектировал, написал, задеплоил и сопровождал: React‑фронтенд, три бэкенда на NestJS, PostgreSQL, чат на Socket.IO, интеграция платежей, Kubernetes в GKE, CI/CD, CronJob'ы и E2E.

Я нашёл несколько ошибок, которые почти наверняка проявились бы при росте трафика. Среди них — сообщения, которые не доходят между pod'ами, гонка при списании баланса и недостаточная авторизация в чате. Были и менее заметные проблемы эксплуатации. Ни одна не была сложной. Интереснее другое: почти все они возникли не внутри какой‑то технологии, а на стыках — между репликами, между чтением и записью, между кодом и расписанием, между сборкой и выкаткой.

Сразу о рамках. Реальной нагрузки у проекта не было: он прошёл софт‑ланч, а потом я его закрыл, потому что коммерческого интереса оказалось недостаточно. Платёжные функции были реализованы, но для пользователей так и не включены. Kubernetes по нагрузке был не нужен. Часть описанных ошибок не проявилась именно потому, что трафик был маленьким. Поэтому здесь не будет RPS и историй про масштаб. Будет разбор собственных решений: почему каждое казалось разумным, что с ним не так и как я сделал бы сейчас.

Читать далее

Четные числа — женские, а нечетные — мужские?

Tue, 10/06/2026 - 12:06

Пару дней назад ко мне подошел сын-дошкольник и спросил: "Папа, а цифра пять – это мальчик или девочка?". Хоть у меня математическое образование, но я растерялся. В таком контексте я никогда не думал о числах, а представлял их как удобную абстракцию. Я опросил родных, знакомых, полез в интернет и к моему удивлению, многие опрошенные сразу дали числам пол.

Хочу рассказать, что я выяснил по этой части за пару дней.

Читать далее

Про дела сырные

Tue, 10/06/2026 - 12:05

Если я шутя спрошу вас: «что мы любим на завтрак? Что мы любим на ужин?» — думается, что ответы будут очень разными, но, наиболее очевидным ответом наверняка будет то, что, хотя бы изредка, мы позволяем откусить себе, что утром, что вечером — маленький, ароматный кусочек килограмма на полтора душистого сыра!

Читать далее

Может ли локальная 27B-модель расследовать продакшен-инцидент как Claude? Две RTX 5090, около 40 прогонов и одна гонка

Tue, 10/06/2026 - 12:01

Реальный продакшен-инцидент: пул соединений забит, активных запросов дюжина, рестарт помогает. Claude нашёл причину за двадцать минут. Нормальный человек на этом обновил бы библиотеку и пошёл дальше, но у меня две RTX 5090 стояли без дела, и зудел вопрос: а локальная 27B-модель смогла бы? Тот же промпт, тот же код, та же песочница, семь локальных моделей, около 40 прогонов. В промпте, кстати, осталась одна правдоподобная, но ложная гипотеза инженера. Я не планировал делать из неё ловушку. Она стала главным фильтром всего эксперимента.

Читать далее

Confidence ≠ Permission: почему я не разрешаю LLM самостоятельно принимать решения

Tue, 10/06/2026 - 12:01

LLM может быть уверена в своём ответе, но это ещё не означает, что системе разрешено выполнять действие. В AI Career Inbox Assistant разделены понимание сообщения, принятие решения и фактическое выполнение действия. Модель извлекает намерение и факты, профиль кандидата остаётся источником истины, а отдельный policy/decision layer определяет, что можно сделать: подготовить draft, попросить пользователя принять решение, ничего не делать или отправить безопасный автоответ при заранее заданных условиях.

На практике это особенно важно для Telegram‑ассистента, который может отвечать от имени пользователя. Ошибка в тексте и ошибочное действие — не одно и то же: второе уже становится архитектурной проблемой. Поэтому в статье разбирается, почему UNKNOWN должен оставаться неизвестным, почему уверенность LLM не должна расширять права системы и почему даже правильное решение требует отдельной защиты на уровне исполнения, например от повторной отправки сообщения.

Главный принцип: уверенность модели — это сигнал для принятия решения, но не разрешение на действие.

Читать далее

Как мы создавали решение для автоматизации управления доступами

Tue, 10/06/2026 - 12:01

Я уже рассказывал на Хабре, как наша команда из “ЛАНИТ-Интеграции” автоматизировала процесс управления доступами для крупного заказчика, который имеет несколько десятков офисов по всей стране.

В этой статье я чуть подробнее опишу, как из прототипа мы стали развивать полноценную IdM-систему.

Читать далее

Как мы собирали CTF-комьюнити в вузе с нуля до международного турнира

Tue, 10/06/2026 - 12:01

CTF в КубГТУ существовал и до нас. Кафедра КТиИБ проводила KubanCTF ещё в 2017 году, на старших курсах были ребята, которые играли в своих составах. Но комьюнити как такового не было — людей мало, команды закрытые, набирали по знакомству, а новичку войти в эту тему было негде. Через два года после того, как мы сами начали играть, мы провели свой CTF, на который зарегистрировались 1280 команд из 51 страны. Эта статья — про то, как формировалось комьюнити вокруг CTF в вузе, где потенциал был, но никто его не собирал воедино.

Читать далее

Атлас точек с помощью ИИ: что собрал сам, где соврал

Tue, 10/06/2026 - 12:00

Массажистка нажала на точку за ухом, и голова перестала дрожать.

У меня тремор головы. Несколько лет, с неврологом. Муж однажды подарил тайский массаж, и девушка, помимо массажа, прошлась по точкам тела: спина, шея, лицо. На одной из них я заметила, что тремор стих. Она тоже заметила. Сказала, что её отец занимается точками и научил её. Я не поверила, но запомнила.

С тех пор я покупала книги по рефлексотерапии. Китайские, советские, современные. В каждой было одно и то же: красивая схема, список «от чего помогает» и ноль про то, что под точкой. Ни мышцы, ни нерва, ни ссылки на исследование. Я врач по образованию, восемь лет работала в лаборатории, и мне было видно, что это вода. В какой-то момент я всерьёз собиралась ехать в Китай учиться.

Читать далее

Who's online

There are currently 0 users and 1 guest online.