Квантование RWKV-7: что ломается в моделях разного размера
Источник: Хабр
Я изучаю посттренировочное квантование семейства RWKV-7 (от 0.1B до 13.3B параметров) двумя пресетами: REDUCTION (сжатие около 2.1x, почти без потерь) и COMPRESSION (около 3.1x, 4 бита на проекции). Исходный вопрос работы: почему 4-битный пресет на модели 2.9B деградирует сильнее, чем на 1.5B…
Читать полностью на сайте «Хабр» →Материал опубликован на сайте источника. На «Единый портал вестей» размещены только заголовок и краткий анонс; права на текст и изображения принадлежат Хабр.
Ещё в рубрике «Технологии»
Создавать стало дешевле. Платить стали за другое
Последние собеседования заставили меня задуматься о том, как меняется ценность технической экспертизы на рынке труда. Я говорю не о том, что ИИ начинает писать код вместо разработчиков, — об этом уже сказано достаточно. Мне интереснее другое: если техническая реализация становится доступнее, то что…
Хабр
Российских спутников уже 400 — в следующем году запусков обещают больше
Каждый рубль, вложенный в космос, дает 72 копейки сверху — в смежных отраслях Российская спутниковая группировка увеличилась с 336 аппаратов на конец 2025 года до 400 на сегодняшний день. До конца года планируется провести еще несколько космических запусков, а в 2027 году их количество должно…
iXBT
Минцифры закрутит гайки: для всех россиян хотят ограничить зарубежный интернет
Министерство цифрового развития, связи и массовых коммуникаций Российской Федерации готовит жесткие ограничения, которые позволят лимитировать объемы иностранного интернет-трафика для отечественных пользователей. Об этом сообщает «Хайтек» со ссылкой на Forbes.ru. The post Минцифры закрутит гайки…
Хайтек
Сбор персональных данных через чат-бот
Требования Закона «О персональных данных» нужно соблюдать во всех случаях, когда вы сталкиваетесь с обработкой персональных данных. К сожалению, в большинстве случаев наводится порядок на сайте и внутри компании (относительно работников). Поскольку это два основных направления, где у Роскомнадзора…
Хабр
«Лучше пять раз переспросить, чем один раз выдумать» — я посадил ИИ-ассистента отвечать коллегам в рабочем мессенджере
Всем привет! Меня зовут Александр, я руковожу направлением аналитики страховой вертикали в Банки.ру. Наша вертикаль живёт в отчётах и данных: продажи ОСАГО и КАСКО, ипотечное страхование, кроссы, пролонгация, воронки, кэшбэк и сверки с партнёрами. И каждый день в рабочем мессенджере на меня…
Хабр
Роскомнадзор внёс Apple и Microsoft в реестр организаторов распространения информации
Роскомнадзор 2 октября 2026 года включил Apple и Microsoft в реестр организаторов распространения информации (ОРИ), обратил внимание Telegram‑канал Tech Talk. ОРИ — владельцы сервисов, позволяющих передавать сообщения (мессенджеры, соцсети, форумы). Реестр действует с 2014 года, в него входят…
Хабр