Подписка
Технологии

Руководство по сборке локального AI-стека. Часть 6. Конвертация моделей Hugging Face в GGUF

Источник: Хабр

Руководство по сборке локального AI-стека. Часть 6. Конвертация моделей Hugging Face в GGUF

Не все модели существуют в готовом .gguf -формате. Иногда нужна модель, которую сообщество ещё не квантовало, или хочется получить конкретный квант ( Q4_K_M , Q5_K_M , Q8_0 ), которого нет в готовых сборках. В таких случаях её нужно сконвертировать самостоятельно : из «сырых» весов Hugging Face (…

Читать полностью на сайте «Хабр» →

Материал опубликован на сайте источника. На «Единый портал вестей» размещены только заголовок и краткий анонс; права на текст и изображения принадлежат Хабр.

Ещё в рубрике «Технологии»

Технологии

OpenAI выпустила GPT-6.1 Terra

OpenAI представила GPT-6.1 Terra — новую модель для работы с текстом, изображениями и компьютерными интерфейсами. По возможностям она приближается к старшим моделям семейства, но стоит вдвое дешевле GPT-6.1 Sol. Основной акцент сделали на computer use: задачах, где нейросети нужно не просто…

Хабр
Технологии

Дизайнер представил ADHD One — ретротрубку для звонков через iPhone

Дизайнер Кевин Ноки (Kevin Noki) представил ADHD One — мобильный телефон в формате «кирпича» из восьмидесятых, который помогает меньше проводить времени со смартфоном, но всё равно оставаться на связи. Название ADHD расшифровывается как Anti Distraction Handset Device (с англ.«Телефонная трубка без…

Хабр
Технологии

yt-dlp для мамы: как я упаковал консольную утилиту в программу для Windows и на какие грабли наступил

У меня в семье регулярно звучит один и тот же вопрос: «А как скачать вот это видео?». Ответ «поставь yt-dlp» не работает: консоль, Python, ffmpeg, ключи командной строки — для человека, который просто хочет песню в машину, это стена. Готовые программы есть, но у одних реклама и платное «Pro»…

Хабр
Технологии

Шантаж, взломы и угроза человечеству: Anthropic предупредила об опасностях ИИ перед IPO

Компания Anthropic, разработавшая ИИ-модели и чат-бот Claude, предупредила инвесторов, что возможности искусственного интеллекта могут развиваться быстрее, чем средства контроля за его работой. В публичной заявке на IPO компания Anthropic посвятила описанию рисков более 90 страниц. Источник…

3DNews
Технологии

Холодные звонки и сообщения: чем опасны?

Знаю, что многие ведут бизнес по принципу «так делают все, значит, и я так буду» или «мне так хочется/мне порекомендовали». Но далеко не все действия, которые используют другие предприниматели, являются законными. А, следовательно, вы подвергаете себя на высокие административные штрафы. В этой…

Хабр
Технологии

Надёжный инсайдер рассекретил, когда выйдут первые обзоры GTA VI

Горячо ожидаемый криминальный боевик с открытым миром GTA VI от разработчиков из британской студии Rockstar Games (принадлежит Take-Two Interactive) выйдет уже менее чем через месяц, а первые обзоры игры появятся и того раньше. Источник изображений: Rockstar Games

3DNews