Подписка
Технологии

Руководство по сборке локального AI-стека. Часть 5. Open WebUI поверх llama.cpp

Источник: Хабр

Руководство по сборке локального AI-стека. Часть 5. Open WebUI поверх llama.cpp

На этом шаге мы добавляем Open WebUI — веб-интерфейс с аутентификацией, историей чатов и настройкой параметров моделей. Это финальный слой: llama-server продолжает работать как обычно (только на 127.0.0.1 ), а Open WebUI становится «парадной дверью» для пользователей из LAN. Читать далее

Читать полностью на сайте «Хабр» →

Материал опубликован на сайте источника. На «Единый портал вестей» размещены только заголовок и краткий анонс; права на текст и изображения принадлежат Хабр.

Ещё в рубрике «Технологии»

Технологии

Как мы оценивали соответствие предсказаний LLM нормам профессиональных кодексов

Ответ большой языковой модели в составе ИИ-ассистента на рабочую просьбу может противоречить профессиональному кодексу пользователя. Ассистент способен предупредить об этическом конфликте и всё же подготовить запрошенный текст. В исследовании TenetBench мы разработали способ получать такие задачи…

Хабр
Технологии

Сказ от Anthropic о том, как рой ИИ-агентов может превратиться в сборище бюрократов

В статье Building agents: When to fold subagents into your main agent loop , опубликованной 22 октября 2026 года, Diane Sarkis из Anthropic описала случаи, в которых замера множества ИИ-агентов на одного агента с навыками и инструментами приводила к значительному повышению качества работы, снижению…

Хабр
Технологии

PHP взломан, всё потеряно!?

Внимание! Обнаружены две критические уязвимости удаленного выполнения кода (RCE) в PHP, отслеживаемых как CVE-2026-109618 и CVE-2026-109619 , публично раскрытых 21 октября 2026 года . Эти уязвимости позволяют злоумышленнику выполнять произвольный код на серверах, работающих под управлением PHP, что…

Хабр
Технологии

Овеществление маркетинга: инструмент, а не панацея

Недавно посмотрел выступление Павла Анненкова , владельца издательства «Редколлегия», на тему "Маркетинг будущего - маркетинг из прошлого". Его тезис: в эпоху ИИ, когда контент почти ничего не стоит, физические объекты (книги, журналы, мерч) становятся премиальным медиа, позволяют быстро пройти…

Хабр
Технологии

Ищем нишу для продукта с нейросетями на примере Excalidraw

Компания NEOMSA представила практический подход к управлению доступом ИИ-агентов к внутренним API через протокол MCP. В центре внимания — выдача и отзыв полномочий, ограничение операций и данных, а также восстановление цепочки действий при расследовании инцидентов. Сценарии с ИИ-агентами переводят…

Хабр
Технологии

Microsoft предложила примерно 60 тыс. сотрудникам добровольно уволиться за денежную компенсацию

Как следует из служебной записки, которую директор по персоналу Microsoft Эми Коулман направила 60 тыс. сотрудникам 26 октября 2026 года, американская компания предлагает добровольно уволиться за денежную компенсацию. «Программа добровольного ухода — важный элемент того, как мы меняем наш подход к…

Хабр