/ habr.com
Разработчик выпустил RecurseChat — приложения для локального запуска LLM на macOS
Разработчик Сяои Чэнь (Xiaoyi Chen) выпустил на macOS приложение RecurseChat для локального запуска больших языковых моделей.
Интерфейс выполнен в виде чата, а если хочется использовать GPT, то можно подключить модель через API. Приложение платное и доступно в App Store.RecurseChat работает с открытыми моделями Mistral, Llava и WizardCoder Python и другими в формате GGUF.
Главное, чтобы модель поддерживала работу с llama.cpp. Кроме того, пользователи могут использовать GPT-3 и GPT-4. Для этого необходимо подключить модель с помощью собственного API-ключа.Благодаря локальному запуску приложение может работать без подключения к сети, отвечая на вопросы, генерируя код и контент.
Читать на habr.comОб этом же в других СМИ
Discord открыл возможность создавать игры и приложения, которые работают внутри платформы habr.com / 2 месяца назад
Apple: пользователи из ЕС смогут устанавливать iOS-приложения с веб-сайтов habr.com / 2 месяца назад
OpenAI открыла код Transformer Debugger — отладчика для моделей машинного обучения habr.com / 2 месяца назад
Показать ещё
Сайт imag.one - агрегатор новостей из открытых источников. Источник указан в начале и в конце анонса. Вы можете пожаловаться на новость, если находите её недостоверной.