/llmfit — рекомендации моделей

Команда /llmfit помогает быстро понять, какие локальные AI-модели могут подойти для выбранной конфигурации компьютера

Это удобно перед тем, как скачивать или запускать модель локально

Как использовать

Поиск по ключевому слову модели:

/llmfit qwen

Рекомендации для конкретной конфигурации:

/llmfit ram 32 vram 12 cpu 12

Конфигурация и ключевые слова вместе:

/llmfit ram 32 vram 12 cpu 12 qwen coder

Если не указать параметры компьютера, бот использует типичный профиль домашнего компьютера

Просмотр результатов

В каждом результате отображается практичная информация о модели:

  • Название модели
  • Уровень соответствия
  • Оценка и примерная скорость
  • Runtime
  • Рекомендуемая квантизация
  • Оценка памяти и длина контекста

Кнопки под сообщением позволяют переключать:

  • Сценарий использования, например coding, chat, reasoning, embeddings, multimodal или general
  • Минимальный уровень соответствия, от всех результатов до более строгих уровней
  • Страницы результатов

Примечания

  • Результаты являются рекомендациями, а не инструкцией по установке
  • Более высокий уровень квантизации обычно лучше сохраняет качество, но может требовать больше памяти
  • Если результаты поиска устарели, отправьте команду /llmfit снова