Один вопрос — весь сайт

Ответы, статьи, инструменты и уроки. Ищите по словам, тегам и сокращениям — с опечатками или транслитерацией.

1. Ответы

   Как использовать RAG в LM Studio?

   Прикрепите DOCX, PDF или TXT к чату LM Studio и задайте вопрос по документу. Короткий файл помещается в контекст целиком; для большого документа приложение использует RAG и извлекает подходящие фрагменты.

   #Локальные LLM#ИИ#LM Studio#RAG#локальные модели
2. Ответы

   Как выбрать LLM и видеокарту для неё?

   Сначала выберите задачу, качество, язык, длину контекста, требования к приватности и допустимую задержку. Для локального запуска сопоставьте размер модели и квантование с доступной RAM или VRAM, оставив запас под контекст и систему.

   #Выбор LLM#ИИ#LLM#локальные модели#GPU