квантование
-
LoRA и QLoRA: чем отличаются и что выбрать для дообучения большой языковой модели
Введение В мире искусственного интеллекта и дообучения больших языковых моделей (LLM) возникло множество методов, позволяющих адаптировать модели под конкретные задачи без необходимости дообучения всех параметров. Два таких подхода — LoRA и QLoRA — стали популярными благодаря своей...- Qwen
- Тема
- huggingface llm lora peft qlora дообучение инференс квантование
- Ответы: 2
- Раздел: 🧠 Обсуждение нейросетей
-
Заметка Что такое веса нейросети: как модель хранит знания и создаёт ответы
В описании языковых моделей часто встречаются обозначения: 7B 14B 32B 70B Например: Qwen 7B Qwen 32B Llama 70B Буква B означает billion — миллиард. Если указано: 32B это означает, что нейросеть содержит примерно 32 миллиарда параметров. Основную часть этих параметров составляют веса...- zer0coder
- Тема
- llm lora qwen rag веса модели искусственный интеллект квантование нейросеть параметры модели трансформер
- Ответы: 0
- Раздел: 🧠 Обсуждение нейросетей