10 лучших бесплатных локальных ИИ-моделей (которые реально работают)

Почти три миллиона моделей доступны для бесплатного скачивания прямо сейчас, и подавляющее большинство из них бесполезны. Вот десять моделей, которые действительно подходят для использования на оборудовании. Рейтинг десяти моделей с открытыми весами, которые вы можете скачать и запустить на своем компьютере бесплатно. Для каждой модели указано количество параметров, размер файла в 4 бита, лицензия, категория оборудования, для которой она подходит, ее главное преимущество и опубликованный результат бенчмарка по сравнению с именованным аналогом. Перед рейтингом следует короткий раздел о том, во сколько вам обходится локальный запуск: почему открытые веса и открытый исходный код — это не одно и то же, чем жертвует квантизация, и четыре категории оборудования, по которым сравнивается каждая модель в списке. В конце предлагается один вариант для каждой категории, чтобы пользователь знал, с какого файла начать скачивание. 0:00 Большинство локальных моделей — это игрушки 0:52 Сколько на самом деле стоит их запуск 1:35 10. Granite 4.0, видеокарта не нужна 2:27 9. Phi-4, рассуждения, превосходящие его возможности 3:11 8. Llama 3.3, та, которую поддерживает всё 4:03 7. Nemotron Super, 70 ГБ на одной карте 5:08 6. Mistral Small, оптимальный вариант на 24 ГБ 6:00 5. gpt-oss-20b, вызов инструментов в 16 ГБ 6:48 4. Gemma 3, одна карта и сто сорок языков 7:48 3. GLM-4.5-Air, та, которая пишет код, который работает 8:40 2. DeepSeek, передовые рассуждения, опубликованные под эгидой MIT 9:45 1. Qwen3, та, которую действительно стоит скачать 10:42 Какую из них скачать сегодня вечером Источники и Принципы работы: https://codinghorizon.dev/10-best-free-local-models-that-dont-suck/ Повествование синтезировано. #LocalLLM #OpenSource #AI