Энтузиасты показали, как запустить одну из самых мощных открытых моделей Kimi K3 даже на старом компьютере. Они оптимизировали её через библиотеку AirLLM, снизив требования к памяти и ресурсам. В результате модель на 2,78 триллиона параметров может работать на ПК с 8 ГБ ОЗУ, а сам движок занимает около 176 КБ. Сборка доступна бесплатно.
https://t.me/
https://t.me/
