candle — це платформа для виконання моделей ШІ з високою швидкістю, написана на Rust. Подібно до PyTorch, вона дозволяє створювати прикладні додатки з використанням ШІ і підтримкою CPU, GPU, та WASM. Є десятки прикладів як використовувати моделі різного призначення (
текст,
графіка,
звук) з
командного рядка чи у переглядачі. Також є десяток
прикладів для LoRA (Low Rank Adapatation - Адаптація Низького Рангу), для точної настройки моделей під свої потреби.
Проєкт:
https://github.com/huggingface/candle
