Автор Гілка: lorax — тисячі моделей ШІ на одному GPU  (Прочитано 1757 раз)

Відсутній Володимир Лісівка

  • Адміністратор ЩОДО
  • Видавець
  • *****
  • дописів: 3807
  • Карма: +9/-0
  • Програміст
lorax (LoRA eXchange) — це фреймворк, який дозволяє використовувати тисячі донавчених модельок на одному графічному прискорювачу одночасну, істотно зменшуючи витрати та затримки. lorax також дозволяє обʼєднувати декілька доопрацьованих модельок в одну модельку, яка може мати навіть кращі характеристики чим окремі модельки. lorax придатний для промислового використання.

Перевагою lorax є можливість донавчити одну велику модель на прикладах під свої специфічні потреби, створивши велику кількість спеціалізованих розумних інструментів, а потім користуватися ними всіма одночасно, без втрат на перемикання між повними моделями.

Проєкт: https://github.com/predibase/lorax
[Fedora Linux]