lorax (LoRA eXchange) — це фреймворк, який дозволяє використовувати
тисячі донавчених модельок на одному графічному прискорювачу одночасну, істотно зменшуючи витрати та затримки. lorax також дозволяє обʼєднувати декілька доопрацьованих модельок в одну модельку, яка може мати навіть кращі характеристики чим окремі модельки. lorax придатний для промислового використання.
Перевагою lorax є можливість донавчити одну велику модель на прикладах під свої специфічні потреби, створивши велику кількість спеціалізованих розумних інструментів, а потім користуватися ними всіма одночасно, без втрат на перемикання між повними моделями.
Проєкт:
https://github.com/predibase/lorax