LLaMA-2-7B-32K — це ШІ для генерації тексту, з моделлю великого розміру (7 мільярдів параметрів), створена Microsoft та Meta. Модель вільна для використання у комерційних та наукових цілях, з верхньою межею в 700 мільйонів комерційних клієнтів в місяць. У цій модифікації Llama2, вікно контексту збільшене до 32 тисяч токенів (було 4к). Вікно контексту працює як короткострокова памʼять.
Оголошення:
https://together.ai/blog/llama-2-7b-32kМодель:
https://huggingface.co/togethercomputer/LLaMA-2-7B-32K
