Chinese LLaMA & Alpaca LLMs

Нещодавно виникло зростаюче зацікавлення у галузі обробки природної мови завдяки розробці великих мовних моделей (Large Language Models, LLM), таких як ChatGPT, GPT-4 і т.д. Моделі LLM проявили свій потенціал у досягненні загального штучного інтелекту (AGI). Однак, велика обчислювальна потреба цих моделей поставила певні виклики перед відкритим науковим дослідженням.

Цей проект спрямований на:

• ? Покращення китайського словника оригінальної моделі LLaMA, покращення ефективності китайського кодування та декодування
• ? Відкрите джерело попередньо-навчених великих моделей китайської LLaMA (7B, 13B), що використовують китайські тексти
• ? Відкрите джерело китайської великої моделі Alpaca (7B, 13B), яка була додатково налаштована за допомогою інструкцій
• ? Можливість встановлення локальної квантованої версії моделі та її використання на персональному комп'ютері або ноутбуці
• ? Нижче наведено зображення реального досвіду після локального розгортання моделі версії 7B (анімація не прискорена, виміряно на Apple M1 Max).

Відмова від відповідальності: Ресурси, що стосуються цього проекту, призначені виключно для наукових досліджень.