Технология XGen

XGen – это открытая 7B-языковая модель от Salesforce, изначально спроектированная для работы с длинными последовательностями. Линия XGen-7B обучалась на до 1,5 трлн токенов с длиной контекста до 8K, что делает её особенно сильной в задачах с большими документами, длинной историей диалога и комплексными промптами. Доступны варианты XGen-7B-4K и XGen-7B-8K, а также инструкционно дообученные модели XGen-7B-8K-Inst под лицензией Apache 2.0, что удобно для коммерческих внедрений. Архитектурно XGen – плотный decoder-only Transformer, оптимизированный под эффективное обучение и инференс на длинных контекстах при умеренном количестве параметров (7B). На базе XGen можно строить ассистентов для работы с документацией, юридические и финансовые RAG-системы, аналитических помощников, чат-ботов с «долгой памятью», а также встроенные ИИ-модули для CRM и внутренних порталов. FreeBlock берёт на себя дообучение XGen на данных компании, настройку пайплайна поиска+генерации и деплой в вашей инфраструктуре. Если вы хотите извлекать ценность из длинных документов и диалогов, заказывайте разработку ИИ-проектов на базе XGen в компании FreeBlock