Технология Falcon

Falcon – это семейство открытых языковых моделей от Technology Innovation Institute (ОАЭ), доступных в вариантах на 7B, 40B и 180B параметров. Флагман Falcon 180B – одна из крупнейших открытых LLM, обученная на ~3,5 трлн токенов корпуса RefinedWeb и других высококачественных данных, что позволяет ей конкурировать с закрытыми моделями уровня GPT-3.5 и PaLM по качеству текста, кода и рассуждений. Типичная длина контекста – около 2K токенов, чего достаточно для сложных диалогов и работы с документами среднего объёма. Технически Falcon – это decoder-only Transformer с оптимизированной архитектурой внимания и масштабной предобученной базой, доступный под открытой лицензией для коммерческого использования. На базе Falcon можно разрабатывать корпоративных чат-ботов, ассистентов поддержки, инструменты для разработчиков, системы генерации и анализа текстов, а также RAG-решения поверх внутренних баз знаний. Команда FreeBlock подберёт подходящую версию Falcon, дообучит её на ваших данных и интегрирует в продукты и инфраструктуру. Если вам нужны мощные открытые LLM без вендор-локина, заказывайте разработку ИИ-проектов на базе Falcon в компании FreeBlock