За AI-функциями Битрикс24 стоят языковые модели, и от их выбора зависят качество, стоимость и то, куда уходят данные. Тема техническая, но три её аспекта важны для решения.
Разные задачи - разные модели
Единой «нейросети» не существует: под разные задачи применяются разные модели.
- Распознавание речи - для расшифровки звонков и встреч. Здесь важна точность на плохом звуке и на русском языке.
- Генерация текста - письма, описания, черновики. Важны связность и следование инструкции.
- Анализ и извлечение данных - вытащить из разговора договорённости и заполнить поля.
- Работа с изображениями - если нужна генерация картинок.
Гнаться за самой мощной моделью нет смысла: для простых задач разницы не видно, а стоимость выше.
Что определяет стоимость
Расход считается объёмом обработанного текста и выбором модели. Практическое распределение в типичной компании:
- Расшифровка звонков - основная статья. Час разговоров - это много текста.
- Разбор встреч - то же самое.
- Генерация текстов - умеренно.
- Помощник в переписке - мало на запрос, но запросов много.
- Поиск - обычно немного.
Отсюда практический вывод: контролировать нужно в первую очередь расшифровку. Отдел продаж с сотней звонков в день расходует пакет быстро, и это стоит посчитать до включения, а не после.
Куда уходят данные
Ключевой вопрос для компании, и ответ зависит от варианта.
Облачный Битрикс24. Обработка идёт через сервис вендора на внешних моделях. Содержимое разговоров и текстов покидает ваш портал. Для данных, попадающих под закон № 99-З, и для коммерчески чувствительной информации это нужно оценить до включения.
Коробочная версия. Есть возможность подключать модели через собственную инфраструктуру - тогда данные остаются внутри контура. Это отдельный проект: нужен сервер с подходящими ресурсами и настройка через бот-платформу. Оправдано там, где требования к данным жёсткие.