Почему телеком-операторы выбирают открытые модели для AI-стратегии
Согласно отчету NVIDIA, 89% телеком-операторов считают открытые модели важными для своей AI-стратегии. Это связано с возможностью тонкой настройки под специфику сети, безопасным развертыванием и созданием локальных сервисов.
Телекоммуникационные компании переходят на открытые модели искусственного интеллекта не только ради снижения затрат, но и для обеспечения контроля, кастомизации и соответствия регуляторным требованиям.
Главные тезисы
- 89% телеком-операторов считают открытые модели важными для AI-стратегии
- NVIDIA Nemotron 3 LTM: 30-миллиардная модель, дообученная для телеком-задач
- SoftBank разрабатывает SoftBank Large Telecom Model на базе открытых моделей
- AT&T использует стратегию выбора моделей под конкретные рабочие нагрузки
- Indosat Ooredoo Hutchison создала локальную модель Sahabat-AI для Индонезии
Стратегическая ценность открытых моделей
Телеком-операторы все чаще строят свои AI-стратегии на базе открытых моделей. По данным последнего отчета NVIDIA State of AI in Telecommunications, 89% респондентов отмечают важность открытых исходных моделей и программного обеспечения для стратегии их компаний.
Стратегическая ценность открытых моделей для операторов заключается в пяти ключевых аспектах:
- Доступ к передовым технологиям: открытые модели обеспечивают доступ к интеллекту уровня frontier по более низкой стоимости, позволяя операторам резервировать закрытые модели для задач, где они приносят наибольшую ценность.
- Конкурентоспособность: независимые бенчмарки, такие как Artificial Analysis Intelligence Index v4.3.2, показывают, что ведущие открытые модели становятся все более конкурентоспособными в сложных задачах рассуждения, программирования, научных вычислений и агентных рабочих нагрузок.
- Кастомизация: открытые веса и рецепты обучения позволяют операторам дообучать модели под свои операции с использованием сетевых, клиентских и отраслевых данных.
- Доверие и контроль: операторы получают большую видимость и контроль над артефактами и поведением моделей, что позволяет оценивать, адаптировать и управлять ими в соответствии с регуляторными требованиями и бизнес-политикой.
- Гибкое развертывание: команды могут масштабировать и оптимизировать открытые модели для работы в публичных облаках, на частной инфраструктуре и на периферийных устройствах (edge).
Адаптация под телеком-операции
Семейство открытых моделей NVIDIA Nemotron предоставляет возможности рассуждения уровня frontier, оптимизированные для агентных рабочих процессов, а также возможности обработки речи для голосовых приложений, имея открытые веса, данные и рецепты обучения.
Японский оператор SoftBank Corp. использует открытые модели как основу для развития своих телеком-специфичных AI-возможностей. Раджив Кудли, главный научный сотрудник SoftBank Corp., отмечает, что открытые модели позволяют строить решения на основе быстрого прогресса глобальных базовых моделей, применяя накопленные знания о сети и операционный опыт компании. SoftBank активно использует NVIDIA Nemotron и другие модели для разработки SoftBank Large Telecom Model, непрерывно улучшая его для задач управления сетью, проектирования и общего администрирования.
Для упрощения кастомизации NVIDIA анонсировала 30-миллиардную модель Nemotron 3 Large Telco Model (LTM). Она была дообучена компанией AdaptKey на открытых телеком-датасетах для повышения точности в задачах, специфичных для отрасли. Модель способна понимать телеком-терминологию и эффективно рассуждать в рабочих процессах, таких как конфигурация сети и триаж клиентских инцидентов. NVIDIA также опубликовала полный рецепт (recipe) для сквозного пайплайна дообучения с использованием библиотек NVIDIA NeMo.
Масштабирование в продакшен
Для безопасного внедрения автономных телеком-операций операторам необходимы пайплайны для подготовки данных, включая анонимизацию чувствительных записей и генерацию синтетических наборов данных с сохранением конфиденциальности. Платформа NVIDIA, включающая NVIDIA AI Enterprise и NVIDIA Agent Toolkit, обеспечивает инфраструктуру для агентной оркестровки, безопасных сред выполнения и симуляции.
AT&T подчеркивает важность гибкости выбора моделей. Энди Маркус, главный директор по данным и AI в AT&T, указывает, что будущее AI заключается не в выборе одной модели, а в интеллектуальном сопоставлении каждой рабочей нагрузки с оптимальной комбинацией производительности, стоимости и контроля. Открытые модели являются ключевым элементом этой стратегии, позволяя масштабировать решения с требуемой надежностью и управлением.
Локальные инновации
Открытые модели позволяют операторам создавать AI-сервисы, адаптированные к местным языкам, отраслям, регуляторным нормам и требованиям к управлению данными. Это особенно важно для стран, строящих инфраструктуру AI в соответствии с национальными стратегиями.
Индонезийский оператор Indosat Ooredoo Hutchison разработал семейство открытых моделей Sahabat-AI. По словам Чирага Сукхадии, главного директора по данным и AI в компании, ценность открытых моделей для таких стран, как Индонезия, выходит за рамки доступа к мощному AI. Они позволяют адаптировать интеллект к местному языку, культуре и реальным потребностям. Sahabat-AI использует открытые модели как основу для создания AI, понимающего специфику Индонезии, что позволяет развивать локальные приложения и давать возможность местным разработчикам создавать решения на своих условиях.
