10 апреля IBM опубликовал позицию: ИИ пересекает порог от экспериментальной утилиты к базовой операционной инфраструктуре. Когда технология переходит от продукта к платформе, а затем к инфраструктуре, правила управления должны полностью меняться.
Закрытые системы разъедают маржу
Непрозрачные ИИ-структуры создают серьёзные проблемы в сетевой архитектуре. При аномальных выходах или всплесках галлюцинаций командам сложно понять, вызваны ли ошибки RAG-конвейером или весами базовой модели. Растущие вычислительные затраты, связанные с непрерывными вызовами API к закрытым моделям, съедают именно те маржи, которые эти автономные системы должны улучшать. Непрозрачные модели также препятствуют точному управлению рисками.
Рекомендации IBM
Использовать модели с открытым исходным кодом для более широкого контроля и быстрого устранения уязвимостей. Отделить приложение от базовой модели, чтобы её можно было менять под рабочую нагрузку. Направлять простые запросы на меньшие открытые модели, сохраняя дорогие вычисления для сложной автономной логики. Требовать прозрачности как абсолютного, безоговорочного требования к проектированию. Фокусироваться на оркестрации, а не на владении.
