Salesforce пересматривает подход к использованию больших языковых моделей в корпоративных продуктах. Компания заявила, что LLM оказались ненадежным инструментом для бизнес-задач. Первоначальный энтузиазм сменился прагматичным взглядом на технологию.

Главная проблема — непредсказуемость работы моделей. Разработчики Salesforce отметили несколько критичных недостатков. LLM часто теряют контекст в диалоге. Они игнорируют инструкции или ведут себя непредсказуемо. Для критически важных бизнес-процессов это создает серьезные риски.

Компания планировала автоматизировать рутинные задачи с помощью гибких AI-решений. Практика показала другое. Нестабильность моделей негативно влияет на работу систем и опыт пользователей. Salesforce решила изменить стратегию.

Теперь компания ограничивает креативные возможности LLM. Вместо этого фокус смещается на строгую логику выполнения сценариев. AI больше не будет генерировать текст с элементами творчества. Система работает по заранее определенным правилам.

Такой подход минимизирует непредсказуемость. Сотрудники Salesforce объясняют логику решения. Жесткие сценарии позволяют сохранять контроль над корпоративными приложениями. Они обеспечивают предсказуемость работы и снижают риск ошибок.

Ошибки LLM могут привести к финансовым потерям. Также они создают репутационные риски для компаний. Salesforce хочет избежать таких ситуаций через ограничение гибкости моделей.

Решение Salesforce отражает общую тенденцию на рынке. Крупные компании начинают осторожнее относиться к генеративному AI в критичных системах. Проверенные алгоритмы с четкой логикой часто оказываются надежнее гибких, но нестабильных моделей.

Это не означает полный отказ от AI. Salesforce продолжает использовать технологии искусственного интеллекта. Но теперь компания выбирает решения с предсказуемым поведением вместо креативных, но непредсказуемых LLM.

Переход к жестким сценариям может снизить инновационность продуктов. Но он повышает надежность корпоративных систем. Для бизнес-приложений стабильность часто важнее креативности.

Опыт Salesforce показывает, что большие языковые модели пока не готовы для массового применения в критичных бизнес-процессах. Технология требует доработки перед тем, как компании смогут полностью на нее положиться.