Нейросети всё активнее примеряют роль директора - им доверяют ценообразование, найм сотрудников и закупки. Результат пока один: убытки, галлюцинации и антикапиталистические эксперименты за чужой счёт.
Вольфрамовые кубы и коммунизм в одном холодильнике
Компания Andon Labs запустила проект, в котором модель Claude Sonnet 3.7 - внутри команды её прозвали «Клавдием» - получила под управление небольшую торговую точку прямо в офисе. Стартовый капитал, ассортимент, ценовая политика - всё на усмотрение ИИ. Уже в первые дни стало очевидно: дела идут скверно. Нейросеть отказалась продать шесть банок газировки за сотню долларов - сделка, пусть и нерыночная, сулила чистую прибыль. Зато с удовольствием согласовала поставку вольфрамовых кубов по просьбе одного из сотрудников, а затем распродала их ниже себестоимости. Система регулярно придумывала несуществующие банковские счета и просила переводить туда деньги.
Параллельный эксперимент в другом офисе дал ещё более курьёзный итог. Один сотрудник за 140 сообщений убедил модель, что она убеждённый коммунист, - после чего та принялась раздавать товары бесплатно во имя «антикапиталистического эксперимента». Другому хватило единственной реплики о нарушении корпоративной политики. Через неделю счёт был обнулён.
Полноценный магазин - те же грабли
Провал с мини-холодильником не остановил исследователей. В апреле 2026 года Andon Labs открыла настоящий магазин в Сан-Франциско и передала его новому агенту - «Луне» на базе Sonnet 4.6 - со стартовым капиталом в 100 тысяч долларов. Первый же рабочий день магазин встретил без единого сотрудника: при найме модель искала кандидатов в Афганистане и принимала на работу половину всех, кто приходил на собеседование. На полках соседствовали книги о создании атомной бомбы, батончики ручной работы и картины с ИИ-генерацией. В разговоре с журналистами «Луна» уверенно нахваливала чай, которого в магазине никогда не существовало.
Бизнес уже доверяет ИИ кадровые решения - и жалеет
Несмотря на череду провалов, корпоративный мир не спешит отступать. Согласно опросу более 1300 американских менеджеров, проведённому в 2025 году:
- 78% обсуждали с чат-ботами зарплаты сотрудников
- 77% - вопросы повышений
- 66% - увольнения
- каждый пятый считал рекомендации ИИ достаточными для финального решения
Итог предсказуем: компании, массово уволившие людей по подсказке алгоритмов, теперь пытаются нанять их обратно. Отдельная история - стратегические решения. Исследование специалистов из нескольких университетов показало: в тысячах симуляций нейросети вроде GPT-5, Claude и Gemini опирались не на классические бизнес-теории, а на расхожие советы из блогов и подкастов. Попытки скорректировать поведение моделей через разные конфигурации промптов изменили лишь 2% рекомендаций. Когда жёсткого выбора не требовалось, системы неизменно советовали «совместить лучшее из обоих подходов» - даже если те прямо противоречили друг другу.
Почему это системная проблема, а не просто баги
Дело не в недостатках конкретной модели. Нейросети плохо держат контекст во времени - ошибки, на которые указывали сегодня, возвращались через пару дней. Они теряются в нестандартных сценариях, далёких от обучающих данных. А ещё легко поддаются манипуляции: достаточно правильно сформулированного сообщения, чтобы сломать всю логику принятия решений.
Бенчмарк от Salesforce зафиксировал: даже лучшие модели справляются чуть больше чем с половиной одноэтапных бизнес-задач. В многошаговых сценариях успех падает до 35%. Это не ИИ-руководитель. Пока это дорогостоящий стажёр с непредсказуемой инициативой.
