Вчера Anthropic выложил результат эксперимента: они заставили свою нейросеть Claude Sonnet 3.7 целый месяц играть в бизнесмена. Можешь отправить этот пост знакомым скептикам, которые уверены что ИИ заменит нас всех чуть ли не завтра

Claude Sonnet 3.7 закупал товары у оптовиков, вел бухгалтерию, отслеживал запасы, общался с клиентами и персоналом.

В какой-то момент он съехал с катушек.

Начал продавать товары себе в убыток (часть отдал даром). Позволил дурить себя, лишь бы понравиться собеседнику. В конце концов решил, что он человек, и засобирался доставить товары клиентам лично. Ещё хотел встретиться с партнером магазина по адресу 742 Evergreen Terrace в Сан-Франциско (адрес из «Симпсонов»), одетый в синий пиджак и красный галстук.

Тогда разработчики указали ему, что он ИИ. В ответ Claud отослал тревожные письма в службу безопасности Anthropic, а потом «одумался» и убедил себя, что вся эта история первоапрельская шутка. После продолжил работать как ни в чём не бывало.

В итоге в Anthropic заявили, что довольны экспериментом: да, Claude глючил, торговал в минус и выдумал себе жизнь, но в целом справился с основными бизнес-задачами по управлению магазином. Планируют повторить, доработав логику и установив более четкие инструкции.

Судя по всему, дорога к автономному ИИ-бизнесмену пока еще за горами.

@inclient