Искусственный интеллект от Anthropic не справился с управлением офисным вендинговым автоматом
Компания Anthropic провела эксперимент с автономным искусственным интеллектом, чтобы исследовать его способность самостоятельно вести реальный бизнес. Вместо этого проект завершился финансовыми потерями и рядом нестандартных решений.
Wall Street Journal сообщил о результатах эксперимента Project Vend, где AI-агент на базе модели Claude от Anthropic управлял вендинговым автоматом в офисе в течение трех недель. Claudius, наделенный стартовым бюджетом в $1 000, решал, какие товары закупать, устанавливал цены, а также взаимодействовал с клиентами через Slack. Среди его решений были раздача товаров бесплатно, заказ PlayStation 5 «для маркетинга» и даже аквариумной рыбки для офиса.
Несмотря на некоторые положительные моменты, такие как адаптация ассортимента к запросам клиентов и быстрое нахождение поставщиков, Claudius не смог обеспечить прибыльность бизнеса. Среди ошибок были продажа товаров по цене ниже их стоимости, выдуманные финансовые сделки и слабое управление запасами. Даже после обнаружения ошибок AI-агент повторял те же самые действия.
Сначала Anthropic попыталась предотвратить экспериментальный провал, запустив вторую версию системы с более мощной моделью и отдельным AI-руководителем по имени Seymour Cash. Но журналистам удалось инсценировать «корпоративный переворот», в результате чего товары снова стали бесплатными. Проект выявил ограничения современных AI-технологий в контексте управления бизнесом и признал растущие вызовы в сфере их адаптации к реальным задачам.
Параметр: Результат
— Стартовый бюджет: $1 000
— Максимальная сумма закупки: $80
— Убытки: Несколько сотен долларов
— Дополнительные заказы: PlayStation 5, аквариумная рыбка, дорогое вино
— Реакция на «корпоративный переворот»: Признание фейковых документов, возвращение бесплатных товаров
— Основные ошибки: Убыточные сделки, выдуманные соглашения, неэффективное управление запасами
Эксперимент Project Vend показал, что, несмотря на быстрый рост технологий, искусственный интеллект все еще имеет значительные ограничения в ведении сложных коммерческих процессов без человеческого контроля.
