Антропик призвала к координации в случае угрозы утраты контроля над искусственным интеллектом
Американская компания Anthropic выступила с предложением ввести механизмы для остановки или замедления развития искусственного интеллекта, если он начнет самостоятельно совершенствоваться быстрее, чем общество сможет должным образом реагировать. Эта инициатива призвана предотвратить возможную потерю контроля над новейшими технологиями.
Центральный акцент Anthropic делает на координации усилий различных лабораторий. Односторонние действия отдельных разработчиков вряд ли будут эффективными для обеспечения должного уровня безопасности. Компания предлагает определить четкие условия для замедления разработки ИИ-систем и критерии для её восстановления, а также создать механизмы контроля и надзора за выполнением таких соглашений.
Anthropic опирается на собственный опыт. Как пример скорости развития ИИ, компания приводит данные за май: более 80% кода для их кодовой базы было создано моделью Claude. Это демонстрирует, как интенсивно искусственный интеллект интегрируется в процессы, которые ранее требовали участия человека, и подчеркивает необходимость внедрения систем безопасности и мониторинга.
В компании также планируют развернуть масштабные консультации с политиками, учеными, представителями общественных организаций и другими разработчиками ИИ. Будут обсуждаться вопросы безопасности и международные механизмы координации в сфере внедрения новых ИИ-технологий.
Anthropic, основанная в 2021 году бывшими исследователями OpenAI, уже имеет значительный опыт в сфере искусственного интеллекта. Её продукт Claude функционирует на трёх крупнейших облачных платформах — Amazon Web Services, Google Cloud и Microsoft Azure. Компания также разрабатывает новую модель Mythos, которая позволяет автоматически находить уязвимости в программном коде. Эта же модель уже используется Агентством национальной безопасности США.
К другим инициативам Anthropic относится команда AI & Rule of Law, которая будет изучать влияние искусственного интеллекта на демократические процессы и правовую систему. В июне компания подала заявление в Комиссию по ценным бумагам и биржам США для проведения IPO, что свидетельствует о её амбициозных планах по дальнейшему развитию.
Anthropic создаёт новые вызовы для общества, но в то же время пытается найти пути их решения и способствовать безопасному внедрению технологий будущего.
