Anthropic закликала до координації у разі загрози втрати контролю над штучним інтелектом
Американська компанія Anthropic виступила з пропозицією запровадити механізми для зупинки або уповільнення розвитку штучного інтелекту, якщо він почне самостійно вдосконалюватися швидше, ніж суспільство зможе належним чином реагувати. Ця ініціатива покликана запобігти можливій втраті контролю над новітніми технологіями.
Центральний акцент Anthropic робить на координації зусиль різних лабораторій. Односторонні дії окремих розробників навряд чи будуть ефективними для забезпечення належного рівня безпеки. Компанія пропонує визначити чіткі умови для уповільнення розробки ШІ-систем та критерії для її відновлення, а також створити механізми контролю і нагляду за виконанням таких угод.
Anthropic спирається на власний досвід. Як приклад швидкості розвитку ШІ, компанія наводить дані за травень: понад 80% коду для їхньої кодової бази було створено моделлю Claude. Це демонструє, як інтенсивно штучний інтелект інтегрується у процеси, що раніше вимагали участі людини, і підкреслює необхідність впровадження систем безпеки та моніторингу.
У компанії також планують розгорнути масштабні консультації з політиками, науковцями, представниками громадських організацій та іншими розробниками ШІ. Обговорюватимуться питання безпеки та міжнародні механізми координації у сфері впровадження нових ШІ-технологій.
Anthropic, заснована у 2021 році колишніми дослідниками OpenAI, вже має значний досвід у сфері штучного інтелекту. Її продукт Claude функціонує на трьох найбільших хмарних платформах — Amazon Web Services, Google Cloud та Microsoft Azure. Компанія також розробляє нову модель Mythos, яка дозволяє автоматично знаходити вразливості у програмному коді. Ця ж модель вже використовується Агентством національної безпеки США.
До інших ініціатив Anthropic відноситься команда AI & Rule of Law, яка вивчатиме вплив штучного інтелекту на демократичні процеси та правову систему. У червні компанія подала заяву до Комісії з цінних паперів і бірж США для проведення IPO, що свідчить про її амбіційні плани щодо подальшого розвитку.
Anthropic створює нові виклики для суспільства, але водночас намагається знайти шляхи їх вирішення й сприяти безпечному впровадженню технологій майбутнього.
