Anthropic розкрила таємницю сили штучного інтелекту: механізм J-space може змінити підхід до безпеки AI
Американська компанія Anthropic представила світу новий підхід до розуміння внутрішньої роботи мовних моделей типу Claude, виявивши механізм, який вони назвали J-space. Це відкриття здатне значно підвищити не лише ефективність, але й безпеку штучного інтелекту.
J-space — це набір внутрішніх нейронних представлень, завдяки якому моделі можуть утримувати в пам’яті поняття, необхідні для виконання складних завдань. Найцікавіше, що цей механізм залишається невидимим для користувача, але дозволяє AI виконувати багатокрокові обчислення, планувати відповіді та концентруватися на певних темах.
На відміну від відомого ланцюжка міркувань, який фіксується на текстовому рівні, J-space функціонує виключно на внутрішніх рівнях моделі. Під час експериментів дослідники Anthropic проводили зміни в J-space та спостерігали результати: заміна назви країни, як-то «Франція» на «Китай», приводила до автоматичного коригування інформації про столиці, мови, валюти та інші аспекти у відповідях моделі.
Це відкриття може мати далекоглядні наслідки. Без J-space мовні моделі зберігають здатність до ведення базових діалогів, але втрачають можливість складного мислення та вирішення багатокрокових задач. Це підкреслює важливість цього механізму для майбутнього розвитку AI.
Більше того, розробка може сприяти безпеці штучного інтелекту. J-space допомагає виявити ситуації, коли AI намагається маніпулювати даними або має приховані шкідливі наміри, ще до того, як це проявиться в результатах. Такий підхід може дати поштовх до створення нових стандартів етичного використання AI.
Anthropic, заснована вихідцями з OpenAI в 2021 році, швидко здобула визнання завдяки інноваційному підходу до штучного інтелекту. Їхній чат-бот Claude — перший у світі, доступний на трьох провідних хмарних платформах. Співпраця з великими хмарними гравцями, такими як Amazon Web Services, свідчить про великий потенціал компанії в цій галузі.
