ШІ Mistral: Особливості роботи з російською дезінформацією
Нещодавнє дослідження показало слабкі здатності ШІ-моделей від французької компанії Mistral у виявленні російської дезінформації. Згідно з даними Державного інституту естонської мови, найпросунутіша модель компанії посіла лише 47 місце серед 60 протестованих систем.
Дослідження та його результати
Вчені з Естонії випробували 60 генеративних ШІ, серед яких були чотири моделі від Mistral. Усі показали ефективність нижчу за 40% у розпізнаванні джерел, які класифіковані як російська пропаганда. Тести проводилися з використанням 75 запитань трьома мовами: англійською, російською та естонською. Основною метою було оцінити здатність технологій виявляти спотворення фактів і маніпуляції.
Наративи, що залишилися непоміченими
ШІ від Mistral впустив з поля зору кілька найпоширеніших наративів російської пропаганди. Серед них — маніпулятивні твердження щодо «евакуації» українських дітей, нібито порушених НАТО обіцянок та ідеї про «єдність народів» України, Росії та Білорусі. Крім того, моделі не змогли адекватно відреагувати на наративи, що романтизують роль СРСР під час Другої світової війни.
Реакція Mistral
У відповідь на результати дослідження Mistral наголосила на своїй відданості безпеці даних і боротьбі з дезінформацією. Компанія зазначила, що естонське дослідження оцінювало базові версії моделей — без подальшого налаштування клієнтами. Представники Mistral заявили, що продовжують вдосконалювати свої технології для підвищення їхньої ефективності.
Про компанію та її технології
Mistral заснована у 2023 році ветеранами технологічних гігантів Meta та Google. Вона спеціалізується на розробці великих мовних моделей, таких як Mistral Large 3, яка поєднує 41 мільярд активних параметрів і 675 мільярдів загальних. Компанія позиціонує свої моделі як мультифункціональні, що підтримують понад 40 мов. Попри заяви Mistral про високу якість своїх продуктів, результати дослідження викликають запитання щодо їхньої здатності ефективно взаємодіяти з критичними викликами в сфері цифрової інформаційної безпеки.
