Искусственный интеллект Google генерирует миллионы ошибочных ответов каждый час
Исследование показало, что система AI Overviews от Google, несмотря на ее высокую точность, генерирует десятки миллионов ложных ответов каждый час. Кроме того, система ссылается на ненадежные источники и может быть легко подвергнута манипуляциям.
По результатам совместного исследования New York Times и стартапа Oumi, выявлено, что AI Overviews, система ответов от Google, несмотря на точность в 90%, постоянно генерирует значительное количество неверных результатов. Хотя с обновлением до версии Gemini 3 точность системы выросла с 85% в октябре 2025 года до 91% в феврале 2026 года, количество ошибок остается значительным из-за обработки более пяти триллионов запросов в год. Таким образом, даже 9% погрешности означают сотни тысяч неточных ответов каждую минуту.
Проблемы, выявленные исследованием, включают частое использование сомнительных источников, таких как Facebook и Reddit. Это, в свою очередь, приводит к тому, что более половины правильных ответов являются «необоснованными», так как сторонние сайты не подтверждают предоставленную информацию полностью. Доля таких ответов только выросла с 37% до 56% после перехода на модель Gemini 3.
Анализ также подчеркнул разнообразные типичные ошибки: от использования ненадежных источников, как в случае с неправильной датой открытия музея Боба Марли, до ложной интерпретации корректных сайтов, как в запросе о реке в Голдсборо. В ответах часто игнорируются факты или добавляется ложный контекст, как это было с историей о виолончелисте Йо-Йо Ма.
Исследование также выявило уязвимость системы к манипуляциям. Так, придуманный блог соведущим подкаста BBC Томасом Жерменом, сразу после публикации был принят системой как действительный факт, что указывает на возможности обмана системы посредством намеренных манипуляций.
Компания Google признала существование некоторых проблем с точностью AI Overviews, отметив, что предупреждает пользователей о необходимости проверки фактов. В то же время в Google раскритиковали исследование, заявив, что оно имеет недостатки и не полностью отражает реальные поисковые запросы пользователей.
AI Overviews — функция поисковой системы Google, впервые запущенная в 2024 году, использует искусственный интеллект (модель Gemini) для создания автоматических и сжатых ответов на запросы пользователей, и приобрела широкое распространение, в частности и в Украине.
Читайте также: Падение поискового трафика и рецессия доверия: 10 глобальных Digital и Tech трендов на 2026–2030 годы.
