Доверять ИИ-помощникам нельзя — в половине ответов содержатся серьёзные ошибки, показало исследование

Согласно новому исследованию Европейского вещательного союза (EBU) и BBC, ведущие ИИ-помощники искажают новостной контент почти в половине своих ответов, пишет Reuters. Около 45 % проанализированных ответов ИИ-помощников содержали как минимум одну значимую ошибку, а 81 % ответов имели какую-либо проблему, показало исследование.

Пять причин полюбить HONOR X8c

HUAWEI FreeArc: вероятно, самые удобные TWS-наушники

Пять причин полюбить HONOR Magic7 Pro

Фитнес-браслет HUAWEI Band 10: настоящий металл

Обзор умных часов HUAWEI WATCH 5: часы юбилейные

Пять причин полюбить HONOR Pad V9

Почему ИИ никак не сесть на безматричную диету

Hollow Knight: Silksong — песнь страданий и радостей. Рецензия

В исследовании приняли участие 22 государственные медиаорганизации из 18 стран, включая Францию, Германию, Испанию, Великобританию и США. Специалисты EBU и BBC проанализировали 3000 ответов на вопросы о новостях от ведущих ИИ-помощников на 14 языках, включая ChatGPT, Copilot, Gemini и Perplexity, которые оценивались на точность, поиск источника информации и способность отличать мнение от фактов.

О существовании проблемы наличия галлюцинаций, когда ИИ-модель генерирует неверную или вводящую в заблуждение информацию, часто из-за таких факторов, как недостаток данных, ранее заявляли OpenAI и Microsoft. При этом компании отметили, что работают над устранением этой проблемы.

В свою очередь, сервис Perplexity AI утверждает, что один из режимов «Глубокое исследование» имеет точность 93,9 % с точки зрения сопоставления с фактами.

Согласно исследованию, треть ответов ИИ-помощников содержали серьезные ошибки в источнике данных, такие как отсутствие, вводящая в заблуждение или неверная атрибуция. Примерно в 72 % ответов Gemini, ИИ-помощника Google, были выявлены серьёзные проблемы с источником данных, тогда как у остальных ИИ-помощников этот показатель был менее чем 25 %. Примерно в 20 % ответов были отмечены проблемы с точностью, включая предоставление устаревшей информации.

Согласно отчёту Digital News Report 2025 института Reuters Institute, около 7 % всех онлайн-потребителей новостей и 15 % людей моложе 25 лет используют ИИ-помощников для получения новостей. Поскольку ИИ-помощников всё чаще используют вместо традиционных поисковых систем новостей, доверие к ним со стороны общества может быть подорвано, заявил Европейский вещательный союз. В связи с этим исследователи призвали компании в сфере ИИ повысить качество работы своих ИИ-помощников с новостными запросами.

Рейтинг статьи
( Пока оценок нет )
Понравилась статья? Поделитесь на своей стене!

Основатель и идеолог журнала, по совместительству автор статей на историческую тему. Закончил СЛИ (филиал СПбГЛТА им. Кирова) в 2012 году. Подробнее о команде проекта.

Mental Sky
Добавить комментарий