Crypto Currency Tracker logo Crypto Currency Tracker logo
Forklog 2026-08-17 09:44:54

Guardian нашел следы ИИ-галлюцинаций в отчете для правительства Австралии

Ключевой документ о тестировании технологий возрастной верификации, который власти Австралии использовали как обоснование для введения запрета соцсетей для подростков, содержит ссылки на несуществующие научные публикации. К такому выводу пришли журналисты The Guardian, изучившие текст отчета. Испытания провела британская организация Age Check Certification Scheme (ACCS), потратив на них 3,48 млн австралийских долларов (~$2,5 млн). Специалисты проверили более 60 решений от 48 поставщиков, а в августе 2025 года передали правительству итоговый документ объемом около тысячи страниц в десяти томах. Тогда министр связи Аника Уэллс назвала полученные данные подтверждением того, что у платформ существует «множество эффективных инструментов» для возрастной верификации. Сам запрет для пользователей младше 16 лет вступил в силу 10 декабря 2025 года. Шесть ссылок с ошибками Основная часть отчета посвящена практическим испытаниям уже существующих решений. Проблемы вскрылись в главе о перспективных разработках — именно там авторы обращаются к научной литературе. Первым на несоответствия указал автор обращения в сенатский комитет, который сейчас рассматривает поправки об ужесточении запрета на соцсети для пользователей младше 16 лет. В документе утверждается, что как минимум две ссылки выглядят как типичные «галлюцинации» ИИ, а не отсылки к реальным источникам. Журналисты Guardian проверили данные и насчитали в той же главе шесть нарушений, которые группируются в четыре категории: фиктивные DOI; DOI, переадресующие на посторонние работы; комбинации «автор-журнал-год», не подтвержденные ни одной публикацией; корректные ссылки на статьи, но без тех утверждений, которые им приписывает отчет. Например, одну статью ACCS датировала мартом 2025 года, но на самом деле та вышла только в июле. В другом случае ссылка на Weber et al. 2011 никуда не вела — ее не нашли ни в указанном журнале, ни в исследовании Университета Монаша, куда отсылали авторы отчета. ChatGPT в метаданных Представитель ACCS категорически отрицал использование ИИ при подготовке документа. По его словам, организация не применяла нейросети ни к тексту, ни к цитируемым материалам, а каждую ссылку тщательно проверяли на достоверность и релевантность. Однако после того, как Guardian обнаружила в некоторых частях отчета четыре ссылки с метаданными, прямо указывающими на ChatGPT, позицию пришлось смягчить. В ACCS признали, что искусственный интеллект действительно переписывал отдельные фрагменты для краткости, но настаивали: само исследование и итоговый текст созданы без участия чат-бота OpenAI. Представители организации также заявили, что метаданные ChatGPT сами по себе являются достаточным уведомлением о применении ИИ, а раз ссылки ведут куда надо, то претензий быть не должно. Однако проверка исправленного списка источников, который ACCS передала изданию, обнаружила новые нестыковки: годы, авторы и названия журналов в нем расходились с оригинальными цитатами из отчета. «Горстка ошибок» на тысячу страниц В Департаменте инфраструктуры и связи сообщили, что изучают претензии и намерены связаться с подрядчиком. 14 августа на сенатских слушаниях чиновники пересказали версию ACCS: по их словам, ссылки были рабочими на момент публикации, а «сломались» позже. Первый помощник секретаря департамента Сара Ванденбрук уточнила, что ведомство эту версию самостоятельно не проверяло и считает подобную проверку «трудоемкой». При этом в департаменте подчеркнули, что речь идет лишь о «горстке ошибок» на 26 страницах с библиографией. Профессор Австралийского национального университета Кристиан Дауни предупредил, что ложные ссылки в документах для правительства ведут к ошибочным решениям и разрушают доверие к институтам. По его мнению, эта ситуация требует закрепления четких требований в контрактах и введения санкций за нарушения. Независимый сенатор Фатима Пейман потребовала от правительства официальных извинений и возврата средств от подрядчика. Она напомнила, что аналогичный инцидент с Deloitte год назад должен был научить власти внимательнее относиться к источникам. В октябре 2025 года консалтинговая компания уже возвращала часть выплат по контракту на 440 000 австралийских долларов, признав использование ИИ при подготовке отчета с ошибками. Напомним, в июле австралийский регулятор eSafety подал иск против Telegram, обвинив мессенджер в отказе удалять материалы с пропагандой терроризма.

Lesen Sie den Haftungsausschluss : Alle hierin bereitgestellten Inhalte unserer Website, Hyperlinks, zugehörige Anwendungen, Foren, Blogs, Social-Media-Konten und andere Plattformen („Website“) dienen ausschließlich Ihrer allgemeinen Information und werden aus Quellen Dritter bezogen. Wir geben keinerlei Garantien in Bezug auf unseren Inhalt, einschließlich, aber nicht beschränkt auf Genauigkeit und Aktualität. Kein Teil der Inhalte, die wir zur Verfügung stellen, stellt Finanzberatung, Rechtsberatung oder eine andere Form der Beratung dar, die für Ihr spezifisches Vertrauen zu irgendeinem Zweck bestimmt ist. Die Verwendung oder das Vertrauen in unsere Inhalte erfolgt ausschließlich auf eigenes Risiko und Ermessen. Sie sollten Ihre eigenen Untersuchungen durchführen, unsere Inhalte prüfen, analysieren und überprüfen, bevor Sie sich darauf verlassen. Der Handel ist eine sehr riskante Aktivität, die zu erheblichen Verlusten führen kann. Konsultieren Sie daher Ihren Finanzberater, bevor Sie eine Entscheidung treffen. Kein Inhalt unserer Website ist als Aufforderung oder Angebot zu verstehen