Crypto Currency Tracker logo Crypto Currency Tracker logo
Forklog 2026-08-17 09:44:54

Guardian нашел следы ИИ-галлюцинаций в отчете для правительства Австралии

Ключевой документ о тестировании технологий возрастной верификации, который власти Австралии использовали как обоснование для введения запрета соцсетей для подростков, содержит ссылки на несуществующие научные публикации. К такому выводу пришли журналисты The Guardian, изучившие текст отчета. Испытания провела британская организация Age Check Certification Scheme (ACCS), потратив на них 3,48 млн австралийских долларов (~$2,5 млн). Специалисты проверили более 60 решений от 48 поставщиков, а в августе 2025 года передали правительству итоговый документ объемом около тысячи страниц в десяти томах. Тогда министр связи Аника Уэллс назвала полученные данные подтверждением того, что у платформ существует «множество эффективных инструментов» для возрастной верификации. Сам запрет для пользователей младше 16 лет вступил в силу 10 декабря 2025 года. Шесть ссылок с ошибками Основная часть отчета посвящена практическим испытаниям уже существующих решений. Проблемы вскрылись в главе о перспективных разработках — именно там авторы обращаются к научной литературе. Первым на несоответствия указал автор обращения в сенатский комитет, который сейчас рассматривает поправки об ужесточении запрета на соцсети для пользователей младше 16 лет. В документе утверждается, что как минимум две ссылки выглядят как типичные «галлюцинации» ИИ, а не отсылки к реальным источникам. Журналисты Guardian проверили данные и насчитали в той же главе шесть нарушений, которые группируются в четыре категории: фиктивные DOI; DOI, переадресующие на посторонние работы; комбинации «автор-журнал-год», не подтвержденные ни одной публикацией; корректные ссылки на статьи, но без тех утверждений, которые им приписывает отчет. Например, одну статью ACCS датировала мартом 2025 года, но на самом деле та вышла только в июле. В другом случае ссылка на Weber et al. 2011 никуда не вела — ее не нашли ни в указанном журнале, ни в исследовании Университета Монаша, куда отсылали авторы отчета. ChatGPT в метаданных Представитель ACCS категорически отрицал использование ИИ при подготовке документа. По его словам, организация не применяла нейросети ни к тексту, ни к цитируемым материалам, а каждую ссылку тщательно проверяли на достоверность и релевантность. Однако после того, как Guardian обнаружила в некоторых частях отчета четыре ссылки с метаданными, прямо указывающими на ChatGPT, позицию пришлось смягчить. В ACCS признали, что искусственный интеллект действительно переписывал отдельные фрагменты для краткости, но настаивали: само исследование и итоговый текст созданы без участия чат-бота OpenAI. Представители организации также заявили, что метаданные ChatGPT сами по себе являются достаточным уведомлением о применении ИИ, а раз ссылки ведут куда надо, то претензий быть не должно. Однако проверка исправленного списка источников, который ACCS передала изданию, обнаружила новые нестыковки: годы, авторы и названия журналов в нем расходились с оригинальными цитатами из отчета. «Горстка ошибок» на тысячу страниц В Департаменте инфраструктуры и связи сообщили, что изучают претензии и намерены связаться с подрядчиком. 14 августа на сенатских слушаниях чиновники пересказали версию ACCS: по их словам, ссылки были рабочими на момент публикации, а «сломались» позже. Первый помощник секретаря департамента Сара Ванденбрук уточнила, что ведомство эту версию самостоятельно не проверяло и считает подобную проверку «трудоемкой». При этом в департаменте подчеркнули, что речь идет лишь о «горстке ошибок» на 26 страницах с библиографией. Профессор Австралийского национального университета Кристиан Дауни предупредил, что ложные ссылки в документах для правительства ведут к ошибочным решениям и разрушают доверие к институтам. По его мнению, эта ситуация требует закрепления четких требований в контрактах и введения санкций за нарушения. Независимый сенатор Фатима Пейман потребовала от правительства официальных извинений и возврата средств от подрядчика. Она напомнила, что аналогичный инцидент с Deloitte год назад должен был научить власти внимательнее относиться к источникам. В октябре 2025 года консалтинговая компания уже возвращала часть выплат по контракту на 440 000 австралийских долларов, признав использование ИИ при подготовке отчета с ошибками. Напомним, в июле австралийский регулятор eSafety подал иск против Telegram, обвинив мессенджер в отказе удалять материалы с пропагандой терроризма.

Прочтите Отказ от ответственности : Весь контент, представленный на нашем сайте, гиперссылки, связанные приложения, форумы, блоги, учетные записи социальных сетей и другие платформы («Сайт») предназначен только для вашей общей информации, приобретенной у сторонних источников. Мы не предоставляем никаких гарантий в отношении нашего контента, включая, но не ограничиваясь, точность и обновление. Никакая часть содержания, которое мы предоставляем, представляет собой финансовый совет, юридическую консультацию или любую другую форму совета, предназначенную для вашей конкретной опоры для любых целей. Любое использование или доверие к нашему контенту осуществляется исключительно на свой страх и риск. Вы должны провести собственное исследование, просмотреть, проанализировать и проверить наш контент, прежде чем полагаться на них. Торговля - очень рискованная деятельность, которая может привести к серьезным потерям, поэтому проконсультируйтесь с вашим финансовым консультантом, прежде чем принимать какие-либо решения. Никакое содержание на нашем Сайте не предназначено для запроса или предложения