Crypto Currency Tracker logo Crypto Currency Tracker logo
Forklog 2026-08-17 09:44:54

Guardian нашел следы ИИ-галлюцинаций в отчете для правительства Австралии

Ключевой документ о тестировании технологий возрастной верификации, который власти Австралии использовали как обоснование для введения запрета соцсетей для подростков, содержит ссылки на несуществующие научные публикации. К такому выводу пришли журналисты The Guardian, изучившие текст отчета. Испытания провела британская организация Age Check Certification Scheme (ACCS), потратив на них 3,48 млн австралийских долларов (~$2,5 млн). Специалисты проверили более 60 решений от 48 поставщиков, а в августе 2025 года передали правительству итоговый документ объемом около тысячи страниц в десяти томах. Тогда министр связи Аника Уэллс назвала полученные данные подтверждением того, что у платформ существует «множество эффективных инструментов» для возрастной верификации. Сам запрет для пользователей младше 16 лет вступил в силу 10 декабря 2025 года. Шесть ссылок с ошибками Основная часть отчета посвящена практическим испытаниям уже существующих решений. Проблемы вскрылись в главе о перспективных разработках — именно там авторы обращаются к научной литературе. Первым на несоответствия указал автор обращения в сенатский комитет, который сейчас рассматривает поправки об ужесточении запрета на соцсети для пользователей младше 16 лет. В документе утверждается, что как минимум две ссылки выглядят как типичные «галлюцинации» ИИ, а не отсылки к реальным источникам. Журналисты Guardian проверили данные и насчитали в той же главе шесть нарушений, которые группируются в четыре категории: фиктивные DOI; DOI, переадресующие на посторонние работы; комбинации «автор-журнал-год», не подтвержденные ни одной публикацией; корректные ссылки на статьи, но без тех утверждений, которые им приписывает отчет. Например, одну статью ACCS датировала мартом 2025 года, но на самом деле та вышла только в июле. В другом случае ссылка на Weber et al. 2011 никуда не вела — ее не нашли ни в указанном журнале, ни в исследовании Университета Монаша, куда отсылали авторы отчета. ChatGPT в метаданных Представитель ACCS категорически отрицал использование ИИ при подготовке документа. По его словам, организация не применяла нейросети ни к тексту, ни к цитируемым материалам, а каждую ссылку тщательно проверяли на достоверность и релевантность. Однако после того, как Guardian обнаружила в некоторых частях отчета четыре ссылки с метаданными, прямо указывающими на ChatGPT, позицию пришлось смягчить. В ACCS признали, что искусственный интеллект действительно переписывал отдельные фрагменты для краткости, но настаивали: само исследование и итоговый текст созданы без участия чат-бота OpenAI. Представители организации также заявили, что метаданные ChatGPT сами по себе являются достаточным уведомлением о применении ИИ, а раз ссылки ведут куда надо, то претензий быть не должно. Однако проверка исправленного списка источников, который ACCS передала изданию, обнаружила новые нестыковки: годы, авторы и названия журналов в нем расходились с оригинальными цитатами из отчета. «Горстка ошибок» на тысячу страниц В Департаменте инфраструктуры и связи сообщили, что изучают претензии и намерены связаться с подрядчиком. 14 августа на сенатских слушаниях чиновники пересказали версию ACCS: по их словам, ссылки были рабочими на момент публикации, а «сломались» позже. Первый помощник секретаря департамента Сара Ванденбрук уточнила, что ведомство эту версию самостоятельно не проверяло и считает подобную проверку «трудоемкой». При этом в департаменте подчеркнули, что речь идет лишь о «горстке ошибок» на 26 страницах с библиографией. Профессор Австралийского национального университета Кристиан Дауни предупредил, что ложные ссылки в документах для правительства ведут к ошибочным решениям и разрушают доверие к институтам. По его мнению, эта ситуация требует закрепления четких требований в контрактах и введения санкций за нарушения. Независимый сенатор Фатима Пейман потребовала от правительства официальных извинений и возврата средств от подрядчика. Она напомнила, что аналогичный инцидент с Deloitte год назад должен был научить власти внимательнее относиться к источникам. В октябре 2025 года консалтинговая компания уже возвращала часть выплат по контракту на 440 000 австралийских долларов, признав использование ИИ при подготовке отчета с ошибками. Напомним, в июле австралийский регулятор eSafety подал иск против Telegram, обвинив мессенджер в отказе удалять материалы с пропагандой терроризма.

면책 조항 읽기 : 본 웹 사이트, 하이퍼 링크 사이트, 관련 응용 프로그램, 포럼, 블로그, 소셜 미디어 계정 및 기타 플랫폼 (이하 "사이트")에 제공된 모든 콘텐츠는 제 3 자 출처에서 구입 한 일반적인 정보 용입니다. 우리는 정확성과 업데이트 성을 포함하여 우리의 콘텐츠와 관련하여 어떠한 종류의 보증도하지 않습니다. 우리가 제공하는 컨텐츠의 어떤 부분도 금융 조언, 법률 자문 또는 기타 용도에 대한 귀하의 특정 신뢰를위한 다른 형태의 조언을 구성하지 않습니다. 당사 콘텐츠의 사용 또는 의존은 전적으로 귀하의 책임과 재량에 달려 있습니다. 당신은 그들에게 의존하기 전에 우리 자신의 연구를 수행하고, 검토하고, 분석하고, 검증해야합니다. 거래는 큰 손실로 이어질 수있는 매우 위험한 활동이므로 결정을 내리기 전에 재무 고문에게 문의하십시오. 본 사이트의 어떠한 콘텐츠도 모집 또는 제공을 목적으로하지 않습니다.