Компания Deloitte Australia согласилась выплатить компенсацию федеральному правительству Австралии после громкого скандала, связанного с подготовкой отчета стоимостью 440 тысяч долларов с использованием генеративного искусственного интеллекта. Выяснилось, что при создании документа были использованы инструменты искусственного интеллекта, что привело к появлению существенных ошибок и вымышленных ссылок.
Об этом сообщает Finway
Использование ИИ в подготовке государственных отчетов
В июле 2025 года Министерство занятости и трудовых отношений Австралии (DEWR) опубликовало отчет, касающийся автоматизации санкций в сфере социального обеспечения. Изначально считалось, что документ подготовили аналитики Deloitte, однако эксперты установили, что значительная его часть была написана с помощью генеративного ИИ.
Специалисты отметили многочисленные ошибки, «галлюцинации» и фиктивные источники в отчете. После критики со стороны ученых Deloitte провела внутренний аудит, в результате которого исправила более десяти вымышленных ссылок, обновила список литературы и уточнила методологию. Теперь в документе официально указано использование модели Azure OpenAI GPT-4o.
«Суть обзора сохранена» и рекомендации не изменились, — заявили в DEWR.
Последствия для Deloitte и государственного сектора
Инцидент вызвал значительное беспокойство среди профессионального сообщества Австралии. Ученый из Сиднейского университета Кристофер Радж подчеркнул, что ошибки в отчете являются прямым следствием «галлюцинаций» искусственного интеллекта. Он поставил под сомнение достоверность рекомендаций из-за отсутствия раскрытия факта использования ИИ с самого начала.
DEWR воздерживается от комментариев относительно возможности полного возврата средств и дальнейшего сотрудничества с Deloitte. Известно, что компания согласилась выплатить последний транш по контракту, однако сумма не раскрывается.
Отчет также осветил системные проблемы в работе DEWR, в частности недостаточную документацию, ошибки в процедурах и «карательный» подход к соблюдению требований. Документ был опубликован после критического отчета омбудсмена, в котором указывалось, что сотни случаев приостановления социальных выплат были незаконными.
Эксперты отмечают, что этот случай подчеркивает необходимость высокого уровня прозрачности при применении искусственного интеллекта в государственных и корпоративных исследованиях. Deloitte, которая активно внедряет ИИ в своей деятельности, в настоящее время сталкивается с риском потери доверия из-за недостаточной открытости в отношении использования инновационных технологий.