Генеративные ИИ-сервисы, включая Microsoft Copilot, ChatGPT и другие языковые модели, продолжают создавать несуществующие статьи, судебные решения, исследования и ссылки, которые пользователи принимают за реальные. Подобные ошибки, известные как «галлюцинации» ИИ, всё чаще становятся причиной серьёзных последствий — особенно в юридической сфере.
Самые громкие случаи связаны с адвокатами, которые включали в судебные документы ссылки на вымышленные прецеденты, сгенерированные искусственным интеллектом. Американские суды уже неоднократно штрафовали и дисциплинарно наказывали юристов за использование подобных материалов без проверки. Только за последние годы было зафиксировано несколько сотен подобных инцидентов.
Google выяснила, что люди доверяют ИИ только пятую часть рабочих задач
Проблема сохраняется и сегодня. В июле 2026 года Апелляционный суд США вновь раскритиковал адвоката, который использовал ИИ при подготовке документов. Суд установил, что в поданных материалах содержались полностью вымышленные судебные решения, а в постановлении подчеркнул:
Какими бы ни были достоинства искусственного интеллекта, он не заменяет настоящий интеллект.
В отношении юриста начата дисциплинарная процедура.
Эксперты отмечают, что подобные ошибки характерны не только для универсальных чат-ботов. Даже специализированные юридические ИИ-инструменты способны генерировать ложные ссылки и неверные правовые выводы, если их ответы не проходят проверку человеком. Именно поэтому суды и профессиональные организации всё чаще напоминают: ответственность за достоверность документов всегда несёт пользователь, а не искусственный интеллект.
Несмотря на стремительное развитие ИИ, специалисты рекомендуют использовать такие сервисы исключительно как вспомогательный инструмент. Любые ссылки, исследования, судебные решения и другие источники, предложенные нейросетью, следует проверять вручную перед публикацией или использованием в официальных документах.
