ИИ тоже ошибаются: стоит ли слепо доверять искусственному интеллекту?

Мы привыкли относиться к искусственному интеллекту как к эдакому «цифровому всезнайке». Кажется, что если задать вопрос нейросети, она выдаст истину в последней инстанции, очищенную от человеческих эмоций и ошибок. Но давайте будем честны: мы часто переоцениваем возможности ИИ, забывая, что за его «интеллектом» стоят лишь математика, статистика и гигантские массивы данных, которые когда-то создали мы — люди.

А люди, как известно, ошибаются. И ИИ делает это с завидным постоянством.

Один из примеров: американский адвокат Стивен Шварц использовал ChatGPT для поиска судебной практики по делу своего клиента против авиакомпании Avianca. Нейросеть выдала решения с названиями дел, номерами, цитатами и подробностями. Материалы подготовил Шварц, а его коллега Питер ЛоДука подал их в суд. Когда существование решений поставили под сомнение, Шварц снова обратился к ChatGPT. Чат-бот заявил, что решения настоящие и их можно найти в юридических базах Westlaw и LexisNexis.

Вот только шесть представленных судебных решений оказались выдуманными. В июне 2023 года суд солидарно оштрафовал Шварца, ЛоДуку и их юридическую фирму на $5 тыс.

Отсюда вывод: рабочая ссылка еще не доказывает утверждение. В препринте 2026 года о работе ИИ-агентов с источниками даже действующие и тематически подходящие страницы нередко не подтверждали приписанные им цифры или выводы. Исследование еще не прошло рецензирование, но хорошо показывает, почему проверять нужно не только существование ссылки, но и ее содержание.

Самая большая проблема не в том, что ИИ ошибается, а в том, что мы перестаем проверять его работу. Мы делегируем ему написание писем, составление отчетов, написание кода. Мы расслабляемся, теряем бдительность и начинаем воспринимать результат как готовый продукт.

В этот момент критическое мышление отключается. А ведь ошибка в коде, написанном ИИ, может привести к уязвимости в безопасности, а ошибка в юридическом документе — к реальным финансовым потерям.