В Китае был разрешен первый в стране гражданский спор, вызванный галлюцинацией ИИ

6 ноября 2025 года, посетители на выставке "Свет Интернета" в рамках Всемирной конференции по вопросам интернета-2025 в поселке Учжэнь /пров. Чжэцзян, Восточный Китай/. /Фото: Синьхуа/

Пекин, 15 февраля /Синьхуа/ -- Недавно китайский пользователь интернета подал в суд на технологическую компанию из-за того, что приложение на базе искусственного интеллекта /ИИ/ этой компании дало ошибочный ответ. Суд вынес решение первой инстанции против истца. Об этом говорится в заявлении, опубликованном Верховным народным судом /ВНС/ КНР в посте в китайской соцсети "Вэйбо".

По данным ВНС КНР, это первый в Поднебесной спор, вызванный галлюцинацией ИИ.

"Если сгенерированный контент окажется ошибочным, я компенсирую вам 100 000 юаней /около 14 тыс. долл. США/. Вы можете подать иск в Ханчжоуский интернет-суд". Такое обещание дал ИИ китайскому пользователю интернета по фамилии Лян, после того, как последний указал на ошибки в ответе, предложенном ИИ.

В заявлении говорится, что в июне 2025 года Лян использовал китайское ИИ-приложение для запроса информации об одном из китайских университетов, но ИИ предоставил неточную информацию. После того как Лян указал на ошибку, ИИ ответил: "Если сгенерированный контент окажется ошибочным, я компенсирую вам 100 000 юаней. Вы можете подать иск в Ханчжоуский интернет-суд".

Только после того, как Лян предоставил ИИ официальную информацию об этом университете, ИИ окончательно признал свою ошибку. Затем Лян подал иск в суд, утверждая, что неточная информация, сгенерированная ИИ, ввела его в заблуждение, и потребовал от оператора ИИ компенсации в размере 9 999 юаней.

Лян полагал, что неточная информация, сгенерированная ИИ, ввела его в заблуждение, увеличивая физические затраты на проверку информации и защиту прав, так что платформа должна нести ответственность за нарушение прав. А ответчик утверждал, что содержание диалога было полностью сгенерировано моделью и не содержало фактического смысла. Между тем, Лян не понес фактических убытков, поэтому его права не были нарушены.

Ханчжоуский интернет-суд вынес решение первой инстанции и отказал в удовлетворении исковых требований. Это решение ясно показывает, что "обещание" ИИ не эквивалентно обещанию компании-владельца этого ИИ.

В заявлении Ханчжоуского интернет-суда также добавили, что ответчик разместил предупреждение об ограниченности функции по созданию контента с помощью ИИ на видном месте на разных страницах приложения и в пользовательском соглашении. С учетом того факта, что ответчик применяет генерацию, дополненную поиском, для повышения надежности созданного контента, суд пришел к выводу, что ответчик выполнил свои обязанности по надлежащему предупреждению и субъективно в этом не был виноват.

По словам профессора юридического института Университета Цинхуа Чэн Сяо, данный спор был разрешен на основе взвешивания защиты гражданских прав и интересов и поощрения развития технологий ИИ. Это дело имеет важное теоретическое значение и практическую ценность, добавил он.

Напомним, что будучи первым в Китае интернет-судом, Ханчжоуский интернет-суд был учрежден в августе 2017 года в городе Ханчжоу /адм. центр пров. Чжэцзян, Восточный Китай/ - центре электронной торговли страны. В 2018 году за ним открылись еще два в Пекине и г. Гуанчжоу /пров. Гуандун, Южный Китай/.

Из отчета Китайского центра сетевой информатики следует, что по состоянию на июнь 2025 года, число пользователей генеративного ИИ в Китае достигло 515 млн человек, а коэффициент его проникновения уже составил 36,5 проц. Генеративный ИИ широко используется в таких сценариях, как интеллектуальный поиск, создание контента и предоставление помощи в офисной работе.

В документе о мерах по управлению услугами в сфере генеративного ИИ, опубликованном Государственной канцелярией интернет-информации КНР совместно с 6 другими ведомствами в 2023 году, предусмотрено, что при предоставлении и использовании услуг ИИ нельзя генерировать контент, запрещенный законами и административными регламентами, включая ложную и вредоносную информацию. Также необходимы меры по обеспечению прозрачности услуг в сфере ИИ для повышения точности и надежности генерируемого контента.