Интернет-суды Китая рассматривают дела о нарушениях прав человека искусственным интеллектом
Технологии искусственного интеллекта развиваются быстрее, чем право, но судебная система Китая уже начала формировать практику защиты граждан от цифровых угроз. Дипфейки, голосовые клоны, алгоритмическая дискриминация и «галлюцинации» ИИ – всё это становится предметом судебных разбирательств. Новые руководящие принципы Верховного суда дают судам инструменты для справедливого разрешения таких споров.
Руководящие принципы, выпущенные Верховным народным судом (ВНС), касаются ряда возникающих споров, включая дипфейки и клонирование голоса с помощью ИИ, алгоритмическую ценовую дискриминацию и ложную информацию, генерируемую ИИ. В них четко указано, что никто не может использовать ИИ для создания или распространения узнаваемых цифровых копий других людей без их согласия, включая клонированные лица и голоса. Такое использование представляет собой нарушение прав человека, а использование сгенерированных ИИ лиц или голосов для распространения ложных утверждений или нанесения ущерба репутации человека также может повлечь за собой юридическую ответственность.
Китай уже рассматривал подобные вопросы в суде. В апреле 2024 года Пекинский интернет-суд в первом в стране деле о нарушении прав на использование сгенерированного ИИ голоса постановил, что использование ИИ для воссоздания узнаваемого голоса человека без его согласия может нарушать его права. Новые правила вводятся на фоне того, что создание поддельных изображений с помощью ИИ становится все проще, а отличить их от подлинного контента – все сложнее. Несколько фотографий или короткая голосовая запись могут предоставить достаточно материала для создания убедительной цифровой копии.
Руководящие принципы также касаются алгоритмической дискриминации потребителей. Компании, использующие алгоритмы для предложения разных цен или других условий сделки на одни и те же товары или услуги без разумного обоснования, могут быть привлечены к ответственности, если эта практика причиняет вред потребителям. Еще одна проблема заключается в том, что генеративные системы ИИ могут создавать ложную или неточную информацию, обычно известную как «галлюцинации ИИ». Поставщики услуг ИИ могут быть привлечены к ответственности, если им сообщают о том, что их системы создали контент, нарушающий права человека, но они не принимают своевременных мер. Пользователи также могут нести ответственность за то, как они используют ИИ. Любой, кто намеренно использует подсказки или другие методы, чтобы побудить систему ИИ создать контент, нарушающий права человека и причиняющий вред другим, может быть привлечен к ответственности.
Руководящие принципы также предоставляют людям возможность быстро получить защиту, когда контент, созданный ИИ, угрожает причинить серьезный и необратимый вред. Например, человек, чье лицо было изменено с помощью цифровых технологий и использовано для распространения ложных и клеветнических заявлений сексуального характера, может обратиться в суд с просьбой о вынесении судебного запрета, если задержка с принятием мер может причинить вред, который будет трудно исправить позже.
Как передает CCTV+, эти руководящие принципы дополняют развивающуюся правовую базу Китая в сфере ИИ. В сентябре 2025 года вступили в силу меры по маркировке синтезированного контента, а теперь суды получили четкие ориентиры для рассмотрения споров о дипфейках, алгоритмической дискриминации и ответственности поставщиков и пользователей ИИ.
