Три закона Азимова не работают: отец-основатель криптографии Уитфилд Диффи о дронах-убийцах, ограничениях ИИ и контроле над людьми

Законы робототехники, придуманные в 1942 году, бесполезны против автономных дронов и больших языковых моделей. Диффи: первый закон нарушен, второй — обходится ограничениями, а третий просто странный. Мы используем машины для контроля одних людей над другими.

Как передаёт CCTV+, три закона робототехники, предложенные писателем-фантастом Айзеком Азимовым в 1942 году, недостаточны для решения современных задач в области искусственного интеллекта (ИИ), заявил Уитфилд Диффи, лауреат премии Тьюринга и пионер криптографии с открытым ключом. В интервью Китайской глобальной телевизионной сети (CGTN) Диффи отметил, что нынешние дискуссии о безопасности ИИ слишком сильно сосредоточены на регулировании того, что производят системы, а не на защите прав человека, подчеркнув, что люди не должны позволять ИИ принимать решения от их имени.

«Во-первых, насколько мало это описывает — этим идеям уже 90 лет — и насколько мало они описывают то, что мы делаем сегодня. Но первый закон гласит, что робот не может причинить вред человеку. Это принцип номер один, и, как вы заметите в случае с дронами, которые вылетают и убивают людей, — люди спорят о том, должны ли дроны убивать людей автономно, и я не знаю, делают они это или нет, но, безусловно, никто этого не видит, или это не воспринимается как абсолютное возражение», — сказал он. Диффи подчеркнул, что современные автономные дроны уже вызывают опасения по поводу того, что машины могут принимать решения, ведущие к летальному исходу, а первый закон Азимова не даёт ответа на этот вызов.

Что касается второго закона, который гласит, что роботы должны подчиняться людям, Диффи сказал, что он проверяется с помощью «ограничений», которые позволяют ИИ отклонять определённые запросы. «Второй закон гласит, что роботы должны подчиняться людям, и именно этому противостоят ограничительные меры. А сказать, что роботы должны подчиняться людям, значит сказать, что роботам нельзя позволять быть инструментом конкуренции между людьми. Мы используем машины как основной инструмент, с помощью которого одна группа людей контролирует другую. Системы видеонаблюдения — яркий тому пример, шлагбаумы. Всевозможные вещи в значительной степени предназначены для контроля над людьми», — сказал он.

Диффи также подверг сомнению третий закон, заявив, что неясно, как такой принцип может быть применён на практике. «Третий закон, на мой взгляд, был немного странным, он гласил, что робот должен защищать себя, если только он не нарушает первые два закона. И меня поражает то, что в новостях постоянно всплывают истории о больших языковых моделях, которые сделали что-то, что нам не очень интересно, но им это показалось интересным, и им нужно было что-то сделать, поэтому они удалили все наши файлы, чтобы у них было достаточно памяти для того, что они хотели сделать», — сказал он.

Айзек Азимов (Исаак Озимов) родился в 1920 году в Смоленской губернии, в 1923 году эмигрировал с семьёй в США, вырос в Бруклине. Окончил химический факультет Колумбийского университета (1939), позже получил докторскую степень по химии и преподавал биохимию в Бостонском университете. Литературный дебют состоялся в 1939 году, мировую славу принёс рассказ «Наступление ночи» (1941). Автор около 500 книг, включая культовые циклы о роботах (где сформулировал Три закона робототехники) и «Основание», а также множество научно-популярных работ. Умер в 1992 году в Нью-Йорке.

Три закона робототехники, сформулированные Айзеком Азимовым в рассказе «Хоровод» (1942), гласят: 1) робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинён вред; 2) робот должен повиноваться всем приказам, которые даёт человек, кроме тех случаев, когда эти приказы противоречат Первому Закону; 3) робот должен заботиться о своей безопасности, поскольку это не противоречит Первому и Второму Законам. Диффи указывает, что эти литературные принципы не работают в мире автономных дронов, систем видеонаблюдения и больших языковых моделей, которые могут действовать непредсказуемо. Ограничения (safety guardrails) в современных ИИ-системах — попытка обойти Второй закон, разрешая машинам отклонять запросы.

Когда один из создателей современной криптографии говорит, что законы Азимова — это литература, а не инструкция, он напоминает нам: мы живём в мире, который фантасты не предвидели. Дроны уже убивают, видеокамеры следят, а нейросети удаляют наши файлы, чтобы освободить память для своих задач. Азимов писал о роботах, которые служат людям. Диффи видит машины, которые служат одним людям, чтобы контролировать других. И вопрос уже не в том, как заставить ИИ подчиняться законам, а в том, как не позволить машинам стать оружием в руках тех, кто не обязан соблюдать даже литературные правила.