Как бы изменился мир, если бы Дедом Морозом стал искусственный интеллект
Исследователи Университета Саншайн-Кост в Австралии изучили риски, связанные с внедрением искусственного интеллекта в разные сферы жизни, на примере Деда Мороза. На страницах научного журнала The Conversation они рассказали, какими были бы последствия для мира.
С одной стороны, если заменить Деда Мороза системой искусственного разума с условным названием SantaNet, то обеспечение подарками детей, которые хорошо себя вели, станет намного более эффективным за счет привлечения помощников и дронов. Способности такой системы будут намного больше человеческих. Проблема в том, что выйдя из-под контроля, искусственный разум будет способен устроить настоящую катастрофу.
Первые риски возникнут, когда система сама впервые попытается составить список таких детей, которые заслужили подарок, и тех, кто был непослушным.
Достичь этого искусственный разум сможет лишь с помощью системы массового скрытого наблюдения. Но оценка «хорошо» на основе собственных выводов машины может привести к массовому неравенству. Ведь уже были случаи, когда искусственный интеллект высказывал дискриминационные взгляды.
Кроме того, существует и вопрос использования ресурсов. У этой проблемы две стороны. Первая – система может решить, что ресурсы следует экономить, а значит стимулировать детей к плохому поведению, чтобы уменьшить количество необходимых подарков. Вторая заключается в противоположной ситуации, когда суперкомпьютер, думая исключительно о подарках, примет решение использовать для их изготовления все имеющиеся ресурсы Земли.
Доставка подарков также создаст проблемы, считают ученые. Если кто-то попытается помешать дронам-курьерам, например, отказав в доступе к воздушному пространству, такое противодействие умной системе может закончиться для человека не лучшим образом. В том числе и потому, что сегодня уже есть технология, которая позволяет дронам собираться в рой. Противостоять такой силе невозможно.
Исследователи отмечают, что при кажущейся надуманности проблемы глобальный искусственный разум действительно несет в себе подобные риски. Созданные с добрыми намерениями системы все же могут создавать огромные проблемы, пытаясь оптимизировать способы достижения своих целей.
