Призрак Рождества: искусственный интеллект может поработить человека

Искусственный интеллект может поработить человека

В ближайшие десятилетия доминирование искусственного интеллекта станет более явным. По мнению ученых, он получит статус ОИИ, то есть Общий искусственный интеллект. Его интеллектуальные возможности могут оказаться значительно выше человеческих. Эти технологии способны изменить мир к лучшему. Но если они выйдут из-под контроля, то окажутся способными привести человечество к гибели. Произойти это может совершенно без злого умысла – просто в процессе достижения запрограммированных целей.

Общий искусственный человек ставит на грань риска здоровье людей и их благополучие. Системы ИИ, разработанные даже для самых нужных и важных целей в конечном итоге способны нанести огромный вред.


В настоящее время существует исследовательская программа, которая предпринимает попытки выяснить, какая опасность подстерегает человека, если Санту заменить искусственным интеллектом. Проект назвали «SantaNet», и его цель заключается в том, чтобы доставлять подарки по всему миру. Свою миссию он может выполнять с помощью «армии добрых эльфов», она включит в себя квадрокоптеры, беспилотные наземные средства передвижения и прочие технические устройства, обладающие искусственным интеллектом. Но какой ценой может быть выполнен этот проект?

Первые риски теоретически возникают уже при составлении списка детей, которым доставят подарки. Искусственному Санте предстоит выбрать –какие дети были хорошими, а какие нет.

Выяснить это можно с помощью скрытых камер наблюдения, которые будут отслеживать поведение детей в течение года. Этично ли это? Можно утвердить использование оборудования на законных основаниях, но это создаст ряд психологических проблем. А затем привести к дискриминации, массовому неравенству и нарушениям прав человека. На планете свыше 2 миллиардов детей, которым меньше 14 лет.


Ежегодно создавая для всех игрушки, требуется армия эффективных работников, обладающих искусственным интеллектом, что может способствовать массовой безработице. И в результате вся планета может оказаться одной гигантской мастерской по выполнению поручений Санты.

А как быть с детьми, которые по решению ОИИ окажутся в списке малышей, поведение которых оставляло желать лучшего? Это создаст массовый психоз среди детей и подростков. Еще один важный аспект исследователи связывают с доставкой предполагаемых подарков. Использование дронов попросту заполонит все воздушное пространство.

Не каждый дрон сможет «догнать» ребенка, если он будет в школе, в саду, на спортивной площадке или спать в своей кровати – для этого ребенок должен постоянно носить какое-то электронное устройство, показывающее дрону его местонахождение.

Несоответствие сведений навигаций приведет к массовым столкновениям таким аппаратов. Есть много и других сценариев, выявляющих риски использования искусственного интеллекта в самых благих намерениях. Но пока нет единой схемы массового контроля за системой ИИ.