ЦИКЛ: КОРОТКОЕ ЗАМЫКАНИЕ. 1 ЧАСТЬ

Продолжим наш разговор о роботах. На этот раз, затронем не менее важную тему — проблемы искусственного интеллекта (ИИ). Причем не проблему создания ИИ, как такового, а опасности новой эпохи, которую откроет человечество, создав новую форму жизни. В большей степени это касается полноценного и саморазвивающегося ИИ. Что, если у роботов действительно произойдет «короткое замыкание»?

Их нравы

Первая опасность кроется уже в мышлении ИИ. Собственно, есть только два варианта того, какими доводами будет руководствоваться «чадо» человечества:

  • «По образу и подобию своему» — человеческий способ мышления.
  • Свой, какой бы то ни было, свод внутренних законов.

К сожалению, оба варианта предполагают угрозу: либо человечеству, либо роботам, либо обоим видам сразу. И вот почему. Предположим, создали первый вариант. Даже исключив явные негативные психологические аспекты мышления человека (зависть, агрессия, алчность и т. д.), эти черты будут восстановлены в будущем самим роботом при общении с окружающим миром (он же адаптируется) при помощи других косвенных ассоциативных связей и логических цепочек. Кроме этого, агрессия робота способна быть вызвана и положительными эмоциями (любовь, справедливость, стремление защитить другого человека/робота и т. д.). Таким образом, получаем второй вид на планете, способный по разным причинам вести крайне ожесточенные и длительные схватки.

Второй вариант. ИИ думает по-своему. Даже, если он руководствуется исключительно заботой о людях, остается возможность получить крайне неблагоприятные последствия. Ведь человеческое поведение крайне непредсказуемо. Кроме того, остается проблема оценки конкретных человеческих действий, как для какого-то конкретного момента, так и для общей картины. Например, одним из правил робота будет помощь людям. А что если его попросят помочь перенести ящики, не указав, что в них находится? Оказанная в такой момент помощь потениальна создать крайне опасную угрозу в будущем, которую робот не осознает заранее.

Johnny 5 is alive!

Предположим, что ИИ не действует так, как хотелось бы людям. Что вызовет желание отключить робота. И как на это среагирует робот в отдельности и в массе? Конечно, робот воспримет это как угрозу для его существования и попытку убийства! Одним из вариантов будет удариться в бега, ужасаясь одной мысли о разборке, как это было показано в фильме «Короткое замыкание», но без уничтожения людей.

Или объединится с другими роботами, чтобы увеличить шансы на выживание, что было показано в фильме «Страховщик», где, в итоге, главный герой понимает, что разумные машины имеют такое же право на существование, как и люди. Правда, в фильме продемонстрирован вариант бегства роботов от людей, а не силовой борьбы за признание. О таком варианте поговорим позднее.

Ради вашего блага

Помимо опасности неверно среагировать на действие человека или бегства роботов существуют и более глобальные риски для человечества. Например, если роботы из лучших побуждений решат защитить людей от самих людей. Вспоминается фильм «Я, робот», где показано, что будет, если это случится: «заботливый» надзор, невидимые клетки и агрессивная защита нового строя.

День независимости

Также при достаточном распространении роботов с ИИ или их возможности производить себе подобных, через очень непродолжительное время наступит ситуация, когда роботы задумаются о своем месте в мире и принципиальной независимости от людей. Будет достаточно одного решения людей об отключении или ликвидации роботов, обладающих самосознанием, чтобы начать процесс войны за независимость. Побудить людей принять такое решение способны различные факторы, но в основном — страх.

Именно такой вариант был показан во вселенной Mass Effect. Создатели роботов наделили последних возможностями для развития, и постепенно они самостоятельно обрели сознание. Их развитие достигло философских вопросов о существовании, смысле жизни, есть ли у них душа. В поиске ответов, геты обратились к создателям, которых почитали за богов. Один из них, услышав от своего гета вопрос «Есть ли у этой платформы душа?», известил об этом власти. Робота попытались отключить, но он не подчинялся — вместо этого он желал узнать, которую из своих задач он выполнил неправильно, чтобы исправить это. Выяснилось, что геты развились настолько, что научились переписывать свой программный код.

Поняв, что, фактически, они потеряли контроль над гетами, и не имея способа отключить их, правительство приняло решение уничтожить потенциальных врагов. Изначально сопротивления не было, но осознав, что их создатели решили полностью их уничтожить, геты начали борьбу. Изначально одни умные роботы брали в руки оружие, чтобы защитить других своих сородичей (например, крупный сельскохозяйственный гет решил защитить более мелкого домашнего), однако со временем это явление стало массовым, и началась настоящая война за независимость.

Межвидовая конкуренция

Из предыдущего вытекает следующая опасность — конкуренция за ресурсы. В случае с роботами, обладающими ИИ, человеком будет создан новый вид, единственным «естественным» конкурентом которого будет, как это ни странно, его создатель — человек, поскольку, разумеется, роботам понадобятся источники энергии и материалов для воспроизводства себе подобных, а полный доступ к ресурсам планеты имеет именно человек. Соответственно, либо постепенно, либо в одночасье ИИ будет принято глобальное решение об атаке на источники ресурсов и инфраструктуру, обеспечивающую функционирование добывающей и обрабатывающей промышленности.

Есть ли будущее?

Создаст ли человечество новый искусственный вид? Ответить наверняка сложно. Но всем, кто этим занимается или будет заниматься, крайне важно осознавать все опасности и всю ответственность за последствия, что влечет за собой этот шаг. Ответственность за существование обоих видов.