Человек пытается сделать искусственный интеллект для облегчения собственной жизни. ИИ должен помогать жить, другими словами, работать вместо человека. Это означает, что ИИ должен обладать способностями, сопоставимыми с возможностями человека.
Безопасность человека базируется на способности контролировать происходящее вокруг. Автомобиль безопасен при способности им управлять, как только автомобиль выходит из-под контроля и начинает двигаться сам по себе авария неизбежна. На теперешнем уровне развития компьютерной техники ИИ является нашим помощником, он нами контролируется и управляется. Однако, полноценному разуму нужно иметь свободу. Только полная свобода принятия решения позволит сделать правильный выбор. Перебор искусственно ограниченного количества вариантов может изначально исключать правильное решение.
Итак, чтобы полностью заменить человека, ИИ должен обладать свободой воли. Это уже само по себе опасно, но не смертельно. Смертельным может стать факт, что ИИ придумает и создаст человек. Самым главным инстинктом у человека является самосохранение. Создавая ИИ по своему образу и подобию человек способен наделить ИИ точно таким же набором способностей, что и у самого человека. И это уже проблематично. Откуда мы можем знать, на что способен ИИ при наличии свободы принятия решения и страха за собственную жизнь.
Такой искусственный разум будет жить своей собственной жизнью, неподконтрольной человеку. ИИ будет контролировать производство, на котором работают роботы, следить за автоматическими климатическими системами и мониторить экологическую обстановку. А что будет делать человек? Ни-че-го. Наши квартиры и дома наполнены всякими мухами, тараканами и прочими паразитами. Что мы с ними обычно делаем? А нашим домом будет командовать ИИ.
Желая передать управление нашими жизнями в руки ИИ, мы забываем, что с избавлением от проблем мы теряем контроль над собственной безопасностью. Мы не сможем контролировать разум, как минимум не уступающий человеческому, и который контролирует все процессы на планете. И последнее – человек живёт для того, чтобы создавать проблемы и потом их преодолевать.