Friendly AI и захват Вселенной
Допустим у нас есть два варианта. погибнут все люди, кроме 1000 человек. Это 7 миллиардов смертей.
погибнут последние 1000 человек. Это всего 1000 смертей.
Что хуже? Если хоть чуть-чуть подумать, то второй вариант намного хуже. Почему? Ну, вымрет человечество и что с того? Not a big deal. Проблема не в этом, а проблема в том, что если погибнут последние 1000 человек, то мы потеряем триллионы и триллионы жизней, которые могли бы рождаться и жить начиная с сегодняшнего дня и кончая тепловой смертью Вселенной. Останется не исследованной и не заселённой наша Солнечная система, Млечный Путь, Суперкластер Вирго и вообще вся Вселенная.
Читать дальше →
