[Из песочницы] Накипело… Опасения по поводу искусственного интеллекта
Маск и Хокинг предупредили об угрозе оружия с искусственным интеллектом
Хокинг: искусственный интеллект — угроза человечеству
Создателя Linux рассмешили страхи Стивена Хокинга и Илона Маска
Стивен Хокинг:
Такой разум возьмет инициативу на себя и станет сам себя совершенствовать со все возрастающей скоростью. Возможности людей ограничены слишком медленной эволюцией, мы не сможем тягаться со скоростью машин и проиграем.
Линус Торвальдс:
Это из раздела научной фантастики. И, стоит признать, фантастики не лучшего качества. На каких препаратах сидят эти люди? Программист не считает возможным развитие искусственного интеллекта, который действительно мог бы поработить человечество. Вместо размышлений на эту тему Торвальдс предложил обратить внимание на любой из существующих искусственных интеллектов и оценить его действия. Как правило, это очень ограниченные и не способные к саморазвитию программные продукты, помогающие переводить речь с одного языка на другой или планировать расписание на неделю.
По мнению Торвальдса, максимум, на что способны подобные системы, уже доступно в Google Now и Siri — распознавание голоса, текстовых обращений и картинок, обработка полученных данных для выполнения простых указаний человека. И он не видит ситуации, в которой посудомоечная машина заставила бы своего владельца обсуждать с ней труды Сартра.
Возьмусь утверждать, что несмотря на все заслуги, как Стивен Хокинг, так и Линус Торвальдс демонстрируют наивность. Хокинг переоценивает возможности интеллекта, а Торвальдс недооценивает.
Искусственно созданный носитель интеллекта возможен, но он не будет всемогущ в своём самосовершенствовании. На каком основании Хокинг решил, что машина способная осознать себя и выдать подобное: 'Мыслю, следовательно существую', будет способна на неограниченные возможности?
Самоосознание — лишь вершина айсберга в работе сложнейшего устройства — ЦНС. И очень сложные процессы и алгоритмы находятся вне поля нашего сознания, зачастую мы не можем вмешаться в их ход. А если осознанно попробуем вмешаться, то это может привести к нарушению естественных процессов, ведь всем известно, что когда не задумываешься, то легче получается.
Естественный носитель интеллекта — homo sapiens, разве он всемогущ в своём само-модифицировании? Развитие навыков — небыстрый и ресурсоёмкий процесс.
Кстати в теории мозг человека можно подключить через нейроинтерфейс например к базе данных, даже напрямую проводами к областям мозга. Думаю, что подобный эксперимент ожидается. И через упорную практику, тренировку, многократные повторения, мозг адаптируется к извлечению информации. Процесс подобен обучению езде на велосипеде или управлению самолётом, осознанные попытки постепенно корректируются в правильном русле, а затем навык доводится до автоматизма, который человек выполняет, даже не задумываясь. Возможность подключения к базам данных, конечно, усилит возможности нашего естественного интеллекта, но не бесконечно.
В общем, когда искусственный носитель интеллекта будет создан. Кстати одномоментно это не произойдёт, процесс растянется от нескольких лет — до нескольких десятков лет. И тогда, когда он будет создан, и в какой-то мере будет более эффективен, чем естественный, то в теории ничто не мешает, на той же элементной базе подмонтировать 'расширители' к личностям естественного интеллекта, через организацию плотной нейросвязи и заменой каких-то технических областей мозга. База нашей личности сохранится, но эффективность увеличится.
Вот так…
Кстати вот история:
В аудитории полной студентов и преподавателей. Выступал японец, профессор Хироси Исигуро. Рассказывал о будущем кибернетики. Во время лекции встал вопрос об отличие человека от робота. Профессор заявил что его нет. Из зала раздался вопрос:
— Как так? Поясните свою мысль! Это ведь…
— Ну, вот смотрите, Вы повредили руку, Вам её заменили протезом. Вы от этого стали роботом?
— Нет!
— Прошло время, заменили вторую руку, ноги, сердце, печень. Вы ведь до сих пор человек?
— Да, человек.
— Один орган, другой, третий. В результате вы стали механической оболочкой, фаршированной мозгом в черепе. Но вы ведь не стали роботом?
— Нет, я остаюсь человеком, скорее киборгом, но все-таки человеком! Мозг ведь у меня мой, и самосознание мое.
— А вот теперь смотрите, ваши нервные волокна в мозгу поизносились, и крохотный кусочек этого волокна заменили искусственной тканью. Вас это сделало роботом?
— Да нет вроде… — Голос теряет уверенность.
— Одно волокно, второе, третье, без нарушений функций работы. Теперь ваш мозг полностью состоит из пересаженных искусственных материалов. Вы еще человек?
Аудитория молчит.
— А теперь я делаю полную физическую копию вашего носителя и делаю «копировать — вставить». И где Вы настоящий?
