Технологи́ческая сингуля́рность в футурологии — гипотетический взрывоподобный рост скорости научно-технического прогресса, предположительно следующий из создания искусственного интеллекта и самовоспроизводящихся машин, интеграции человека с вычислительными машинами либо значительного увеличения возможностей человеческого мозга за счёт биотехнологий.


По некоторым прогнозам, технологическая сингулярность может наступить уже около 2030 года. Сторонники теории технологической сингулярности считают, что если возникнет принципиально отличный от человеческого разум (постчеловек), дальнейшую судьбу цивилизации невозможно предсказать, опираясь на человеческое (социальное) поведение.

 Идею об ускоряющемся росте научного знания впервые можно встретить в работах Ф.Энгельса. В середине XIX века он писал о том, что наука движется вперед пропорционально массе знаний, унаследованных ею от предшествующего поколения. По его мнению, со времени своего возникновения (XVI-XVII вв.) развитие наук усиливалось пропорционально квадрату расстояния (во времени) от своего исходного пункта. Близкие идеи высказывал В.И.Вернадский, писавший о непрерывном усилении темпов научного творчества. По мнению современных исследователей, имеет место "экспоненциальный закон развития науки", проявляющийся в соответствующем увеличении числа научных работников, научных организаций, публикаций и других показателей.

Термин «сингулярность» заимствован у астрофизиков, которые используют его при описании космических чёрных дыр и в некоторых теориях начала вселенной — точка с бесконечно большой массой и температурой и нулевым объемом. Математически сингулярность (особенность) — точка функции, значение в которой стремится к бесконечности, либо другие подобные «интересные» точки.

В данном контексте впервые термин «сингулярность» использовал в середине ХХ века Джон фон Нейман, имея в виду математическое, а не астрофизическое понимание этого слова — точку, за которой экстраполяция начинает давать бессмысленные результаты (расходиться). Об этом пишет сам Вернор Виндж, которому данный термин обычно приписывают. Научным обоснованием наступления сингулярности активно занимается Рэймонд Курцвейл.

Одним из фундаментальных открытых вопросов насчет Сингулярности является вопрос — когда она наступит и насколько быстро произойдут технологические изменения? Экстраполяция тенденций показывают, что Сингулярность должна произойти к 2020 году (возможно эту цифру следует пересмотреть и приблизить дату до 2018 или даже 2016 года, если полагаться на самую последнюю оценку Дэни Эдера (Dani Eder) о том, что время удвоения мощности компьютеров упало до 9 месяцев к сентябрю 2002 года) и она должна быть очень внезапной, что характерно для природы экспоненциальной кривой. Согласно наиболее вероятному сценарию Сингулярности примерно в районе 2011 года промышленная нанотехнология начнёт производить лавину дешевых товаров, ликвидирующих бедность и голод во всём мире. Примерно к 2012 компьютерная технология, основанная на нанотехнологии, увеличится по своей мощи на шесть порядков от того уровня, где она будет в 2010. Примерно к 2013 исследования в области молекулярной биотехнологии, основанные на нанотехнологии и компьютерной мощи, обеспечат нам средствами излечения всех телесных недугов. Примерно к 2014 исследования в области ИИ, основанные на нанотехнологии и молекулярной биотехнологии и компьютерной мощности, приведут к созданию первого сверхчеловеческого искусственного интеллекта, СИИ.

Технологическая сингулярность как следствие развития нанотехнологий рассматривается в отчете 2007 года Комиссии по экономической политике Конгресса США. В качестве даты начала сингулярности называется 2020 год. По другим прогнозам — 2030 год.

Кроме пионерских рассказов Вернора Винджа, сингулярность является центральной темой произведений некоторых других авторов научной фантастики. Среди них можно отметить Уильяма Гибсона, Чарльза Стросса, Карла Шрёдера, Грега Игана, Дэвида Брина, Иэна Бэнкса, Нила Стивенсона, Тони Баллантайна, Брюса Стерлинга, Дэна Симмонса, Дэмиена Бродерика, Фредерика Брауна, Яцека Дукая, Нагару Танигава, Кори Доктороу. Кен Маклауд в своём романе 1998 года «Подразделение Кассини» (англ. The Cassini Division) определяет сингулярность как «вознесение для нердов».

Тематика сингулярности часто встречается в киберпанковых романах. Например, рекурсивно самоулучшающийся искусственный интеллект «Зимнее Безмолвие» в романе Уильяма Гибсона «Нейромант». Опубликованный в 1994 году на сайте Kuro5hin роман «Метаморфозы Высшего Интеллекта» посвящён жизни после запущенной искусственным интеллектом сингулярности. Более антиутопичный взгляд на сингулярность в коротком рассказе Харлана Эллисона «У меня нет рта, а я хочу кричать». Другими примерами антиутопичного взгляда являются «Акселерандо» Чарльза Штросса и продолжающаяся в настоящее время серия комиксов Уоррена Эллиса «newuniversal». «Все куклы» (англ. Puppets All) Джеймса Милна затрагивает эмоциональные и моральные проблемы Сингулярности. Проблема Контакта в эпоху технологической сингулярности обсуждается в романе Станислава Лема "Фиаско" (1986).

Подробнее о сингулярности вы можете узнать из следующей книги:

Скачать (бесплатно) книгу Рассвет сингулярности можно З Д Е С Ь 

Майкл Диринг

 

Содержание

 

ГЛАВА ПЕРВАЯ. СИНГУЛЯРНОСТЬ

УРОВНИ ОРГАНИЗАЦИИ

Что такое Сингулярность?

Непостижимость Сингулярности

Сингулярность трех технологий

Когда наступит Сингулярность?

Миниатюризация (нано)

В итоге

Почему они не понимают её

ГЛАВА ВТОРАЯ. ИСКУССТВЕННЫЙ ИНТЕЛЛЕКТ

Три подхода к ИИ

Имитационная модель

Теория АГИ, функциональный подход

Описание функциональных модулей

Загрузка

ГЛАВА ТРЕТЬЯ. МОЛЕКУЛЯРНАЯ НАНОТЕХНОЛОГИЯ

Будущее молекулярной нанотехнологии

ПРОМЫШЛЕННОЕ НАНОПРОИЗВОДСТВО

Метод подложек и мостков

Предлагаемые принципы нанотехнологической безопасности

НАНОТЕРРОРИЗМ

ГЛАВА ЧЕТВЁРТАЯ. МОЛЕКУЛЯРНАЯ БИОТЕХНОЛОГИЯ

Перспективы молекулярной биотехнологии

Фрагментация человечества

Вглядываясь вдаль

ГЛАВА ПЯТАЯ. ПЛОДЫ И ОПАСНОСТИ СИНГУЛЯРНОСТИ

Плоды Сингулярности

Опасности Сингулярности

ГЛАВА ШЕСТАЯ. ФАНТАЗИИ НА ТЕМУ О СИНГУЛЯРНОСТИ

ЧЕТЫРЕ ГОДА СПУСТЯ

КРУТОЙ ВЗЛЁТ

НАНОГРЁЗЫ

ЗООПАРК 2099

КОННИ ЧАНГ БЕРЕТ ИНТЕРВЬЮ У ЭЛИЗЕРА

ВЫПУСТИ МЕНЯ

ЖИВОЙ ВИРУС

ИНОПЛАНЕТНЫЕ НАНОБАБОЧКИ

ДИСКУССИЯ С КРЕНДЕЛЯМИ

КРИПТОГРАФИЯ

ТЕОРИЯ КОНСПИРАЦИИ

ПРЕДЕЛЬНАЯ МАШИНА СВЯЗЕЙ

РЕКЛАМА ГРУППЫ АКТИВИСТОВ СИНГУЛЯРНОСТИ

ГЛАВА СЕМЬ. ПРОГНОЗ СИНГУЛЯРНОСТИ

ПРИЛОЖЕНИЕ A. Герои Сингулярности

ПРИЛОЖЕНИЕ B. Книги о Сингулярности

ПРИЛОЖЕНИЕ C. Организации Сингулярности

ПРИЛОЖЕНИЕ D. Проекты Сингулярности

ПРИЛОЖЕНИЕ E. Веб сайты по Сингулярности

ПРИЛОЖЕНИЕ Д. Дополнительные Интернет ресурсы для русской версии

 


 

ГЛАВА ПЕРВАЯ.
СИНГУЛЯРНОСТЬ


 

Что будет означать для нас создание искусственного интеллекта разумнее человеческого? Каковы будут последствия деятельности наноботов (роботов молекулярного размера), перестраивающих мир молекула за молекулой? Как загрузка (перемещение Вашего разума в компьютер), физическое бессмертие или освобождение от необходимости работать изменит образ вашей жизни? Эти технологические возможности чрезвычайно быстро развиваются и осуществятся скорее, чем Вы думаете

 
УРОВНИ ОРГАНИЗАЦИИ

 

Универсальные функции трёх уровней организации.

Сингулярность – взрыв нанотехнологии, биотехнологии и компьютерной технологии.

Молекулярная нанотехнология – полный контроль над структурой материи на атомном уровне.

Молекулярная биотехнология – функциональная генетика, микробиология, цитология.

ИИ – компьютерный искусственный интеллект с разумом и познавательными способностями человеческого уровня.

СИИ – компьютерный искусственный интеллект сверхчеловеческого уровня.

Универсальные функции на трех уровнях организации.
Первый уровень – "материя. Описывается действием общих законов физики и химии.
Второй уровень – "жизнь. Характеризуется биологическими функциями жизнеобеспечения, структурой ДНК, процессами, описываемые молекулярной биологией и молекулярной биотехнологией.
Третий уровень - "разум. Отображает работу функций мышления, сознания, интеллекта и ход различных информационных процессов.

Множество полезных и интересных вещей во Вселенной сложены из атомов, к примеру - звёзды и планеты, космические корабли и самолёты, гольф клубы и ботинки для гольфа, ветчина и яйца, любимая собака и жена. Поведение этих атомов находится в сфере интересов таких наук как физика и химия. Вопрос: в чём разница между вашей женой и предпочитаемым вами множеством гольф клубов? Ответ: тип упорядочения атомов. Технология, которая сможет точно контролировать тип атомов и их расположение в любой "вещи", стала бы крайне полезной технологией. Молекулярная технология как раз и является такой технологией.

Положим, что у вас есть подобная технология. И вы решили похвастаться вашему соседу за забором, что вы можете делать абсолютно всё. После парочки простых трюков с изготовлением шпалерных ножниц и солнцезащитных очков он придёт в настоящий восторг. Он попросит вас создать живого летающего дракона, огнедышащего, и питающегося только молодыми девицами. Вас подкалывают. Для того, чтобы создать совершенно новый живой организм или починить старый, либо переконструировать существующий живой организм, такой как вы сами, вам требуется владеть некоторыми знаниями, которые не были включены в ваше руководство пользователя по молекулярной технологии.

Вы должны знать, чем работа живых организмов отличается от просто движения молекул. Вам нужна база знаний по ДНК, белковым соединениям, молекулярной биохимии, цитологии и биологии систем. И вам необходим комплект средств с названием молекулярная биотехнология. Вы также должны знать, находятся ли ваши окрестности в зоне действия огнедышащих драконов. Молекулярная биотехнология представляет собой набор довольно сложных научных методов. Но вам повезло. Все средства, требуемые для развития молекулярной биотехнологии, входят в состав основных возможностей молекулярной нанотехнологии.

 

Тем временем некоторые люди, сидя в местной зоне, пишут на доске объявлений, что им необходим определенный тип автоматизированной системы интеллектуального мониторинга активности в окружающей среде, чтобы предотвращать нарушения зональных предписаний, исходящие, например, от огнедышащих драконов. Компьютер в сердце этой системы должен иметь расширенное понимание окрестной жизни, способность делать суждения и предсказывать последствия действий. Он должен быть разумным, то есть быть полноценным искусственным интеллектом.

Существует три различных похода к разработке ИИ. Вы можете создать его в искусственной среде (в киберпространстве). Или вы можете сесть и подумать, какие алгоритмы информационных процессов необходимы для восприятия, обучения и планирования. Либо вы можете вооружиться средствами молекулярной нанотехнологии для реконструкции человеческого мозга. А пока давайте зафиксируем некоторые очевидные недостатки работы нашего мозга.

Среди того, что стоит подрегулировать, хотелось бы улучшить качество и детальность запоминания, увеличить скорость и точность процесса познания, способность безупречно делать длинные серии математических или логических операций, способность выполнять новые алгоритмы обработки информации и изменять состав и структуру существующих мыслительных процессов.

Мы бы хотели запустить в работу этот воссозданный инженерными средствами, проверенный и реконструированный разум на несколько более надежном в действии аппаратном обеспечении, нежели на биологических нейронах, например, на электронной компьютерной микросхеме с молекулярными нанотрубками, что становится возможным благодаря молекулярной нанотехнологии.

С тех самых пор как пещерный человек в нашем далёком прошлом впервые обтесал камень в форме наконечника для копья, мы постоянно создавали всё более совершенные инструменты. Молекулярная нанотехнология, молекулярная биотехнология и искусственный интеллект являются предельно совершенными инструментами. Они делают нас творцами предельно совершенных инструментов. А если вы думаете, что все эти новые технологии выглядят как забава и, конечно, мы не овладеем ими ещё сотни лет, то вы явно должны прочитать следующий раздел - "Что такое Сингулярность?

Что такое Сингулярность?

Сингулярность – это беспрецедентное событие в истории людей, когда жизнь, какой мы её знаем, изменится от "обыденного дела" до состояния виртуально неограниченных возможностей.

Наступление сингулярности подготовлено экспоненциальным развитием передовых технологий. Практически никто не имеет достаточного опыта анализа экспоненциального технологического развития. Это не является частью нашего обычного окружения. Мы эволюционно и культурно запрограммированы на ожидание незаметной скорости перемен. У нас нет нейронных структур познания для моделирования экспоненциальной скорости перемен.

Свидетельством служит проект по расшифровке генома человека. В первое десятилетие прогресс был настолько слабым, что многие эксперты предрекали, что для его завершения потребуется ещё 200 лет. Свыше 50 процентов исходных данных было получено в последние девять месяцев пятнадцатилетнего проекта.

Когда достижения постоянно удваиваются в последовательно равных периодах времени, то этот процесс представляет собой первый порядок экспоненциального развития. Когда период времени удвоения со временем сокращается, то это - второй порядок экспоненциального развития.

Мы все видим, как компьютеры становятся мощнее, а цены на них при этом одновременно падают. Время удвоения мощности компьютеров в расчёте на один доллар было 3 года в 1950-х, 2 года 1980-х, 1 год в 90-х и 9 месяцев к сентябрю 2002 и продолжает уменьшаться.

Причина экспоненциального технологического роста достижений заключается в том, что каждое приращение достижений в средствах проектирования приводит к увеличению производительности будущих средств проектирования. Это цикл с положительной обратной связью, повышающей производительность средств проектирования. Большинство подобных циклов с обратной связью основано на постоянной миниатюризации механических и электрических систем, конечным итогом которых и является молекулярная нанотехнология.

Экспоненциально развиваемые технологии изменят всю нашу жизнь за невероятно короткий промежуток времени. Сингулярность ведёт к почти неограниченным технологическим возможностям. Люди, которые в настоящий момент борются за скудные ресурсы, обретут невероятное благосостояние и свободу.
Непостижимость Сингулярности

Жизнь после Сингулярности будет сильно отличаться от той, что была раньше, но она не будет непостижимой. Мы можем дать достаточно полный список грядущих технологических возможностей. Социальные последствия этих изменений коснуться всех нас. Необходимо, чтобы большая часть человечества призадумалась над тем, какой бы мы хотели иметь тип социальных структур, если мы желаем избежать паники.

Рекурсивно самосовершенствующийся ИИ разовьёт разум, который в количественном отношении быстро превзойдёт сегодняшний человеческий уровень интеллекта. Эти количественные улучшения будут включать расширение способностей, увеличение точности и скорости обработки данных. Количественные улучшения являются лишь расширением имеющихся у нас познавательных способностей.

Качественные улучшения или совершенно новые способы осознания и мышления, находящиеся за пределами нашего нынешнего понимания вещей, вряд ли возможны. Причина того, что мы не ждём появления какого-то нового типа интеллекта, а ожидаем лишь новый уровень интеллекта, коренится в том, что разум есть способ решения проблем путём алгоритмической интерпретации. И основываясь на успехах, которые нам сопутствовали при создании физических, биологических и информационных систем, можно суммировать, что мы уже исследовали достаточно широкий диапазон алгоритмически эффективного пространства решений. Конечно, я не могу оспаривать утверждение, что мы не знаем того, чего мы не знаем, но, я думаю, мы можем разложить всё то, что мы ещё не знаем последовательно по полочкам во всё более маленькие ящички или мелкие матрёшки.

Кто думает, что рекурсивно самосовершенствующийся ИИ является единственным или самым основным элементом Сингулярности видят не всего слона, а лишь его хобот.
Сингулярность трех технологий

Сингулярность – это наиболее значительное событие в истории человечества. Она наступит в результате одновременного действия трех продвинутых технологий: искусственного интеллекта, молекулярной нанотехнологии и молекулярной биотехнологии. Скорость продвижения к точке Сингулярности вначале увеличивается постепенно, но механизм обратной связи с каждым укорачивающимся циклом всё быстрее ведёт нас к Сингулярности. При достижении Сингулярности способности человечества становятся действительно потрясающими - полный контроль над структурой материи на атомном уровне, полное знание биологических процессов от макро до микро и молекулярного уровня, и сверхчеловеческий искусственный интеллект.

Каждая из этих трёх технологий достигает физического предела в Сингулярности. Распад общества и нашего образа жизни будет полным. Сингулярность будет предвестником начала новой эры, в которой физическое и умственное совершенство будут нормой наряду с невообразимым благосостоянием и свободой. Эти плоды прогресса не выпадут лишь на долю существующим привилегированным классам, а достанутся всем человеческим существам.
Когда наступит Сингулярность?

Одним из фундаментальных открытых вопросов насчет Сингулярности является вопрос - когда она наступит и насколько быстро произойдут технологические изменения? Экстраполяция тенденций показывают, что Сингулярность должна произойти к 2020 году (возможно эту цифру следует пересмотреть и приблизить дату до 2018 или даже 2016 года, если полагаться на самую последнюю оценку Дэни Эдера (Dani Eder) о том, что время удвоения мощности компьютеров упало до 9 месяцев к сентябрю 2002 года) и она должна быть очень внезапной, что характерно для природы экспоненциальной кривой.

Каким образом все эти перемены будут претворяться в жизнь? Элизер Юдковский считает, что ИИ созреет прежде других двух технологий и сверхчеловеческий искусственный интеллект поведёт нас через транзит (переход). Он называет это "руководством по транзиту. Эрик Дрекслер и Ральф Меркле думают, что наиболее грандиозный потенциал заложен в молекулярной нанотехнологии. Рэй Курцвейл и Ханс Моравек ожидают, что лидировать на этом пути будет синтез компьютеров и людей.

Эти три технологии будут, вероятно, развиваться параллельно вследствие их взаимодействия. Зрелая нанотехнология (полный контроль структуры материи на атомном уровне) позволит нам быстро производить продукты с атомным совершенством по цене сырьевых материалов в неограниченном количестве. Она позволит нам создавать материалы в пятьдесят раз прочнее стали или с любыми наперёд заданными свойствами, с полным доступом и контролем биохимических процессов в живых организмах. И предоставит нам инструментарий для быстрого достижения зрелости в молекулярной биотехнологии и искусственном интеллекте путём восстановительного инжиниринга нашего биологического организма и функционирования человеческого мозга. Последствия влияния на общество трудно переоценить, хотя они и переоценивались в прошлом. Причина была в том, что в прошлом не делалось различия между сингулярными технологиями в развитии и зрелыми сингулярными технологиями.

Согласно наиболее вероятному сценарию Сингулярности примерно в районе 2011 года промышленная нанотехнология начнёт производить лавину дешевых товаров, ликвидирующих бедность и голод во всём мире. Примерно к 2012 компьютерная технология, основанная на нанотехнологии, увеличится по своей мощи на шесть порядков от того уровня, где она будет в 2010. Примерно к 2013 исследования в области молекулярной биотехнологии, основанные на нанотехнологии и компьютерной мощи, обеспечат нам средствами излечения всех телесных недугов. Примерно к 2014 исследования в области ИИ, основанные на нанотехнологии и молекулярной биотехнологии и компьютерной мощности, приведут к созданию первого сверхчеловеческого искусственного интеллекта, СИИ.
Миниатюризация (нано)

Миниатюризация электромеханических систем служит важнейшим источником Сингулярных технологий. Достижения в производительности компьютеров порождены этим источником. Достижения в средствах, используемых для расширения функционально-генетических знаний, являются производными от миниатюризации и компьютерной мощи. Мощность компьютеров будет идти по пятым нано, потому что это наиболее ценное приложение. Но, в отличие от нанотехнологии и повышения мощности компьютеров, создание ИИ потребует громадных теоретических прорывов. Поэтому прогресс состоит в миниатюризации (нано), которой способствует мощность компьютеров. Далее молекулярные средства и мощные компьютеры способствуют развитию молекулярной биотехнологии. И, наконец, нанотех, инфотех и биотех объединяются в производстве СИИ.

Закон Мура не есть основная движущая сила Сингулярности. Для этого имеется гораздо больше оснований. Мы можем вернуться назад к истокам и посмотреть на закон Мура. Закон Мура имеет две стороны – "как" и "почему.

"Как" - это цикл с обратной связью, где результат процесса используется для создания более совершенного механизма, используемого таким образом в процессе дальнейшего увеличения скорости, сложности и производительности этого процесса. И конечно, лучший процесс даёт лучший результат, который, в свою очередь, делает процесс лучше и т.д. и т.д. Когда мы следуем за законом Мура в прошлое через дискретные транзисторные схемы, вакуумные трубки, механические калькуляторы и далее переходим к обработке гуманитарной информации в письменности, которой предшествовала устная речь, а затем продвигаемся дальше вглубь биогенетической эволюции, а затем далее в прошлое, сквозь развитие неживой природы планетарной среды, образование галактик, конденсацию материи из энергии, инфляцию Гута, и в пределе – к исходному безразмерному состоянию Вселенной, то мы обнаруживаем и наблюдаем этот цикл с процессом обратной связи на каждой стадии.

"Почему" – это экономика. Подобным же образом мотивационный аспект экономических сил можно проследить в прошлом в соревнованиях самцов, природный отбор и далее через проявление самоорганизующихся свойств неживой материи-энергии, в динамике сложных систем.

Но где начало? Что является фундаментальной парадигмой этих двух взаимосвязанных концепций "как" и "почему"? Какова "базовая концепция"? Некоторые предполагают что Бог, но эта идея, что вполне очевидно, легко отсекается Бритвой Оккама как нелепая и антропоморфная, без надобности усложняющая положение дел. Определенно, что базовая концепция должна предшествовать понятию пространства-времени и материи-энергии и поэтому не может определяться мистическим актом творения.

Что остаётся? Информация. Рэй Курцвейл в одной из своих публичных бесед с Грегори Стоксом утверждал, что предельно тавтологическая реальность - это структурированная информации. В обмене мнениями между Рэем и Элизером Юдковским, где Элизер спрашивал его о том, как тот понимает ускорение скорости прогресса вследствие обратной связи с ИИ. Рэй ответил, что было бы трудно переоценить взрывную скорость удвоения экспоненциального роста и что ИИ может оказаться одним из тех факторов, которые приведут к продолжению закона Мура и после 2020 года.

Что-то такое удивительное, такое невероятное, что-то абсолютно беспрецедентное в истории должно случиться - Сингулярность. Три Сингулярные технологии, такие как нанотехнология, сверхчеловеческий искусственный интеллект (СИИ) и молекулярная биотехнология, превратят наш мир в рай, если только мы сумеем избежать беспрецедентных опасностей, таящихся в самих же этих технологиях, а именно - биоинженерные супервирусы, вооружения в виде самореплицирующихся нанороботов, недружественные сверхразумные машины и наибольшая опасность из всех - склонность к неограниченному бездумному самоудовлетворению, зацикливанию на кайфомании.

Недоразумение, что компьютерные программисты считают ИИ самым необходимым элементом – это всё из-за непонимания перспективы. Поговорите с каким-нибудь исследователем, занятым изучением генетического кода. Он может наблюдать экспоненциальный рост в своей области. Он может представить удивительное будущее, которое эта технология способна предоставить - полный контроль биологического дизайна живых организмов. И нанотехнология, и генная инженерия дозреют к 2021 вне зависимости от того будет ли создан ИИ или нет, и внезапно совершенно изменят общество.

Термин "технологическая сингулярность" употребляется неверно. Более правильным является термин "социальная сингулярность". На протяжении всей истории новые технологии изменяли общество и хотя люди отдают должное инициирующей природе нововведений, однако наиболее значимым историческим аспектом всегда являлось то как меняется общество.

Вот некоторые из вещей, которые, как мы ожидаем, станут возможными после Сингулярности:

1. Зрелая молекулярная нанотехнология приведёт к производству любых продуктов по цене сырьевых материалов, например, к компьютеру по цене мешка песка. Производство ускорится и будет неограниченно увеличиваться. Качество будет совершенствоваться вплоть до атомного уровня. Потребность во всех необходимых материалы будет легко удовлетворяться. Молекулярная нанотехнология также произведёт средства способствующие развитию молекулярной биотехнологии и искусственного интеллекта. Нанотехнология создаст новые материалы в пятьдесят раз более прочные, чем сталь, или с любыми запроектированными свойствами, требуемыми для применения в космических путешествиях, в больших конструкциях и инструментах.

2. Зрелая молекулярная биотехнология приведёт к полному исключению болезней, недееспособности и смерти от естественных причин (однако вы всё же ещё сможете броситься вниз со скалы). Люди смогут иметь тотальный контроль над проектированием, структурой, функционированием и внешним видом своих тел. Мы будем жить в фантастическом мире, населенном ангелами, феями, колдуньями, демонами и гоблинами. Индивидуальность будет отличительным качеством. Совершенство тела и ума будет нормой. Новые физические способности будут обычными.

3. Сверхчеловеческий искусственный интеллект приведёт к таким последствиям в обществе и в наших возможностях, которые кажутся непостижимыми для человеческого уровня интеллекта, включая загрузку человеческого сознания, искусственные миры, мораль на основе свободы воли и многое другое.
В итоге

Конец мира почти рядом и очень мало людей осознают это. Иногда я бываю настолько подавлен чудовищностью Сингулярности, что чувствую, что должен присоединиться к парню на Мэйн Стрит с лозунгом - КОНЕЦ МИРА БЛИЗОК.

Сингулярность - это проблема связи уровней организации материи во Вселенной. Верхний уровень - РАЗУМ, нижний уровень – АТОМЫ (для наших сегодняшних целей). Три технологии, которые соответствуют трём базовым уровням функциональности, это – искусственный интеллект, нанотехнология и молекулярная биотехнология. Полный успех в этих трёх технологиях обеспечит такие радикальные изменения в наших способностях, которые приведут к социальной Сингулярности. Мы весьма близки к созданию этих последних связей.

Я надеюсь, что ответил на некоторые из Ваших вопросов о Сингулярности. Я также надеюсь, что мои ответы стимулируют появление ещё большего потока вопросов.
Почему они не понимают её

У меня на работе недавно был разговор, который, я думаю, иллюстрирует, почему общественность не понимает Сингулярности. У нас есть сотрудник по имени Доминик – это его настоящее имя. Не стоит над ним подшучивать, он бывший морской пехотинец.

Доминик - интеллигентный, хорошо образованный и хорошо информированный парень, но он скептически относится ко всем, кто пытается всучить ему какой-нибудь перечень товаров. Он смотрит новости и проводит много времени со своим кабельным модемом для доступа к домашним компьютерам. Он в курсе новых технологий, постоянно обновляя свой компьютер. У него телевизор с большим экраном высокого разрешения. Он смотрит все новые научно-фантастические кинофильмы.

Он точно из того сорта людей, которые, как я ожидал, восприняли бы это.

Я говорил с ним о Сингулярности целый год и не смог его убедить. Он видит, что компьютеры становятся всё быстрее и быстрее, но, несмотря на мнение экспертов и в противоположность им он думает, что скоро мы упрёмся в стену, ограничивающую мощность компьютеров. И он говорит, что он не понимает, как более быстрые компьютеры смогут изменить всё вокруг.

Часть проблемы – это Голливуд. В НФ фильмах изменяются лишь технические новинки, а экономика - нет. Люди всё ещё по-прежнему работают ради того, чтобы выжить и всякий хлам всё ещё в цене. Люди по-прежнему глупые и смертные.

Такие вещи, я думаю, не соответствуют истинной картине, ожидаемой нас после Сингулярности. И за исключением электроники и некоторых новых методов медицины он не видит никаких драматических примеров миниатюризации, дающих ему какие-то свидетельства потенциала или близости нанотехнологии.

Что до ИИ, то достаточно продвинутая система Alicebot находится крайне далеко от обретения хотя бы одного процента человеческого знания или понимания, а роботы – несуразные игрушки.

Один из печальных фактов насчёт экспоненциального роста, если вам этого хочется, состоит в том, что почти все свершения происходят практически в самом конце. Почему тогда я вижу это ясно как день, а он не видит вовсе?

Всё потому, что я прочитал эту книгу, а он нет. Могу ли я заставить его прочитать эту книгу? Нет, он не любитель читать, он любит смотреть, слушать и кушать (чукча не читатель, чукча – наблюдатель).

Нам надо создать фильм, показывающий все социальные последствия таких технологий, как нанотех, генотех и ИИтех. Есть ли желающие оказать мне содействие в написании сценария?

ГЛАВА ВТОРАЯ.
ИСКУССТВЕННЫЙ ИНТЕЛЛЕКТ


 

Искусственный интеллект (ИИ) - технология создания самостоятельного разума. Искусственный интеллект (ИИ), Автономный Генерализованный Интеллект (АГИ) и Совещательный Генерализованный Интеллект (СГИ) являются просто разными названиями, используемыми для описания думающих машин. Бен Герцель (Novamente, AGIRI) определяет интеллект как способность к достижению сложных целей в сложной окружающей обстановке. Тогда что является "генерализованным интеллектом"? Многие полагают, что люди обладают генерализованным интеллектом. Если это так, то тогда генерализованный интеллект мог бы быть определен как наша способность к достижению целей в окружающей нас среде. Или истинный "общий интеллект" должен быть способен достигать все доступные цели во всех мыслимых средах? Пытаются ли исследователи АГИ создать Бога или всего лишь сверхчеловеческий искусственный интеллект? Есть ли различие? И что это будет значить для Сингулярности?

Когда компьютерные программы станут настолько разумными что превратятся в компьютерных программистов, тогда цикл обратной связи рекурсивного самосовершенствования приведёт прямо к Сингулярности.
Три подхода к ИИ

Можем ли мы построить разумный компьютер? Можем ли мы написать компьютерную программу, которая думает таким же образом как мы или лучше?

AI - искусственный интеллект; знания человеческого уровня, мышление и понимание в компьютере.

SAI – сверхчеловеческий уровень интеллекта в компьютере.

Сингулярность - взрыв нанотехнологии, биотехнологии и компьютерной технологии.

Такие математики как Алан Тьюринг и Алонзо Чёрч и учёные- мыслители Пол Чёрчлэнд, Дан Деннет, Дуглас Хофштадтер и Марвин Минский ставили перед собой подобные вопросы. Основной вопрос крутится вокруг вычислительной теории разума; идеи, что всё происходящее в вашей голове основано на вычислениях, выполняемых физическими структурами вашего мозга, включая химические, электрические и логические процессы, которые могли бы в равной степени все хорошо выполняться и на цифровом компьютере.

Такие поборники робототехники как Родни Брукс верят, что все более высокие уровни мыслительных процессов строятся на базе познавательной концепции чувственного восприятия и контроля местоположения, особенно на зрении и движении. Они выдвигают постулат, что умственные способности, включая интеллект и рассудительность, должны пробуждаться в результате взаимодействия этих простых функций с опосредованными физическими системами в процессе эволюционирующего машинного обучения или запрограммированного человеком метода проб и ошибок. Эволюция роботов предположительно достигнет человеческого уровня где-то в районе 2040 года.

В то же время теоретики ИИ верят, что путём объединения множества высокоуровневых алгоритмов умозаключений и с помощью теории семантики они смогут спроектировать мозг по способностям соответствующий совещательному общему интеллекту. Их проекты совершенно лишены функций восприятия и передвижения, которые, как они считают, должны быть участками входа и выхода в их модели мышления типа "вход-процесс-выход.

И, наконец, существуют инженеры по технике восстановления функций мозга, которые верят, что таким образом они могут перепрыгнуть через десятилетия эволюции робототехники и теоретического осмысления ИИ теоретиками, и с помощью сканирования составных частей человеческого мозга и имитации его деятельности создать полностью функционирующий разум в компьютере.

Каждый из подходов демонстрирует некоторые успехи. Имеются роботы-жучки, способные передвигаться по неизвестным территориям. И существуют алгоритмы выработки умозаключений, которые в состоянии разрабатывать эвристику решения математических задач, доказывать теоремы, играть в шахматы и вести простые разговоры. Также имеются имитаторы нейронов, которые позволили разработать функциональные модели некоторых периферических нейронных сетей мозга.

Главная критика состоит в том, что, несмотря на начальные успехи, им присущая общая неопределенность - любой из методов не может доказать свою адекватность до тех пор, пока умственный процесс не достигнет самого высокого уровня. Такой критицизм вскрывает большую неизвестность. Мы не знаем, что заработает, пока мы не пытаемся это сделать. Есть вероятность, что все три подхода будут успешными или что все три будут тщетными. Когда вы исследуете каждый случай со своей собственной точки зрения, то они все очень убедительны и моя интуиция подсказывает, что все три дадут жизненно важное решение.