Гипотетический момент, по прошествии которого, по мнению сторонников данной концепции, технический прогресс станет настолько быстрым и сложным, что окажется недоступным пониманию, предположительно следующий после создания искусственного интеллекта и самовоспроизводящихся машин, интеграции человека с вычислительными машинами, либо значительного скачкообразного увеличения возможностей человеческого мозга за счёт биотехнологий.

По некоторым прогнозам, технологическая сингулярность может наступить уже около 2030 года.

Значительные сопутствующие изменения, которые станут технически возможными с приходом технологической сингулярности, это:
-Пониженное загрязнение окружающей среды за счёт применения искусственного интеллекта в комплексе: производство + переработка отходов производства.
-Увеличенное свободное время у людей, так как большую часть физического труда будет выполнять машина, контролируемая человеком.

Идею об ускоряющемся росте научного знания впервые можно встретить в работах Ф. Энгельса. В середине XIX века он писал о том, что наука движется вперед пропорционально массе знаний, унаследованных ею от предшествующего поколения. По его мнению, со времени своего возникновения (XVI-XVII вв.) развитие наук усиливалось пропорционально квадрату расстояния (во времени) от своего исходного пункта. Близкие идеи высказывал В. И. Вернадский, писавший о непрерывном усилении темпов научного творчества. По мнению некоторых современных исследователей, имеет место «экспоненциальный закон развития науки», проявляющийся в соответствующем увеличении числа научных работников, научных организаций, публикаций и других показателей. Однако важно отметить, что экспоненциальный рост как раз не предполагает никакой сингулярности в математическом смысле этого понятия.

Близко к концепции сингулярности находятся идеи Станислава Лема о вероятной эволюции компьютеров. В наиболее предельном виде эволюция компьютеров описана в эссе «Голем XIV лекция XLIII. О себе».

Термин «сингулярность» заимствован у математиков и астрофизиков, которые используют его при описании космических чёрных дыр и в некоторых теориях начала вселенной - точка с бесконечно большой плотностью и температурой и бесконечно малым объёмом. Математическая сингулярность (особенность) - точка функции, значение в которой стремится к бесконечности, либо другие подобные «интересные» точки - особенности функции.

В данном контексте впервые термин «сингулярность» использовал в середине ХХ века Джон фон Нейман, имея в виду математическое, а не астрофизическое понимание этого слова - точку, за которой экстраполяция начинает давать бессмысленные результаты (расходиться). Об этом пишет Вернор Виндж, которому данный термин обычно приписывают. Научным обоснованием наступления сингулярности активно занимается Рэймонд Курцвейл.

Уменьшение промежутка времени между эволюционными событиями (биологическая, затем технологическая эволюция)

Курцвейл пишет, что из-за смены парадигм, тенденция экспоненциального роста наблюдается от интегральных схем до более ранних транзисторов, электронных ламп, реле, и электромеханических компьютеров.

Одними из фундаментальных открытых вопросов насчет сингулярности являются вопросы о её существовании, времени наступления и темпах роста технологических изменений. Экстраполяция некоторых тенденций показывает, что сингулярность может произойти к 2020 году; возможно, эту дату следует пересмотреть и приблизить до 2018 или даже 2016 года, если полагаться на самую последнюю оценку Дэни Эдера (англ. Dani Eder) о том, что время удвоения мощности компьютеров упало до 9 месяцев к сентябрю 2002 года, - и она должна быть очень внезапной, что характерно для природы гиперэкспоненциальной кривой.

Ряд учёных (из наиболее известных российских, например - один из основоположников клиодинамики А. В. Коротаев и биолог А. В. Марков) выступают с обоснованной критикой данной концепции, утверждая, что явно выраженной точки сингулярности, с острым кризисом, не будет. Ими утверждается, что развитие идёт по S-образной (логистической) кривой, и уже с начала 1970-х годов началось торможение, то есть Мир-Система «точку сингулярности» в процессе модернизационного фазового перехода уже прошла; при этом под точкой сингулярности здесь подразумевается такая точка на графике развития, в которой скорость максимальна (середина S-образной кривой).

Технологическая сингулярность как следствие развития нанотехнологий рассматривается в отчете 2007 года Комиссии по экономической политике Конгресса США. По некоторым мнениям, придерживающихся возможности сингулярности, она должна наступить около 2030 года. Если проэкстраполировать закон Мура, окажется, что примерно в то же время вычислительная мощность компьютеров сравнится с головным мозгом человека. Сторонники теории технологической сингулярности считают, что если возникнет принципиально отличный от человеческого разум (постчеловек), дальнейшую судьбу цивилизации невозможно предсказать, опираясь на человеческую логику.

Кроме рассказов Вернора Винджа, сингулярность является центральной темой произведений некоторых других авторов научной фантастики. Среди них можно отметить Уильяма Гибсона, Чарльза Стросса, Карла Шрёдера, Юрия Никитина, Грега Игана, Дэвида Брина, Иэна Бэнкса, Нила Стивенсона, Тони Баллантайна, Брюса Стерлинга, Дэна Симмонса, Дэмиена Бродерика, Фредерика Брауна, Яцека Дукая, Нагару Танигава, Кори Доктороу, Питера Уоттса. Кен Маклеод в своём романе 1998 года «Подразделение Кассини» (англ. The Cassini Division) определяет сингулярность как «вознесение для нердов».

Тематика сингулярности часто встречается в киберпанковых романах. Например, рекурсивно самоулучшающийся искусственный интеллект «Зимнее Безмолвие» в романе Уильяма Гибсона «Нейромант». Опубликованный в 1994 году на сайте Kuro5hin роман «Метаморфозы Высшего Интеллекта» посвящён жизни после запущенной искусственным интеллектом сингулярности. Более антиутопичный взгляд на сингулярность в коротком рассказе Харлана Эллисона «У меня нет рта и я должен кричать» («I Have No Mouth, and I Must Scream»). Другими примерами антиутопичного взгляда являются «Акселерандо» Чарльза Стросса и продолжающаяся в настоящее время серия комиксов Уоррена Эллиса «newuniversal». «Все куклы» (англ. Puppets All) Джеймса Милна затрагивает эмоциональные и моральные проблемы Сингулярности. Проблема Контакта в эпоху технологической сингулярности обсуждается в романе Станислава Лема «Фиаско» (1986), «Ложной слепоте» Питера Уотса.

Техника вошла в нашу жизнь очень давно, и важность её несомненна. Изучением феномена техники занимались многие философы, занимаются и сейчас. Мартин Хайдеггер, размышляя о современных феноменах, в частности, о феномене техники, рассматривал явления, которые не происходят сейчас. Он рассматривал возможные явления, в перспективе. Существующее положение дел Хайдеггер оценивает негативно. Анализируя технику, он показывает, что трактовка её и как нейтрального феномена, и как средства деятельности, закрывает нам возможность понять сущность техники, скрывает возможность сознательно воздействовать на неё. Хайдеггер говорит, что «худшим образом мы отдаемся во власть техники тогда, когда рассматриваем ее как нечто нейтральное; ведь такое представление о технике, ныне особенно распространенное, делает нас совершенно слепыми в отношении сущности техники». Он вводит трактовку техники как «постава» (всякая техника рассматривается как функциональный элемент поставляющего производства), показывая затем, что человек и природа сами превращаются в постав и тем самым блокирует привычное для нас убеждение, что человек стоит над техникой и природой и что техника не влияет на природу.

Негативную оценку техники Хайдеггер выражает в следующих словах: «Опасна не техника сама по себе. Нет никакого демонизма техники; но есть тайна ее существа. Существо техники как миссия раскрытия потаенности - это риск. Измененное нами значение слова “постав”, возможно, сделается нам немного ближе, если мы подумаем теперь о поставе в смысле посланности и опасности». Хайдеггер стремится показать, что техника не является чем-то внешним к бытию, а совпадает с ним. Поэтому для того, чтобы повлиять на технику в нужном направлении, нужно менять и само бытиё: «Если существо техники, постав как риск, посланный бытием есть само бытие, то технику никогда не удастся взять под контроль просто волевым усилием, будь оно позитивное и негативное. Техника, чье существо есть само бытие, никогда не даст человеку преодолеть себя. Это означало бы, что человек стал господином жизни» . Но тут же утверждает, что и без сознательных усилий человека техника не может измениться. Можно сказать, что необходимым условием осмысленного воздействия на технику является, по Хайдеггеру, работа человека над собой: человек должен вспомнить и понять свои высшие ценности, чтобы подчинить им ценности не столь высокие: комфорта, власти над природой и т.п.

Проблема, поднятая Хайдеггером, очень сложна. Её нельзя решить только техническими методами. Проблема сосуществования человека и техники волнующа и сейчас. Есть немало работ, вышедших в свет относительно недавно, затрагивающих эту тематику. Анализу одной из таких статей, перекликающейся с основными идеями Хайдеггера, изложенными выше, посвящён данный реферат.

В 1993 году на симпозиуме VISION-21, который проводился в 1993 году Центром космических исследований NASA им. Льюиса и Аэрокосмическим институтом Огайо, была представлена статья «Грядущая технологическая сингулярность: как выжить в пост-человеческую эру» (The Coming Technological Singularity: How to Survive in the Post-Human Era) . Автором доклада был математик и писатель Вернор Виндж (Vernor Vinge). В 2003 году автор дополнил эту статью некоторыми комментариями. Статья была написана более десяти лет назад, но актуальна до сих пор. Те комментарии, которые внёс автор спустя десять лет после первоначального написания, лишь дополняют первоначальную статью.

Основываясь на переводе этой статьи с комментариями и на некоторых других источниках, в этом реферате я хотел бы уделить внимание следующим вопросам: что такое «технологическая сингулярность», как она может повлиять на человечество, как человечество может повлиять на неё, имеет ли смысл уделять ей какое-либо внимание, относиться к ней как к религии или как к научной (псевдо-научной) теории.

Что такое Сингулярность?

Термин сингулярность (лат. singularis – отдельный, особый) заимствован у астрофизиков, которые используют его при описании космических черных дыр и, в некоторых теориях, начала вселенной – точки с бесконечно большими массой и температурой и нулевым объемом. Математически сингулярность ­– точка функции, значение функции в которой стремится к бесконечности, либо другие подобные "интересные" точки. Какое же отношение может иметь понятие сингулярности к технологии?

Одной из особенностей XX века является ускорение технического прогресса. Человечество стоит на грани перемен, которые сравнимы с появлением разумного человека на земле. Главная причина этих перемен в том, что совершенствование и развитие техники приводит к тому, что техника становится всё более изощрённой и «умной». Всё это ведёт к созданию сущности с интеллектом, превышающим человеческий. Видится несколько путей, по которым наука может достичь такого прорыва:

1. Компьютеры обретут "сознание", и возникнет сверхчеловеческий интеллект. (В настоящее время нет единого мнения о том, сумеем ли мы создать машину, равную человеку, однако, если это получится, несомненно, вскоре затем можно будет сконструировать еще более разумные существа).

2. Крупные компьютерные сети (и их объединенные пользователи) могут "осознать себя" как сверхчеловечески разумные сущности.

3. Машинно-человеческий интерфейс станет настолько тесным, что интеллект пользователей можно будет обоснованно считать сверхчеловеческим.

4. Биология может обеспечить нас средствами улучшения естественного человеческого интеллекта.

Первые три возможности напрямую связаны с совершенствованием компьютерного аппаратного обеспечения. Четвёртая возможность также зависит от этого, хотя и косвенно. Прогресс аппаратного обеспечения на протяжении уже нескольких десятилетий поразительно стабилен. Исходя из этой тенденции, автор статьи делает выводы, что интеллект, превосходящий человеческий, появится в течение ближайших тридцати лет. На этот счёт, конечно же, можно легко найти остроумную критику. Чарльз Плат, например, заметил, что энтузиасты искусственного интеллекта делают подобные утверждения уже как раз лет тридцать. Поэтому Виндж указывает более строгие временные рамки: это должно случиться между 2005 и 2030 годами. Заявление это было сделано ещё в 1993 году, а в 2004 автор, дополняя свою статью комментариями, подтвердил свою уверенность в этих сроках. Полагаю, что одним из признаков, использующихся для получения этой даты, был закон Мура, гласящий: количество транзисторов на новых кристаллах микропроцессоров удваивается каждые полтора года. Как раз между 2015–2030 годами вычислительная мощность компьютеров сравняется с мощью человеческого мозга, оцениваемой в 10 16 операций в секунду (а затем превзойдёт её) . Кроме того, далее по тексту статьи Вернон Виндж ссылается на некие кривые роста производительности. Похоже, что они имею гиперболический вид, а особая точка как раз приходится на указанный период.

Возникает вопрос: каковы будут последствия научного прорыва и появления сверхчеловеческого разума? Автор статьи даёт свой ответ на этот вопрос. Прогресс, направляемый интеллектом, превосходящим человеческий, станет значительно более стремительным. Нет оснований полагать, что прогресс не станет плодить всё более разумные сущности ускоряющимися темпами. Лучшая аналогия, которую можно здесь провести – наше эволюционное прошлое. Животные могут приспособиться и проявлять изобретательность, но скорость эволюции ограничена естественным отбором. В случае естественного отбора мир сам выступает в роли собственного симулятора. Мы, люди, обладаем способностью усваивать окружающий мир и выстраивать у себя в голове причинно-следственные связи, поэтому мы решаем многие проблемы в тысячи раз быстрее, чем механизм естественного отбора. Когда же появится возможность просчитывать эти модели с более высокими скоростями, мы войдём в режим, который отличается от нашего человеческого прошлого не менее радикально, чем мы, люди, сами отличаемся от низших животных.

Событие это девальвирует весь свод человеческих законов за ненадобностью. Возможно, это произойдёт очень быстро. Изменения будут развиваться по экспоненте без всякой надежды на восстановление контроля над ситуацией. Это событие Виндж назвал Сингулярностью (именно так, с большой буквы). «Это точка, в которой наши старые модели придётся отбросить, воцарится новая реальность. Это мир, очертания которого будут становиться всё четче, надвигаясь на современное человечество, пока эта новая реальность не заслонит собой окружающую действительность, став обыденностью. И всё же, когда мы такой точки, наконец, достигнем, это событие все равно станет великой неожиданностью и ещё большей неизвестностью». (Здесь и далее, если не указано обратное, источником цитаты является рассматриваемая статья.)

Великий учёный в области вычислительной техники Джон фон Нейман вел однажды беседу со Стэном Юламом «…о непрерывно ускоряющемся техническом прогрессе и переменах в образе жизни людей, которые создают впечатление приближения некоторой важнейшей сингулярности в истории земной расы, за которой все человеческие дела, в том виде, в каком мы их знаем, не смогут продолжаться»

В середине двадцатого столетия, в шестидесятые годы, Ирвинг Джон Гуд писал: «Определим сверхразумную машину как машину, которая способна значительно превзойти все интеллектуальные действия любого человека, как бы умён тот ни был. Поскольку способность разработать такую машину также является одним из этих интеллектуальных действий, сверхразумная машина может построить ещё более совершенные машины. За этим, несомненно, последует "интеллектуальный взрыв", и разум человека намного отстанет от искусственного. Таким образом, первая сверхразумная машина станет последним изобретением, которое выпадет на долю человека, при условии, что машина будет достаточно покорна и поведает нам, как держать ее под контролем... И вероятность того, что в двадцатом веке сверхразумная машина будет построена и станет последним изобретением, которое совершит человек, выше, чем вероятность того, что этого не случится»

Чтобы далее не спекулировать на тему искусственного интеллекта, бросаясь голословными утверждениями, необходимо сделать небольшой экскурс в проблему изучения искусственного интеллекта, а главное, проблему определения искусственного интеллекта.

Что такое искусственный интеллект

Для ответа на вопрос «Что такое искусственный интеллект», я обратился к введению к монографии Петрунина Ю.Ю. «От тайного знания к нейрокомпьютеру: Очерки по истории искусственного интеллекта». В ней представлен на редкость полный и объективный взгляд на проблему реализуемости искусственного интеллекта.

По поводу искусственного интеллекта в кругу специалистов по данному вопросу постоянно возникают споры при любом удобном случае. Главный вопрос, который при этом возникает: возможен ли искусственный интеллект? Можно ли научить машину думать? Верите ли Вы в возможность создания искусственного интеллекта? Во всех этих вопросах употребляется модальность верования, из чего можно заключить, что вопрос об искусственном интеллекте выходит за рамки научного. Патрик Уинстон, один из крупнейших авторитетов в этой области, сказал: «Относительно разума вычислительных машин… имеется много ходячих мифов» . Можно сказать, что сам термин «искусственный интеллект» означает миф, который широко проник в современное обыденное и научное сознание. В данном случае миф подразумевается не как ложность некоего представления, а как то, что это представление не может быть проверено эмпирически и рационально обосновано.

Для эмпирической проверки необходимо чёткое представление о том, что именно проверять, т.е. чёткое представление о том, что такое искусственный интеллект. Но по этому поводу А. Эндрю замечает: «По существу, последний так и не получил достаточно удовлетворительного определения. Поэтому, … в конечном счёте, нам придётся вернуться к нашему интуитивному представлению об интеллекте» .

Реферативный журнал «Abstracts in Artificial intelligence» (The Turing institute, ed. J. Ritchie) вводит следующее разделение искусственного интеллекта на проблемы:

1. Экспертные системы

2. Применение искусственного интеллекта

3. Автоматическое программирование

4. Автоматическое доказательство теорем

5. Логическое программирование

6. Обучение

7. Естественный язык

8. Поиск

9. Управление и планирование

10. Робототехника

11. Зрение и обработка изображений

12. Распознавание образов

13. Когнитивное моделирование

14. Взаимодействие человека и ЭВМ

15. Технические средства для искусственного интеллекта

Список достаточно внушительный. Задачи очень разные. Что же их объединяет?

«Если бы физики или химики взялись дать абстрактные определения своих областей знания, – подчёркивает Э. Хант, ­– то скорее всего не нашли бы разногласий ни среди тех, ни среди других. Вряд ли бы обнаружилось такое единодушие, если бы пришлось собрать вместе разных учёных, занимающихся искусственным интеллектом» .

Существует немало определений искусственного интеллекта. Но они все настолько различны, что кажется, будто речь идёт о разных вещах. Так, одни считают, что интеллект – это умение решать сложные задачи, другие – способность к обучению, третьи – возможность взаимодействия с внешним миром путём обобщения восприятия. Есть учёные, которые развивают теоретическую модель, в которой за осуществление интеллектуальной деятельности отвечает около 120 факторов. Из них только 50–60 известны сегодня .

Одним из кажущихся выходов из сложившейся ситуации является обращение к естественному интеллекту как к эталону. Можно было бы сказать, что машина обладает интеллектом, если то задание, которое она выполняет, потребовало бы от человека, будь человек на месте машины, интеллектуальных усилий. Хорошее утверждение? К сожалению, проверяя его, легко прийти к абсурду: при выполнении арифметических действий человек использует свой интеллект – это ни у кого не вызывает сомнений, но утверждение, что обыкновенный калькулятор обладает интеллектом не примет никто.

В 1950 году британский математик и специалист в области вычислительной техники Алан Тьюринг предложил тест, который позволяет определить, является ли испытуемое нечто думающим или нет. Суть теста состоит в следующем. Судья (человек) переписывается на естественном языке с двумя собеседниками, один из которых – человек, другой – компьютер. Если судья не может надёжно определить, кто есть кто, компьютер прошёл тест. Предполагается, что каждый из собеседников стремится, чтобы человеком признали его. Для того чтобы сделать тест простым и универсальным, переписка сводится к обмену текстовыми сообщениями. Переписка должна производиться через контролируемые промежутки времени, чтобы судья не мог делать заключения исходя из скорости ответов. Это связано с тем, что во времена Тьюринга компьютеры реагировали медленнее человека. Сейчас это правило необходимо, потому что они реагируют гораздо быстрее, чем человек. Тест был инспирирован салонной игрой, в ходе которой гости пытались угадать пол человека, находящегося в другой комнате, путём написания вопросов и чтения ответов. В оригинальной формулировке Тьюринга, человек должен был притворяться человеком противоположного пола, а тест длился 5 минут. Сейчас эти правила не считаются необходимыми и не входят в спецификацию теста.

В 1964 году крупным американским кибернетиком Дж. Вейценбаумом была создана программа «Элиза» (ELIZA), имитирующая поведение психиатра. Пациенты, с которыми беседовала эта программа, в большинстве случаев были уверены, что общаются с врачом. Тем не менее, успех этой программы никого не может заставить считать её искусственным интеллектом. Не были выполнены серьёзные условия прохождения теста – испытатели не были поставлены в известность, что они сейчас проводят испытание.

Пока что ни одна программа и близко не подошла к прохождению теста. Такие программы, как «Элиза», иногда заставляли людей верить, что они говорят с человеком, как, например, в неформальном эксперименте, названном AOLiza. Но такие «успехи» не являются прохождением теста Тьюринга. Во-первых, человек в таких беседах не имел никаких оснований считать, что он говорит с программой, в то время как в настоящем тесте Тьюринга человек активно пытается определить, с кем он беседует. Во-вторых, документированные случаи обычно относятся к таким чатам, как IRC, где многие беседы отрывочны и бессмысленны. В-третьих, многие пользователи IRC используют английский как второй или третий язык, и бессмысленный ответ программы, вероятно, спишется ими на языковый барьер. В-четвертых, многие пользователи ничего не знают об Элизе и ей подобных программах и не могут распознать совершенно нечеловеческие ошибки, которые эти программы допускают.

Против теста Тьюринга было выдвинуто несколько возражений:

1. Машина, прошедшая тест, может не быть разумной, а следовать какому-то хитрому набору правил. (Распространённое контрвозражение: откуда мы знаем, что человек не следует какому-то хитрому набору правил?)

2. Машина может быть разумной и не умея разговаривать, как человек

3. Некоторые вполне разумные люди провалят этот тест (например, маленькие дети или неграмотные)

4. Если тест Тьюринга и проверяет наличие разума, то он не проверяет сознание (consciousness) и свободу воли (intentionality), тем самым не улавливая важных различий между разумными людьми и разумными машинами.

Ежегодно производится соревнование между разговаривающими программами, и наиболее человекоподобной, по мнению судей, присуждается приз Лебнера (Loebner). Есть дополнительный приз для программы, которая, по мнению судей, пройдёт тест Тьюринга. Этот приз ещё не присуждался.

Но это ещё не всё, ситуация запутана ещё сильнее. Если компьютер будет в состоянии читать какой-либо текст и делать краткий обзор его, будет ли эта машина считаться разумной? Так может спросить учёный, занимающийся искусственным интеллектом, у критика. И критик, скорее всего, ответит с уверенностью положительно. Но если ему показать такую программу, а затем, на свою беду, позволить посмотреть на её текст, на то, как она работает, да и вообще, дать разобраться в ней как следует, то программе в интеллектуальности будет отказано. По этому поводу очень хорошо сказал П. Уинстон: «Быть интеллектуальным – значит быть загадочным. Как он [Он – это некий безличный субъект, проявивший смекалку] мог до этого дойти? – спрашиваем мы. До тех пор, пока происхождение идеи остаётся неясным, она выглядит как откровение, но как только на поверхность выходит её объяснение, мы удивляемся: “Как это я об этом не подумал, ведь это так очевидно!” Когда процесс окажется разделённым на части, изученным и понятным, похоже, что интеллект исчезает».

Понятие интеллекта кажется неуловимым. «На самом деле, дать определение, – резюмирует свои соображения П. Уинстон, – в обычном смысле этого слова, по-видимому, невозможно». А Мичи и Джонсон замечают весьма остроумно: «За неимением более точного определения машинного интеллекта его можно охарактеризовать словами: “Точного определения я дать не могу, но всегда смогу узнать, когда увижу”». Мне это определение кажется наиболее симпатичным, хотя и несколько комичным. Похоже, что ничего более чёткого и ясного всё равно не предвидится. А для данного реферата определение это подходит, на мой взгляд, очень хорошо.

В заключение этого небольшого экскурса в проблему искусственного интеллекта, хочу отметить, что слова «искусственный интеллект», «механический мозг», «машинный разум» употребляются сейчас очень часто, из-за этого мы не замечаем парадоксальность этих словосочетаний. Действительно, слово «машинный» означает нечто механическое, бессознательное, непроизвольное, строго повторяющееся. «Интеллект» означает нечто оригинальное, творческое, неформализуемое, непредвидимое, неподчиняющееся никаким правилам. Получается, что в одном словосочетании слились два противоположных по смыслу понятия. «Холодное пламя», «тёмный свет» – вот примеры подобных словосочетаний. Их обычно можно встретить в поэзии, художественной литературе. Как вообще может быть осмысленным определение «искусственный интеллект», если оно, по сути, есть contradicto in adjecto (противоречие в определении)? Но развивать эту тему мы уже не будем.

Симптомы Сингулярности

Итак, в 60-е – 80-е годы двадцатого столетия осознание того, что грядёт какой-то катаклизм, росло. Вероятно, первыми почувствовали его влияние писатели фантасты. Ведь именно научной фантастике полагается предсказывать, чем обернётся та или иная технология в будущем. Если ранее воображение легко переносило на миллионы, миллиарды лет вперёд (например, «Машина времени» Герберта Уэллса), то теперь наибольшее количество прогнозов относится к ближайшему завтра. Неизвестному завтра! Писатели изобрели множество уловок для того, чтобы не связываться с разумными машинами в своём сюжете. Так или иначе их делают неопасными. Для меня наиболее обескураживающим ходом было наделение машин солипсизмом в том смысле, что они не верят в реальность окружающего мира, в события, происходящие с ними, поэтому легко подчиняются человеку.

Машинный разум до сих пор не создан. Критики машинного разума часто заявляют, что искусственным интеллектом занимаются уже очень давно, а он так и не получен. Но, вероятно, уж такова природа человека, что он любит забывать, что же он хотел получить изначально. Так, многие задачи, которые относятся к искусственному интеллекту так или иначе уже решены. Например, задача распознавания образов давно уже вышла из области чисто научных исследований. Существует несколько коммерческих продуктов, занимающихся распознаванием печатного текста (ABBYY FineReader), рукописного текста (Paragon PenReader). Эти продукты с первоначально поставленными задачами вполне справляются. Только вот люди хотят от них всё большего и большего. Хотят не 90% качества распознавания, а 95%. Когда достигается этот рубеж, они хотят 99% и так далее. И всё время недовольны! Говорят, что всё плохо и неправильно, можно распознавать лучше, человек распознаёт лучше и т.п. А ведь и люди не всякий текст могут понять. Но с пользователями не поспоришь. Вот и получается в итоге, что общество считает, что задача распознавания образов (текстов) не решена.

Есть ещё одна любопытная подробность. Когда на заре развития компьютеров попытки построения искусственного интеллекта закончились ничем, всё направление потеряло большую часть привлекательности, ассигнования сократились, энтузиасты переползли на программирование компьютерных противников в играх и пр. Казалось бы, тупик. Если бы не одно "но": иного результата тогда ожидать и не следовало. Нужно всего лишь представить себе вычислительную мощность компьютеров в лабораториях искусственного интеллекта Массачусетского технологического института в то время. Они были примерно эквивалентны мозгу насекомого. И эквивалент интеллекта насекомого был получен! Затем сокращение ассигнований на исследования ИИ не позволило обновлять компьютерный парк исследователей в темпе, адекватном возможностям технологии. И только сейчас, когда существенно большие мощности стали доступны практически каждому, следует ожидать дальнейшего прогресса.

С течением времени мы будем наблюдать все больше симптомов. Дилемма, которую прочувствовали фантасты, станет восприниматься в контексте творческих усилий иного рода. Мы станем свидетелями того, как постепенно будут автоматизироваться задачи всё более высокого уровня. Уже сейчас существуют инструменты (программы символической логики, САПР), которые освобождают нас от большинства нудной рутины. Есть и обратная сторона медали: истинно производительный труд становится уделом стабильно сокращающейся узкой элиты человечества. С пришествием Сингулярности мы увидим, как, наконец, сбываются прогнозы о настоящей техногенной безработице.

А каким же будет наступление самой Сингулярности? Что можно сказать об истинном характере этого события? Поскольку дело касается интеллектуального разгона, вероятно, это окажется самой стремительной технической революцией из всех прежде нам известных. Ожидать этого не будет никто, даже те учёные, которые вовлечены в творческий процесс. "Но ведь все наши предшествующие модели не двигались! Мы только подкрутили кое-какие настройки...",– примерно такие мысли и слова удивления, можно ожидать от них.

Через несколько месяцев после этого события наступит нечто, чему автор статьи приводит одну лишь схожую по значимости явления аналогию – возникновение человечества. Мы очутимся в постчеловеческой эре. И, несмотря на технический оптимизм, автор заявляет, что ему было бы куда комфортнее, если бы от этих сверхъестественных событий отделяла тысяча лет, а не двадцать.

Вероятно, это самое слабое место в идее того, что Искусственный Интеллект может возникнуть в том виде, что заменит Естественный. Получается, что чёткого представления о том, как вообще может произойти такой качественный скачёк от тех инструментов, которые может предоставить ИИ (см. выше задачи ИИ), к чему-то, способному к творчеству и конкуренции с человеком, у Винджа нет. Хотя, возможно, что эти соображения он не стал излагать в статье, или же я не смог их распознать. Но, тем не менее, кинематографисты и писатели тему эту не бросают. А значит, задевает она людей.

Пути к Сингулярности и от неё

Виндж не претендует на то, что Сингулярность наступит обязательно. Упоминаются популярные и признанные аргументы Пенроуза и Сёрла о непрактичности машинного разума. А в 1992 году сообщество «Мыслящих Машин» устроило мозговой штурм, целью которого было проверить тезис: «Как построить мыслящую машину» Т.е. участники не полностью разделяли доводы против машинного разума. Принималась общая договорённость, что разум может существовать не только на биологической основе, а алгоритмы являются важнейшими составляющими разума. Выделилось несколько групп, каждая придерживающаяся определённого мнения. Так было меньшинство, считавшее, что мощнейшие компьютеры 1992 года по мощности отстают на три порядка от человеческого мозга. Было большинство, соглашавшееся с подсчётами Ганса Моравеца, которые показывали, что нам потребуется десять-сорок лет и аппаратура сравняется с людьми. Было ещё одно меньшинство, считавшее, что общепринятые оценки вычислительной мощности отдельных нейронов занижены, а значит, наши современные компьютеры отстают на десять порядков от того устройства, что находится в человеческом черепе. Тогда, как говорит Виндж, возможно, мы никогда так и не доживём до Сингулярности, а вместо этого увидим, что кривые производительности нашего аппаратного обеспечения начнут сглаживаться из-за нашей неспособности автоматизировать конструкторскую работу по разработке дальнейших усовершенствований аппаратных средств. Все кончится каким-нибудь очень мощным компьютером, но без возможности двигаться вперед. Коммерческая цифровая обработка сигналов будет восхитительна, обеспечивая аналоговый выход, сравнимый с цифровыми операциями, но "сознание" не пробудится, а интеллектуальный разгон, являющий собой самую суть Сингулярности, так и начнется. Такое положение вещей, вероятно, следует рассматривать как Золотой век… и конец прогресса.

Спустя десять лет, Виндж добавил ещё один аргумент против вероятности технологической Сингулярности: даже если мы сумеем создать компьютеры с необходимой аппаратной мощью, может и не получиться организовать имеющиеся компоненты таким образом, чтобы машина обрела сверхчеловеческий разум. Просто сложность программного обеспечения возрастёт настолько, что не будет никакой возможности с ним совладать. Будут предприниматься попытки запустить все более крупные проекты по разработке ПО, но программирование не справится с задачей и мы не получим необходимых решений биологических моделей, которые могли бы помочь реализовать обучение и «эмбриональное развитие» машин. Виндж даже приводит такой контрапункт к закону Мерфи: «Максимально возможная эффективность программной системы растет пропорционально логарифму эффективности (то есть скорости, полосе пропускания, объему памяти) подлежащего программного обеспечения». И это ужасно. Это означает огромное количество программ, полезность которых мала, а количество это все растёт и растёт.

Тем не менее, если технологической Сингулярности суждено быть, то она обязательно случится. Т.е. в принципе невозможно как-то законодательно или ещё каким-либо способом запретить её. Даже если все государства мира осознают в ней угрозу и перепугаются до смерти, прогресс не остановится. Конкурентное преимущество любого достижения в средствах автоматизации является настолько непреодолимым, что запрещение подобных технологий просто гарантирует, что кто-то другой освоит их первым.

Эрик Дрекслер составил впечатляющие прогнозы развития и совершенствования технических средств. Он соглашается с тем, что появление сверхчеловеческого разума станет возможно в ближайшем будущем. Но Дрекслер утверждает, что человечество способно удерживать контроль над столь сверхчеловеческими устройствами, чтобы результаты их работы можно было оценить и надежно использовать.

Виндж, наоборот, считает, что контроль сохранить невозможно. В качестве мысленного эксперимента, он предлагает представить себя запертым в собственном доме с единственным каналом доступа информации, который ограничен некими хозяевами. Если бы хозяева мыслили со скоростью в миллион раз меньшей, чем Вы, то, несомненно, через несколько лет Вашего времени, Вы изобрели бы способ побега. Виндж называет эту быстро мыслящую форму сверхразума «слабым сверхчеловеческим». Такая сущность очень сильно ускорила бы течение времени эквивалентного человеческого ума. Что из себя будет представлять «сильное сверхчеловеческое», сказать трудно. Но различия будут разительны. И тут возникает вопрос о пользе такого разума для человека. В качестве примера, можно представить себе собаку с многократно ускорившейся работой мысли. Тысячелетний опыт собачьего мышления, что он может дать человечеству? Вообще, получается, что очень многие предположения о сверхразуме делаются исходя из модели «слабого сверхчеловеческого». Виндж же считает, что наиболее верные догадки о постсингулярном мире можно делать на предположениях об устройстве «сильного сверхчеловеческого».

Вторым подходом к решению проблемы контроля является идея создания жёстко заданных ограничений свободы действия сверхчеловеческих сущностей. Яркий пример – Законы робототехники Азимова. (Интересно, что формулировки законов запатентованы самим Азимовым, и никто кроме него не может их цитировать дословно. Интересно, для чего он это сделал?) Тем не менее, даже в рассказах Азимова была поднята основная проблема таких ограничений. Все они приводят к сужению возможностей устройств, по сравнению с устройствами без ограничений. А значит, конкуренция будет способствовать развитию менее ограниченных, а следовательно, более опасных моделей.

Последствия Сингулярности. Постчеловеческая эра

Итак, если Сингулярность нельзя предотвратить, нельзя ограничить, то какой будет постчеловеческая эра, насколько жестокой? Одно из возможных последствий – физическое вымирание человечества. Например, Эрик Дрекслер, говоря о нанотехнологиях, сказал, что со всеми подобными техническими возможностями, правительства, вероятно, решат, что простые граждане им не к чему. Однако, физическое вымирание – не самое страшное, что может случиться. Достаточно вспомнить братьев наших меньших - животных – и отношение к ним. В постчеловеческую эру найдётся достаточно ниш, где человек будет востребован, а значит, сохранён, как вид. По этому поводу Вернон Виндж переформулирует золотое метаправило: «Обращайся с братьями меньшими так, как ты хочешь, чтобы старшие братья обращались с тобой». Последствия использования этого правила, рассчитанные согласно теории игры, в каком-то смысле говорят о том, что, если бы мы могли следовать этому правилу, то это могло бы говорить о распространённости подобных добрых намерений вообще во вселенной.

Виндж напоминает, что, несмотря на то, что предотвратить Сингулярность мы не сМожем, но инициатором всё же выступает человек. А значит, в нашей власти, менять начальные условия этого неуправляемого процесса, чтобы всё происходило с минимальным для нас ущербом. Будет ли прок от предвидения и планирования? Зависит от того, будет ли переход к Сингулярности резким или тихим. Резкий переход – это тот, при котором сдвиг к сверхчеловеческому контролю произойдёт за несколько сотен часов. Спланировать такой переход трудно. Тихий переход может занять десятки лет, может быть, более века. В такой ситуации планирование возможно, можно вдумчиво экспериментировать.

Сингулярность без Искусственного Интеллекта

Чаще всего, когда говорят о существах со сверхчеловеческим разумом, то подразумевают проект по созданию искусственного интеллекта. Однако, в начале статьи, Виндж отметил и другие пути к сверхчеловеческому. Так компьютерные сети и человеко-машинные интерфейсы, хотя и кажущиеся более приземлёнными, тем не менее, могут привести к Сингулярности. Виндж называет такой противоречивый подход Усилением Интеллекта (УИ). Усиление Интеллекта протекает естественно, его не осознают даже разработчики. Однако всякий раз, когда улучшаются наши возможности доступа к информации и передачи ее другим, в каком-то смысле мы достигаем прироста по отношению к природному интеллекту. Дуэт знающего, мыслящего человека и простой рабочей станции способен, по-видимому, сдать любой письменный тест.

Вполне возможно, что УИ является наиболее легким путем к достижению сверхчеловеческого, нежели ИИ в чистом виде. В том, что касается людей, сложнейшие проблемы развития уже решены. Постепенное создание умных систем на основе имеющихся у человека способностей представляется более легким, чем выяснение истинной сути людей и затем уже постройка аналогичных им интеллектуальных машин. Предположительно, существует еще, по крайней мере, один прецедент в поддержку данной точки зрения. Кернс-Смит рассуждал о том, что биологическая жизнь вполне могла зародиться в качестве случайного дополнительного свойства более примитивных форм жизни, основывавшихся на росте кристаллов. Линн Маргулис выдвигала серьезные аргументы, доказывая, что симбиоз является могучей движущей силой эволюции.

Виндж не предлагает игнорировать работы по созданию ИИ. Он считает, что достижения в областе разработки ИИ будут находить применение в УИ, и наоборот. Автор предлагает понять, что в работах по созданию сетей и интерфейсов кроется такое же серьёзное и потенциально дикое-чуждое, как и искусственный интеллект.

1. Автоматизация человеко-машинной связки. Здесь рассматриваются проблемы, которые обычно отводятся для решения машинам (вроде задач по методу итеративного спуска - hillclimbing), и программы разработки и интерфейсы, использующие преимущество человеческой интуиции с доступным компьютерным оборудованием. Принимая во внимание причудливость задач по hillclimbing более высокого порядка (и стройных алгоритмов, придуманных для их решения), для человеческого компонента связки можно разработать чрезвычайно интересные дисплеи и средства управления.

2. Симбиоз машины и человека в искусстве. Здесь имеется в виду объединение графических возможностей современных машин и эстетической чуткости людей. Конечно, огромные усилия исследователей тратятся на разработку компьютерных средств помощи художникам. Виндж предлагает четко нацелиться на наибольшее совмещение умений, на максимально возможную кооперацию.

3. Человеко-машинные команды на шахматных турнирах. Сейчас уже есть программы, которые играют в шахматы лучше подавляющего большинства людей. Но сколько сделано, для того чтобы эту мощь мог использовать человек, с тем, чтобы добиться каких-либо еще больших успехов? Если бы таким командам разрешалось участвовать хотя бы в некоторых шахматных турнирах, это могло бы оказать такое же положительное влияние на исследования УИ, какое допуск компьютеров к шахматным соревнованиям оказывает на соответствующую нишу разработок ИИ. В последние несколько лет гроссмейстер Гарри Каспаров развил идею проведения шахматных турниров между игроками, которым помогают компьютеры ("прогрессивные шахматы").

4. Интерфейсы, которые обеспечат доступ к компьютерам и сетям без обязательной привязки человека к одному месту, за столом с монитором. Данный аспект УИ настолько успешно согласуется с известными экономическими преимуществами, что в этом направлении уже работают очень активно.

5. Более симметричные системы поддержки решения. Популярной областью исследований и разработок в последнее время стали системы поддержки решения. Это одна из форм УИ, только, возможно, слишком сфокусированная на прогностических системах. Столько же, сколько программа предоставляет информации пользователю, должно быть и руководства программой со стороны пользователя.

6. Местные сети , которые сделают усилия группы людей эффективнее работы отдельных членов. Это и есть, в принципе, понятие о groupware; смена подхода в данном вопросе заключается в представлении групповой деятельности как работы коллективного организма. В определенном смысле цель такого предложения может заключаться в изобретении "Устава" для таких комбинированных операций. Например, направление деятельности группы легче было бы поддерживать, чем посредством классических собраний. Умения отдельных индивидуумов можно будет изолировать от эгоистических устремлений, с тем, чтобы объединенные усилия разных членов группы концентрировались на общем проекте. Ну и, конечно, базы данных совместного пользования можно было бы задействовать полнее, нежели в обычных совещательных операциях.

7. Интернет представляет собой комбинированный человеко-машинный инструмент. Из всего перечисленного в данном списке прогресс в данной области идет наиболее быстрыми темпами. Сила и влияние Интернета в немалой степени недооценивают. Сама по себе анархичность развития Всемирной сети является свидетельством ее потенциала. Покуда наращиваются связность, полоса пропускания, архивные объемы и производительность компьютеров, мы наблюдаем нечто похожее на представление Линн Маргулис о биосфере, как своего рода конспекте процессора данных, только с производительностью в миллион раз большей и с миллионами разумных человеческих агентов (нас самих).

Приведенные выше примеры иллюстрируют исследование, которое можно провести в рамках современных областей компьютерной науки. Существуют и другие парадигмы. Например, многие работы по созданию искусственного интеллекта и нейросетей только выиграют от более тесной связи с биологической жизнью. Вместо того чтобы просто пытаться моделировать и воспроизводить биологическую жизнь при помощи компьютеров, исследования следует направить на создание композитных систем, полагающихся на управление со стороны биологической жизни, либо ради каких-то свойств биологической жизни, которые мы недостаточно понимаем, но все-таки стремимся воспроизвести в аппаратном обеспечении. Вековечной мечтой научной фантастики являются прямые компьютерно-мозговые интерфейсы. На практике, в этой области ведутся конкретные работы:

1. Протезирование конечностей представляет собой область прямого коммерческого приложения. Прямые нейро-кремниевые преобразователи можно создать. Это восхитительно досягаемый первый шаг к налаживанию прямой человеко-машинной связи.

2. Прямые каналы связи с мозгом кажутся вполне осуществимыми, если битрейт достаточно низок: учитывая развитую обучаемость человека, едва ли потребуется точно выбирать мишени среди нейронов живого мозга. Даже 100 бит в секунду будут чрезвычайно полезны пострадавшим от паралича, которым, в противном случае, придется оставаться в заложниках у интерфейсов, построенных на структурированных меню. Здесь можно вспомнить учёного Хоукинга, который сейчас парализован и всё его воздействие на окружающий мир сводится к движениям его единственного подвижного пальца руки.

3. Подсоединение к оптической магистрали сулит потенциал огромной пропускной способности. Однако для этого нам необходимо разобраться в тончайшем устройстве зрения, да еще потребуется вживление огромного количества электродов с необычайной точностью. Если мы хотим, чтобы широкополосное соединение прибавило еще возможностей к тем способностям по обработке данных, что уже имеются в человеческом мозге, проблема становится гораздо неподатливее. Эксперименты в этой области ведутся. Так недавно в периодических изданиях, посвящённых хайтеку, появились новости о том, что подключение цифровой камеры к зрительному нерву уже удаётся, а в продажу таки устройства поступят ориентировочно в 2008–10 годах.

4. Эксперименты с зародышами животных. Обеспечение развивающемуся мозгу доступа к сложным симулированным нейроструктурам могло бы, в конечном итоге, привести к появлению животных с дополнительными нервными связями и интересными интеллектуальными способностями. Так было сообщение о том, что пытаются получить мышь с мозгом человека. Такой заголовок очень хорошо смотрелся бы на первой странице какого-нибудь жёлтого издания, но похоже, что это действительно так. Конечно, мышь с человеческим мозгом, навряд ли сама по себе будет полезна, но вот обратное… Если удастся использовать нервные клетки животных для замены человеческих, это по меньшей мере может помочь вылечить многие недуги. Влияние таких исследований несомненно велико.

К сожалению, и на пути к Сингулярности посредством Усиления Интеллекта Виндж также не видит полной безопасности. УИ для человеческих индивидуумов создаёт довольно зловещую элиту. У нас, людей, за плечами миллионы лет эволюционного развития, которые заставляют нас представлять соперничество в мрачном свете. По большей части, эта мрачность может оказаться невостребованной в сегодняшнем мире, в котором проигравшие перенимают приемы победителей и, сплотившись, организуют выигрышные предприятия. Существо, созданное "с чистого листа", может оказаться гораздо благонамереннее, нежели тварь, взращенная по законам клыка и когтя.

Проблема заключается не просто в том, что Сингулярность представляет собой уход человечества со сцены, но в том, что она противоречит нашим сокровенным понятиям бытия. Поэтому далее Виндж рассматривает более внимательно концепцию сильного сверхчеловеческого, пытаясь прояснить причины такого положения вещей.

Сильное сверхчеловеческое и лучшее, на что могут рассчитывать люди

Если предположить, что нам, людям, удастся спланировать Сингулярность, удастся воплотить самые сумасбродные мечты. Что ж… Для не подвергшихся изменениям будет предложено мягкое обращение, возможно придание им статуса хозяев богоподобных слуг. Возможно, наступит золотой век, причём не лишённый прогресса. Бессмертие или чрезвычайно долгая жизнь станут достижимыми.

Прекрасный, добрый мир. Но философские проблемы, вздымающиеся в этом мире, становятся поистине устрашающими. Если разум замкнут в одних границах, то он, по прошествии несколько тысяч лет, будет напоминать закольцованную плёнку, нежели личность – т.е. бессмертие в таком случае ужасно. Чтобы жить неограниченно долго, сам разум должен расти. Ну и какие же родственные чувства он будет испытывать к тому, чем он являлся изначально, когда он разрастётся до огромных размеров и оглянется в прошлое?

Понятие самосознания и эго является основополагающим понятием в рационализме последних нескольких столетий. Однако самосознание, как концепция, подвергается нападкам со стороны приверженцев ИИ. УИ выбивает почву из-под концепции эго с другой стороны. Уже сейчас скорости обмена информации в общедоступных сетях достаточно велики. Постсингулярный мир предполагает наличие более мощных каналов связи. Если части эго можно будет копировать, объединять, а объём самосознания сможет увеличиваться или уменьшаться в зависимости от масштабов решаемых задач, подстраиваясь под них, что произойдёт? Звучит такое построение дико, непривычно, но это и есть существенные черты сильного сверхчеловеческого и самой Сингулярности. Именно это Виндж приводит в качестве подтверждения чуждости постчеловеческой эры, в не зависимости от того, насколько продумано, спланировано, милосердно мы к ней подойдём.

С одной стороны, картина описывает многие человеческие мечты о счастье: бесконечная жизнь, в которой мы умеем по-настоящему понимать друг друга и познаём сокровеннейшие тайны бытия. С другой стороны, это сильно напоминает худший сценарий развития событий, описанный Винджем в самом начале статьи.

Какая же точка зрения обоснована? Виндж считает, что новая эра будет настолько иной, что не сможет вписываться в классические рамки противопоставления добра и зла. Постсингулярный мир прекрасно вписывается в более значимую традицию эволюции и коллективности, зародившуюся давным-давно (может быть, еще до появления биологической жизни).

Заканчивает Вернон Виндж свою статью словами Фримена Дайсона: «Бог – это разум, переросший границы нашего понимания».

Список литературы:

Хайдеггер М. Вопрос о технике // Хайдеггер М. Время и бытие: Статьи и выступления. М., 1993. The Coming Technological Singularity: How to Survive in the Post-Human Era, http://www-rohan.sdsu.edu/faculty/vinge/misc/singularity.html Вернор Виндж, «Технологическая Сингулярность» (перевод Олег Данилов), http://www.computerra.ru/think/35636/ Ralph C. Merkle, «Energy Limits to the Computational Power of the Human Brain», http://www.merkle.com/brainLimits.html Отрывок из введения к монографии Петрунина Ю.Ю. «От тайного знания к нейрокомпьютеру: Очерки по истории искусственного интеллекта», http://exam.tomsk.ru/stasandr/whatisii.htm Уинстон П. Искусственный интеллект. М., 1980. с. 301. Эндрю А. Искусственный интеллект. М., 1985, с. 17. Хант Э. Искусственный интеллект. М., 1978, с. 11. Уинстон П. Искусственный интеллект. М., 1980. с. 300-301. Уинстон П. Искусственный интеллект. М., 1980, с. 11. Мичи Д., Джонстон Р. Компьютер-творец. М., 1987, с. 20.

В философии слово «сингулярность», произошедшее от латинского «singulus» - «одиночный, единичный», обозначает единичность, неповторимость чего-либо - существа, события, явления. Больше всего над этим понятием размышляли современные французские философы - в частности, Жиль Делез. Он трактовал сингулярность как событие, порождающее смысл и носящее точечный характер. «Это поворотные пункты и точки сгибов; узкие места, узлы, преддверия и центры; точки плавления, конденсации и кипения; точки слез и смеха, болезни и здоровья, надежды и уныния, точки чувствительности». Но при этом, оставаясь конкретной точкой, событие неизбежно связано с другими событиями. Поэтому точка одновременно является и линией, выражающей все варианты модификации этой точки и ее взаимосвязей со всем миром.

Когда человек создаст машину, которая будет умнее человека, история станет непредсказуемой, потому что невозможно предугадать поведение интеллекта, превосходящего человеческий

В других науках термин «сингулярность» стал обозначать единичные, особые явления, для которых перестают действовать привычные законы. Например, в математике сингулярность - это точка, в которой функция ведет себя нерегулярно - например, стремится к бесконечности или не определяется вообще. Гравитационная сингулярность - это область, где пространственно-временной континуум настолько искривлен, что превращается в бесконечность. Принято считать, что гравитационные сингулярности появляются в местах, скрытых от наблюдателей - согласно «принципу космической цензуры», предложенному в 1969 году английским ученым Роджером Пенроузом. Он формулируется так: «Природа питает отвращение к голой (т.е. видимой внешнему наблюдателю) сингулярности». В черных дырах сингулярность скрыта за так называемым горизонтом событий - воображаемой границей черной дыры, за пределы которой не вырывается ничего, даже свет.

Но ученые продолжают верить в существование где-то в космосе «голых» сингулярностей. А самый яркий пример сингулярности - состояние с бесконечно большой плотностью материи, возникающее в момент Большого взрыва. Этот момент, когда вся Вселенная была сжата в одной точке, остается для физиков загадкой - потому, что он предполагает сочетание взаимоисключающих условий, например, бесконечной плотности и бесконечной температуры.

В сфере IT ждут прихода другой сингулярности - технологической. Ученые и писатели-фантасты обозначают этим термином тот переломный момент, после которого технический прогресс ускорится и усложнится настолько, что окажется недоступным нашему пониманию. Исходно этот термин предложил американский математик и писатель-фантаст Вернор Виндж в 1993 году. Он высказал следующую идею: когда человек создаст машину, которая будет умнее человека, история станет непредсказуемой, потому что невозможно предугадать поведение интеллекта, превосходящего человеческий. Виндж предположил, что это произойдет в первой трети XXI века, где-то между 2005 и 2030 годами.

В 2000 году американский специалист по развитию искусственного интеллекта Елиезер Юдковски также высказал гипотезу о том, что, возможно, в будущем появится программа искусственного интеллекта, способная совершенствовать саму себя со скоростью, во много раз превосходящей человеческие возможности. Близость этой эры, по мнению ученого, можно определить по двум признакам: растущая техногенная безработица и экстремально быстрое распространение идей.

«Вероятно, это окажется самой стремительной технической революцией из всех прежде нам известных, - писал Юдковски. - Свалится, вероятнее всего, как снег на голову - даже вовлеченным в процесс ученым… И что же тогда случится через месяц или два (или через день-другой) после этого? Есть только одна аналогия, которую я могу провести - возникновение человечества. Мы очутимся в постчеловеческой эре. И несмотря на весь свой технический оптимизм, мне было бы куда комфортнее, если бы меня от этих сверхъестественных событий отделяли тысяча лет, а не двадцать».

Темой технологической сингулярности вдохновлялись писатели жанра «киберпанк» - например, она встречается в романе Уильяма Гибсона «Нейромант». Она показана и в популярном романе современного фантаста Дэна Симмонса «Гиперион» - там описывается мир, помимо людей, населенный Искинами - то есть, носителями искусственного интеллекта, которые вступают в конфликт с человечеством.

Как говорить

Неправильно «Это был сингулярный случай, когда механизм вышел из-под контроля». Правильно - «единичный».

Правильно «Я уверен, рано или поздно Вселенная снова схлопнется в сингулярность».

Правильно «Мне нравится этот роман - лучшее описание технологической сингулярности из всех, что я читал».

«Ты всего лишь машина. Только имитация жизни. Робот сочинит симфонию? Робот превратит кусок холста в шедевр искусства?» — говорит герой фильма «Я робот», снятого по мотивам одноименного сборника рассказов Айзека Азимова, одного из самых известных писателей- фантастов 20 века. А что, если в недалеком будущем робот сумеет не только сочинить симфонию, но и совершить любое действие, на которое раньше был способен лишь человек? Что, если фантасты умело предсказали самый вероятный вариант нашего будущего? Футурологи всего мира пытаются ответить на вопрос, смогут ли те, кого создал сам человек, превзойти его в возможностях, а если смогут, то когда и что из этого выйдет?

Известный демограф Николас Эберштадт в своей лекции «Что будет с населением Земли в 2035 году?» отметил, что демографическое увеличение населения земли идет по экспоненте. Порог в 100 миллионов человек преодолевался за 1000 лет до Рождества Христова. Человечеству понадобились тысячелетия для такого демографического рывка. При этом первый миллиард появился примерно 200 лет назад, потом миллиард стал появляться каждые 100 лет, затем — каждые 50, сейчас новый миллиард появляется каждые 12-13 лет.

Это иллюстрация экспоненциального закона роста, он проявляется на разных «ветвях» развития, в том числе и на технологическом. В 1965 году основатель корпорации Intel Гордон Мур вывел логарифмический закон, согласно которому каждые полтора года компьютеры становятся в два раза «умнее». По мнению американского футуролога Рэймонда Курцвейла, если закон Мура продолжит функционировать, то уже к 2030 году компьютеры по своей производительной мощности смогут приблизиться к мозгу человека. Вероятность ускоренного развития техники и появления в какой-то момент сверхразума предполагают многие футурологи мира и называют это технологической сингулярностью .

Читайте таже

Впервые концепцию технологической сингулярности представил профессор математики и писатель-фантаст Верно Виндж на симпозиуме VISION-21 в 1993 году:

«Сингулярность — это точка, в которой наши старые модели придётся отбросить, где воцарится новая реальность.

Когда прогресс будет направляться интеллектом, превосходящим человеческий, он станет куда стремительнее. Фактически, нет оснований полагать, что прогресс не станет плодить всё более разумные сущности и всё более быстрыми темпами.

Такое событие аннулирует за ненадобностью весь свод человеческих законов, возможно, в мгновение ока. Неуправляемая цепная реакция начнет развиваться по экспоненте безо всякой надежды на восстановление контроля над ситуацией. Изменения, на которые, как считалось, потребуются «тысячи веков» (если они вообще произойдут), скорее всего, случатся в ближайшие сто лет».

Виндж видит несколько путей развития этой теории:

  1. Возникнет сверхчеловеческий разум вследствие развития техники;
  2. Повысится эффективность человеческого разума и физических характеристик при помощи ;
  3. Крупные компьютерные сети смогут самостоятельно идентифицировать себя как разумные сущности;
  4. Синтез компьютера и человека приведет к тому, что человек сам будет иметь сверхинтеллект.

Человек задумался о создании искусственного интеллекта, чтобы упростить себе жизнь и оптимизировать большую часть работы. Благодаря оптимизации компьютеры уже занимают не целые помещения, а могут запросто уместиться в ладони, и их стоимость уменьшилась в десятки раз. Роботы в наше время научились выполнять команды, убирать квартиры, мы обзавелись «умными» домами, существует даже робот-художник, способный воспроизвести любую картину. Техника стала не просто компактной и дешевой, но и обладающей интеллектом. Компьютер может распознать ваш голос и перевести информацию в байты, большинство цехов оснащено новейшими технологиями для производства новой продукции, найти какого-либо человека тоже не составляет труда при помощи системы, распознающей лица. Если вспомнить закон, который упоминался в самом начале, то можно рассчитать, что уже к 2040 году каждый из нас сможет приобрести процессор, равный по вычислительной мощности человеческому мозгу.

Продолжать этот список можно бесконечно долго, но что ждет нас, если однажды все заменят компьютерами: место учителей займут интерактивные помощники, автомобилям больше не понадобится водитель, а лучшим художником десятилетия признают робота нового образца? Все это не так далеко, как кажется: уже сейчас роботы без труда могут превосходить человека в плане эффективности и производительности. Робот не устает, не выходит в отпуск и не требует оплаты в привычном нам понимании. Лишь затраты на техническое обслуживание. Едва ли мы можем точно предсказать, что произойдет после технологической сингулярности, однако некоторые детали оценить можно и сейчас.

Рассматривая идею о создании сверхчеловеческого разума, нужно заметить, что уже сегодня производительность суперкомпьютера IBM «Watson» оценивается примерно в 80 триллионов операций в секунду. Новости о развитии и новых возможностях компьютера появляются с завидной регулярностью.

Скриншот выдачи поиска Google

IBM «Watson» способен давать ответы на вопросы, анализировать информацию и скрытые в вопросах значения, планируется использовать суперкомпьютер для помощи в диагностике и лечении рака, и хотя компьютер уступает человеку в принятии решений на ассоциативном уровне, американская компания Neuromatters и Колумбийский университет в Нью-Йорке уже заключили договор на разработку технологии, которая будет сочетать компьютерную мощность и мощность человеческого мозга для решения и этой проблемы.

Синтез человека и компьютера предрекали многие писатели-фантасты и футурологи, пытаясь заглянуть в недалекое будущее. Если говорить о киборгах, на ум сразу приходят Терминатор или Адам Дженсен из Deus Ex. Кажется, это слишком фантастично, чтобы оказаться реальностью, однако, как говорил Уильям Гибсон, «будущее уже здесь, оно просто неравномерно распределено».

Углубляемся

Еще Эдгар Алан По в своем рассказе «Человек, которого изрубили в куски» затрагивал тему аугментации, а именно наращивания имплантатов на тело для воспроизведения человека при помощи технологической мощности. В современном мире уже никого не удивить операциями по замене конечностей на автоматизированные. Но прогресс не стоит на месте, и ученые из университета Carnegie Mellon решили пойти дальше и интерфейс «умных» часов с помощью комплекта из кольца и браслета. Кольцо посылает сигнал постоянно тока в палец и теперь управлять часами можно простым касанием по своей руке.

Сооснователь компании Cyborg Nest Ливиу Бабитс заявил:

«Наша цель - помочь многим людям стать киборгами. Мы верим, что если почувствовать то, что чувствуют животные, то изменится понимание мира. Это позволит нам ступить на следующий этап эволюции».

И уже сейчас с их помощью человек может без операций присоединить к себе чип, который поможет ориентироваться в пространстве и будет вибрировать каждый раз, когда носитель будет поворачивать на север.

«Франкенштейны 21 века» существуют, и их становится все больше. Потенциальное развитие технологического процесса пытались предсказать и визуализировать создатели сериалов «Черное зеркало» и «Мир дикого запада», ведь именно сейчас эта тема актуальна как никогда. Представляя различные взгляды на мир будущего, авторы не забыли и о роботах, чья роль столь велика в наше время.

Мы живем в век, когда уже изобретены летающие машины, а роботы выполняют функции официантов. В 2009 году компания Robosoft представила автобус, способный переправлять людей по спокойным участкам дороги без помощи водителя. И хотя в опасных ситуациях водители брали управление на себя, мы не так далеки от широкого распространения такси без водителей.

Что же нас будет ждать, когда созданная нашими руками техника сможет развиваться вне зависимости от нас? И хотя футурологи сходятся во мнении, что предсказать будущее после технологической сингулярность невозможно, они уверены, что его можно предположить, как это сделал Рэй Курцвейл.

Но, кроме футурологов, этим активно пытаются заниматься современные киноделы, снимая на тему будущего человечества одну картину за другой. Большинство фильмов, показывающих нам предполагаемый сюжет ближайшего будущего, «очеловечивают» роботов, делая их чем-то похожими на людей — терминатор, трансформеры и т.д. Но едва ли у компьютера, обладающего сверхчеловеческим разумом, возникнет потребность создавать свой образ по подобию человеческого.

Научная фантастика также не осталась в стороне от этой темы. Айзек Азимов сформулировал 3 закона робототехники, один из которых гласит, что робот не может причинить вред человеку. Но будет ли так на самом деле? Большинство фантастов представляют не слишком оптимистичный взгляд на будущее человечества. Впрочем, есть и другое мнение на этот счет. Писатель Александр Никонов и футуролог Александр Жаров считают, что человек сможет вступить в симбиоз с искусственным интеллектом и развивать навыки, оставаясь при этом тем, кто контролирует свой разум и тело.

Так что же из всего этого может произойти в ближайшее время? Вероятнее всего, нас ждет массовая «чипизация», которая только начинает набирать обороты. Об этом говорили еще в 2015 году эксперты Всемирного экономического форума. Кроме всего прочего, они обсуждали возможность появления телефонов, встроенных в тело человека, в ближайшие 10 лет. Но вживлением NFC-чипов в узких кругах занимаются уже сейчас (так, например, в 2015 году московский инженер Влад Зайцев вшил себе под кожу NFC-чип карты «Тройка»). В медицине будут появляться разработки в сфере поиска «бессмертия», как биологического, так и кибернетического. Этому поспособствуют уже изобретенные технологии выращивания органов и производства искусственной крови. Несомненно, в таком будущее есть как положительные, так и отрицательные стороны. Сложно оценить все риски и сделать точные прогнозы. Однако нет смысла бояться будущего, оно неизбежно. Стоит помнить лишь о том, как сильно происходящее сегодня влияет на то, что будет завтра.

Футуристический термин «технологическая сингулярность» все активнее входит в нашу жизнь. По самым пессимистическим прогнозам ученых и различных экспертов, не позднее 2030-го года это понятие станет частью нашей реальности. Так что же означает это загадочное словосочетание? Многочисленными современными энциклопедиями технологическая сингулярность трактуется как гипотетический момент, когда технический прогресс приобретет такую скорость и сложность, которая окажется недоступной человеческому пониманию.

Проще говоря, искусственный интеллект достигнет такого уровня развития, при котором человек может оказаться лишним, а то и опасным конкурентом «умных» электронных созданий. Уже не одно десятилетие футурологи и писатели-фантасты пугают нас возможным «бунтом машин». Но только относительно недавно эту гипотетическую проблему стали всерьез обсуждать в научных кругах.

Впервые термин «technological singularity» прозвучал в статье математика и писателя Вернона Винджа, представленной в 1993-м году на симпозиуме, который проводился NASA совместно с Аэрокосмическим институтом Вскоре события, предсказанные ученым и сравнимые, по его мнению, с самим появлением человека на планете, начали сбываться.

Первое проявление такого ключевого и эпохального события, как технологическая сингулярность, не заставило себя долго ждать. Переломным моментом в человеческом развитии и сознании людей стал 1997-й год. В мае того года, сконструированный специалистами из IBM, полуторатонный электронный «монстр» Deep Blue, оснащенный 250-ю процессорами, в упорном и напряженном шахматном поединке одержал победу над доселе не знавшим поражений чемпионом мира Гарри Каспаровым. В этот момент стало понятно, что мир уже никогда не будет прежним…

Ход этого поединка, пожалуй, самого весомого противостояния в истории человеческой цивилизации, заслуживает особого внимания. Первую партию гроссмейстер выиграл без всяких проблем. В начале второй Каспаров, пытаясь заманить своего электронного противника в хитроумную ловушку, пожертвовал двумя пешками.

Deep Blue на этот раз размышлял (если это можно так назвать) непривычно долго - почти четверть часа. Хотя до этого на принятие решений тратил не более трех минут. И только когда нависла реальная угроза оказаться в цейтноте, машина сделала ответный ход. Результат оказался безрадостен для человеческого разума. Машина не приняла жертву, она выиграла партию…

Следующие три завершились ничьей. Зато последнюю партию компьютер выиграл в блестящем стиле, не оставив человеку ни малейших шансов. В ней Deep Blue просто разгромил великого гроссмейстера. Так, человечество узнало о новом поколении электронных машин, интеллект которых превосходит человеческий. И которые имеют просто потрясающую обучаемость.

Современные машины пошли еще дальше. Нейрофизиологи утверждают, что вычислительная способность составляет около ста триллионов операций в секунду. Объем сознательной памяти обычного человека равен всего двум с половиной гигабайтам. А рабочим быстродействием нынешних суперкомпьютеров является скорость в 115 триллионов. Насчет объема запоминающего устройства можно и не распространяться. При этом они не знают усталости, плохого самочувствия, сомнений, колебаний, прочих человеческих слабостей. Поэтому футурологи считают, что технологическая сингулярность неизбежна.

Конечно, современные биотехнологии вполне способны обеспечить человечество средствами улучшения естественных интеллектуальных способностей. Что приведет к появлению такого явления, как сингулярность сознания. В этом случае человек рискует превратиться в часть машинно-человеческого интерфейса. И тогда предсказать дальнейшее развитие нашей цивилизации, опираясь на принципы социологии и привычные поведенческие нормы, будет уже невозможно. Ситуация просто выйдет из-под человеческого контроля в традиционном его понимании.