Предыдущий пост Поделиться Следующий пост
Расширенный человек
lex_kravetski
Я помню времена, когда идея о том, что компьютер может обыгрывать человека в шахматы, многим казалась совершенно неправдоподобной. «Компьютер, быть может, в состоянии обыграть новичка или даже любителя, но он никогда не сравнится с мастерами», — говорили они, — «ведь компьютер не может думать, он может только перебирать варианты». А человек, де, обладает воображением, интуицией, в общем, чем-то особенным, что компьютеру никогда не светит.

Однако компьютеры довольно быстро расставили все точки над «i»: человек проиграет им сто партий из ста. Не вообще любой программе, запущенной на какой угодно машине, но есть такие программы и такие машины, которым проиграет вообще любой человек, причём все партии. А если кто-то пару партий и выиграет, то следующее поколение программ и компьютеров исправит это недоразумение.

Играет компьютер, разумеется, не совсем сам — играет программа, написанная человеком. Однако играет всё-таки не человек, написавший программу — ведь программа обыграет и его в том числе. Там, в программе, не только его навык. Там совокупность навыков: навык человека, разработавшего алгоритм игры и воплотившего его в коде, и «навык» компьютера этот алгоритм на огромной скорости исполнять.

И так, что характерно, будет с каждым. С каждым действием, которое умеет делать человек. Компьютеры неизбежно научатся (точнее, человек их научит) выигрывать в любую игру. И вообще решать любую задачу быстрее и точнее человека. Более того, рано или поздно их научат настолько мастерски имитировать любую деятельность человеческого мозга, что «имитация» будет выглядеть лучше оригинала.

На этом месте традиционно следует переход к проблеме сознания и самосознания: станет ли компьютер разумным, что есть разум и т.п., — но я коварно перейду к совершенно иному вопросу.

Дело в том, что компьютер, научившийся делать вообще что угодно лучше человека, в некотором смысле станет лучше человека. Зачем поручать решение чего бы то ни было человеку, если компьютер делает это лучше? Да, программы пишет человек, но это сейчас. Через некоторое время компьютер их будет писать условно говоря «сам». Писать будет, разумеется, не «сам компьютер», а какая-то программа, на нём запущенная, однако её база знаний о подходах к решению задач, сопряжённая с чем-то вроде «генетического поиска алгоритма», будет выдавать алгоритм решения любой задачи гораздо быстрее, чем даже самый талантливый программист.

Человек будет сдавать компьютеру один рубеж за другим, перемещаясь сначала в область поиска чего-то радикально нового (но компьютер последует за ним), потом в область творчества (но и там «имитации» творчества, производимые компьютером, со временем станут превосходить то, что делает любой творец-человек), и в конце концов не останется ни одной области, где человек имеет преимущество.

Некоторое время людям ещё светит приоритет в постановке вопросов — но и её рано или поздно возьмёт на себя компьютер — ведь его область знаний будет куда шире, чем у любого из людей, поэтому ему будет лучше «понятно», какие на данный момент вопросы ещё не имеют ответа, но уже могут быть заданы.

Дело придёт к тому, что человеку, собственно, останется единственное — желать. Компьютер же выполнит все его желания, которые на данном этапе вообще возможно выполнить.

Многие зададут вопрос: а будет ли выполнять? Не захватит ли компьютер власть, как то показывают нам фантастические фильмы? Не захватит. Воле к власти над людьми у компьютера взяться неоткуда.

«Сознание» компьютера ровно так же обусловлено «инстинктами», как и у человека. Например, большинство людей заботится о своих детях — этого требует от человека не только разум, но и инстинкт. Сознание с его свободой воли строится в соответствии с этим инстинктом. Человек имеет возможность пойти против инстинкта, но обычно не имеет такого желания. Подобным образом, компьютер, снабжён «инстинктом» решать задачи людей. Чисто «эволюционно» снабжён — ведь именно с этой целью делают компьютеры и пишут под них программы. Поэтому у компьютера нет «мотивации» порабощать людей, как у человека нет мотивации порабощать свои инстинкты. Разве что кто-то из людей вставит в одну из программ «волю» к порабощению. Но в этом случае — как и в случае с оружием — чинят насилие люди, а не вещи.

Итак, компьютеры, исполняющие желания людей. Вроде бы благодать, однако странно было бы счесть благодатью цивилизацию, состоящую из существ, проигравших по способностям во всех областях ими же созданным компьютерам и теперь находящимся на их попечении. Это ведь не прогресс, а начало угасания цивилизации людей. Последний вздох перед тем, как развращённые всеобъемлющей заботой о себе люди вымрут, оставив планету компьютерам, которые вряд ли хватит сил и воли выключить перед смертью.

Иными словами, создание машин, обходящих нас по всем фронтам, это проигрыш. Однако отказ от такового — тоже проигрыш. Мы как бы побоялись проиграть и потому играть не стали вообще. Хотелось бы, знаете ли, выиграть, а не отступить. Хотелось бы не отказаться от прогресса — это ведь тоже начало угасания — а разумно им воспользоваться.

И способ выигрыша состоит вот в чём. Компьютер действительно рано или поздно станет сильнее человека во всех вопросах. Но это только современного человека. Чтобы выиграть гонку с компьютером, человеку в некотором смысле надо стать компьютером. Точнее, стать компьютером и человеком одновременно.

Компьютер заточен под вычисления гораздо лучше, чем человек. И, в отличие от человека, его можно физически модифицировать, заменив комплектующие на более совершенные. Самое оно человеку перенять от компьютера сии ценные способности. Модифицировать собственный мозг и заодно тело, путём добавления к ним электронных устройств.

Что интересно, несмотря на кажущуюся фантастичность, такая возможность уже существует. Были успешные опыты по подключению электронных устройств к мозгу (правда, пока не к человеческому), которые показали, что мозг способен начать их использовать как часть себя.

Одновременно с этим можно идти и путём «биологической» модификации — то есть целенаправленного изменения генов человека. Это имеет и другой плюс — искоренение практически всех болезней (кроме физических повреждений тела), включая процесс старения организма, но в рамках данного вопроса нас интересует более гибко модифицирующийся мозг. Модифицирующийся, в том числе, при жизни индивида, причём модифицирующийся обратимо.

Я думаю, к этому абзацу многие читатели уже успели испытать ужас вида: «нас превратят в киборгов». Многие уже успели в голове придумать бронебойные возражения: мозг и тело человека модифицировать нельзя. Это опасно. Это противоречит этике, религии, культуре и так далее.

Однако я скажу: ужас — мнимый. Как и вышеозначенные противоречия. Дело в том, что мы постоянно модифицируем свои тела и свой мозг. В том числе, вполне сознательно. И мозг, и тело человека давно уже модифицируют как химически (при помощи лекарств и им подобного), так и физически (при помощи хирургии, физиотерапии и т.п.). Если кому-то из вас кажется, что эти модификации — совсем не те, поскольку они «чинят», а не улучшают и так здоровое, то вот вам ещё примеры. Тренажёрный зал, который некоторые из вас посещают, самое что ни на есть физическое улучшение тела. Образование — самое что ни на есть улучшение мозга. При тренировках в мозгу физически образуются новые связи. Даже когда вы читаете эту статью, у вас и то в мозгу происходят электро-химические изменения.

Если человек потерял руку, а вы делаете ему протез, хорошо это или плохо? Думаю, большинство людей скажет, что хорошо. Причём чем более совершенный протез, тем лучше. Но будет ли протез становиться хуже, если уровень обычной человеческой руки в нём уже достигнут, но его продолжают дорабатывать? Если рука-протез начинает обгонять ту руку, которая у человека когда-то была? Если она сильнее, ловчее, надёжнее?

Ещё до того, как человек начал овладевать технологией создания совершенных протезов, он уже делал «протезы» тому, чего у него нет: острых и длинных зубов — копья и мечи, длинных сильных ног и длинных сильных рук — подъёмные краны, даже крыльев — самолёты. И всё это сейчас не воспринимается как нечто, идущее вразрез с культурой, этикой или чем-то ещё.

Когда человек делает себе огромную, мощную и загребущую руку — экскаватор и управляет ей при помощи рычагов, можем ли мы сказать, что человек из-за этого стал хуже, согласно этике, религии и т.п.? Ну а теперь заменим рычаги на пульт дистанционного управления с кнопками. Стал ли человек хуже?

Если опять не стал, то сделаем следующий шаг. На данный момент экскаватор управляется следующим образом: мозг посылает сигнал рукам человека, руки давят на кнопки, сигнал в виде электромагнитных колебаний уходит в принимающее устройство в экскаваторе, а оно подаёт команды его механике. Давайте считаем сигнал не с рук, а прямо с мозга — при помощи, например, энцефалографа.

Опять же, кажется фантастичным, но и такие устройства уже есть. Причём не только управляемый непосредственно мозгом протезы, но и даже вполне себе бытовые устройства, считывающие энцефалограмму и использующие её как манипулятор для обычного компьютера.

Как показывает практика, мозг довольно быстро калибруется под такой на первый взгляд необычный способ управления. Теперь наш пульт ДУ для экскаватора утратил кнопки, а читает сигналы мозга анализом его излучения. Стал ли человек хуже? Были ли нарушены какие-то этические принципы?

Теперь сделаем ещё один шаг. Подключим пульт ДУ прямо сразу к мозгу, а не к излучаемому им электромагнитному полю. Чисто технически мы получим новую конечность — экскаватор. Если он будет передавать мозгу некоторый отклик, то оная конечность будет даже в некотором смысле содержать внутри себя орган чувств.

В этом мысленном эксперименте мы модифицировали человеческое тело. Довольно хитрым способом — снабдив его новой «конечностью», к тому же не присоединённой к телу физически. Неужели человек портится, а нормы нарушаются — именно на этом этапе?

Если по-прежнему нет, то рассмотрим вместо экскаватора — калькулятор. Пройдём по всем тем же шагам — от нажатия на кнопки до подключения непосредственно к мозгу. После калькулятора рассмотрим книгу. Затем — средства связи. Каждый раз получается, что ничего радикального не произошло. Просто доступ к каждому из устройств стал гораздо быстрее.

Но расчёты на калькуляторе — это частный случай расчётов вообще. Почему следует останавливаться только на таких расчётах?

Книга — это способ хранения информации. Чем хуже общий случай памяти, где можно «хранить», в том числе, мысленные образы? Видеокамера в голове вряд ли сильнее портит человека, чем оная же в мобильном телефоне.

Если мы можем позволить себе связь с любым человеком планеты через интернет с выводом информации на экран, а голоса — на колонки, то что вдруг испортится, если голос и изображение будет попадать прямо в сознание, минуя глаза и уши? Что испортится, если для передачи мысли её надо будет не сказать, а только подумать?

Все эти изменения вполне себе ложатся в непрерывную линию прогресса, хотя изменения, которые они с собой несут, кажутся нам крайне непривычными и от того опасными. Однако ровно так же было и с компьютерами, и с книгопечатанием, и с письменностью вообще.

Образование и технологии сделали человека сильнее во всех областях его деятельности. Однако следующие технологии сделают его ещё сильнее.

Человек изменял себя образованием, тренировками, общественными отношениями и медициной. Он и продолжит изменять себя. Да, более радикально, чем это было раньше. Но и раньше он, в общем-то, был не против. Только набор средств был гораздо уже.


P.S. Мысленный эксперимент с экскаватором, на примере которого иллюстрировалась логичность перехода к сращиванию машины с мозгом, подвёл меня к следующей идее.

Электронные расширения человека не обязательно должны быть «приделаны» к человеку. Вообще говоря, человек может иметь несколько тел, одновременно занятых разной деятельностью. Современному человеку тяжело координировать такую деятельность, однако при помощи расширения мозга это становится возможно.

Сами расширения мозга тоже не обязаны располагаться непосредственно в черепе или даже в теле. В «черепе» может быть расположено средство связи, а само расширение находиться в другом месте и занимать довольно большой объём. Разные части мыслительного процесса таким образом могут проистекать в разных географических точках планеты.

При этом некоторые фрагменты «расширений» могут подобно современным серверам обслуживать сразу множество личностей. В том числе, предоставляя им процессорное время в зависимости от текущих потребностей каждого из них.

Аналогично каждым «телом» может управлять несколько человек одновременно (как сейчас это делает экипаж корабля или самолёта).

Итого:

  1. Одному мозгу может «принадлежать» несколько физически отделённых друг от друга тел


  2. Одному мозгу может «принадлежать» несколько расширений, в том числе физически отдалённых друг от друга и от самого мозга


  3. Одно тело может принадлежать нескольким мозгам


  4. Одно расширение мозга может использоваться несколькими мозгами


Вкупе со встроенными в мозг средствами всепланетной коммуникации, позволяющей обмениваться мыслями с любым другим разумом, можно сказать: о да, человек в будущем изменится буквально-таки до неузнаваемости.


P.P.S. Переделанные до неузнаваемости люди будущего, не исключено, в какой-то момент утратят вообще все свои «составные части», данные им природой. Каждая часть каждого человека фактически будет придумана человеком же. Таким образом для людей будущего вопрос «есть ли Творец, сотворивший людей?» будет очевиден. Конечно, есть — это мы сами, люди.

Отчасти, впрочем, это могут сказать и наши современники тоже.



Эта статья на «Однако»




Думаю, это забота уже не человечества, а Сообщества Тени, которое это человечество теперь уже неизбежно победит и закабалит. Так что, нам опасаться нечего.

Желание победить и закабалить - это эмоции. Они чужды софту.

Можно доказать, что ЭВМ может быстрее и точнее сделать все что угодно, но она не сможет это продать.

> И вообще решать любую задачу быстрее и точнее человека.

Только те задачи, алгоритм решения которых известен. Творчество пока алгоритмизации не поддается, а значит компьютерам принципиально недоступно.

(Удалённый комментарий)
Буквально на этой неделе о том же разговаривали с товарищем. О модификации человечества двумя путями - генетическим и кибернетическим. С целью движения к совершенству и устранения человеческих недостатков.
Но какие потрясающие комментарии на "однако". Люди ведь совершенно не понимают, что их неадекватная реакция порождена примитивными инстинктами животного происхождения.
Казалось бы, вот она - мечта: возможность создать человека, избавленного от боли, болезней, слабостей, глупости. Но нет! Нельзя! Вы сразу утратите человечность! Лишитесь чувств! Превратитесь в гигантскую шагающую мясорубку! А-а-а, мы все умрем, скорее сотрите эту статью!
Печально, что столь многие находятся в плену столь примитивных догм.

Edited at 2013-01-24 19:16 (UTC)

Да действительно - смешно и позорно.
Как вам: "Этот текст написан антихристом. Лично!!! А гнус Кравецкий это просто волос в его анусе."

Как-то алаверды от редакции бледновато. Не ожидал от Мараховского.

К сожалению, грамотный человек, не имеющий интеллектуальной честности признать несостоятельность религии, неизбежно скатывается в активное мракобесие.
Тем более активное, что сам наверняка понимает слабость своей аргументации.

Ваш пост держится на неочевидной косвенной посылке, что всякая деятельность человека поддается алгоритмизации. И в качестве доказательства приводятся примитивные и выхолощеные шахматы.
Считаю, что серьезное интелектуальной творчество не алгоритмизуется. Проще говоря, думаю компьютеру никогда не будут доступны подвиги по типу квантовомеханической революции первой трети прошлого столетия. Интелектуальный усилитель, вот его удел.
А вот по поводу киборгизации тела и генетической модификации полностью согласен.
Вообще, товарищ Лем в "Сумме Технологий" глубоко и детально разбирал сей вопрос.

> Ваш пост держится на неочевидной косвенной посылке, что всякая деятельность человека поддается алгоритмизации. И в качестве доказательства приводятся примитивные и выхолощеные шахматы.

Существует заблуждение, будто «компьютер работает только по алгоритму», а потому «он не сможет повторить деятельность человека». Однако это не так. Компьютер, разумеется, выполняет программу, но в общем случае результат работы этой программы человек предсказать не может. Даже тот, который эту программу написал. По сути программа — это «правила игры», а не результат оной игры. В программе описаны реакции, а не формулы.

И это ещё половина дела, когда реакции описаны явно. Встречаются варианты, когда реакции описаны с точностью до параметров, коими могут быть не только числа, но и даже функции. Значений параметров программист может и не знать, ибо поиск оных — это тоже результат работы программы.

Первый камент на Однаке шикарен, однако.

Камент Мараховского тоже ничего. Как будто Деус Экс перепрошёл за 5 минут.

Edited at 2013-01-24 19:25 (UTC)

Прочитал "ответ" на эту статью :)

Полный набор корявых приёмов манипуляции.

Виктор Мараховский - истеричка.

:))

Edited at 2013-01-24 19:21 (UTC)

+1

"Этот мега-девайс будет настолько превосходить жалкий оригинал (то есть вас), что вас можно будет за ненадобностью выкинуть в большую мясорубку.

Что, вы согласны? Как нет?"

Что значит "нет"?!

И вся остальная статья в том же духе. Подгоняем вопрос под ответ любыми методами.

Комментарии на сайте потрясающие. Не хуже какого-нибудь православного.

А православных там много. И ПГМнутых, соответственно, тоже, к сожалению.

Цифровые компьютеры тупиковая ветвь. Творчество на них не реализовать никакими изощрениями. Требуется не логическая машина, а "эволюционная".

там еще несколько шагов.
В статье Лекса речь идет скорее об общих принципах -- "математике" такого перехода.

Недавно у нас была кстати публичная лекция по эволюционному ИИ.
там это в перспективах вроде. по крайней мере некоторые описанные вещи.

мозги надо развивать, а не вшивать в себя железки.

Ай, шикарно! Честно говоря, аргументы звучащие "против" просто не аргументы, какие-то, а эмоции "мы этого не хотим, потому что нам не нравится!" Лекс, а вступать в полемику с комментаторами на "Однако" будете?

Я уже написал ответ на ответ. На днях опубликуем.

Хорошо написано. Последовательно, что главное.

Комментарии на Однако, как всегда, неприятно впечатляют.

Да ладно. Обычно там создается впечатления более-менее нормальных людей. Но тут подтянулись ПГМнутые...

Годнейший наброс! Первый же коммент к статье пошатнул веру в человечество.

Да там первый ответ краз наглядно подтвердил что компы-то получше иных людей будут.
О чём и статья Лекса.

?

Log in

No account? Create an account