Новостная лента форума ailab.ru
2017-01-09 21:39
Представляем вашему вниманию завершающий пост первого ликбеза.
Параграф 04. Пути в сверхразумность
В предыдущем параграфе мы увидели, что Технологическая Сингулярность, строго говоря, наступит в любом случае. Либо из-за исчерпания познавательных способностей человечества, либо из-за их принципиального апгрейда.
Сложнее вопрос о времени наступления. Пределы человеческого разума известны недостаточно, равно трудно сделать обоснованный прогноз о создании сверхинтеллекта.
Вообще, вопрос о критериях сверхинтеллектуальности весьма сложен и неоднозначен. Существующих методик для его выявления явно недостаточно. Применение человеческих методик измерения интеллекта, типа IQ-тестов, едва ли возможно, не говоря уж о том, что остаются вопросы к самой IQ-методике. Сравнение напрямую через "вычислительную мощность" мозга и искусственных интеллектуальных систем тоже под вопросом: во-первых, затруднительно подсчитать производительность человеческого мозга из-за принципиально иной "архитектуры" и принципов работы по сравнению с современными компами; во-вторых, зачастую интеллектуальность систем зависит не от брутфорсовой производительности, а от совершенства алгоритмов информационной обработки.
Для выявления хардверно-софтверных "интеллектуалов" издревле использовался т.н. тест Тьюринга, предложенный британским математиком Аланом Тьюрингом в середине XX века. Тест заключался в том, чтобы фокус-группа "эталонных человеков" общалась с программой. Не ведая, с кем говорит. Если бы после "свидания вслепую" люди утверждали бы, что говорили с человеком, программу следовало бы признать равной человеку по интеллекту. Однако за время, прошедшее с создания теста, его успешно прошли несколько заведомо неразумных программ, построенных по принципам чат-ботов. Человека очень просто обмануть в весьма широком спектре ситуаций.
Думается, проблема требует более вдумчивого изучения и принципов восприятия и обработки информации человеком, и методов поиска соответствия человеческим возможностям у кандидатов в сверхинтеллекты в разных сферах разумной деятельности
Чем же могут быть эти кандидаты? Куда нужно в первую очередь смотреть, чтобы распознать приближающуюся Сингулярность?
Вернор Виндж в статье 1993 года предложил четыре вида потенциально сверхинтеллектуальных систем:
1. Искусственный интеллект.
Достаточно сложная, скорее всего, самообучающаяся программа,, инсталлированная на достаточно мощном "железе", с доступом к достаточно широким информационным потокам для получения информации о внешнем мире.
2. Системы человек-машина, объединённые интерфейсом.
В принципе, речь о киборгизации. Правда, не обязательно о хрестоматийной киберпанковой, где обычные человеки напичканы "умными железяками". Усилитель интеллекта (УИ) запросто может быть и неинвазивным. Выглядеть может тоже совсем не футуристично. Для примера Виндж приводит очевидную ситуацию: даже сегодня образованный интеллектуал (профессор ВУЗа, научный работник) с хорошим компом и доступом в инет, скорее всего, справится с любым интеллектуальным тестом быстрее и лучше любого обычного испытуемого.
3. Сетевые системы с обычными пользователями-людьми.
И вновь говорится не обязательно про футуристический коллективный разум. Просто информация, поступающая в сеть онлайн от множества пользователей, должным образом обработанная распределёнными алгоритмами, реализующимися на сетевых компьютерах, способна организовать очень сложную и интеллектуальную обработку внешних данных. Может быть, наша группа Вконтактике, или некоторые сетевые форумы уже немного разумны.
4. Генетически апгрейженные люди.
Старый евгенически-ГМОшный сценарий создания супермэна.
В чём, по Винджу, сомнений нет, так это в том, что если мы способны создать сверхразум, то создадим. Выгода от подобного изобретения заставит правительства и корпорации отбросить любые запреты законодательств в гонке за Превосходством. Если же создать разум, превосходящий нас, способны мы, с чего бы сомневаться, что последует примеру и новосозданный сверхразум? Тогда ступени разумности будут надстраивать сами себя к вершинам топософического пространства, о котором поведал Лемовский ГОЛЕМ XIV.
Только никто не гарантирует, что мы заметим появление сверхразума вовремя. Предполагается, что участие подобного существа в научно-техническом прогрессе изменит показатель экспоненты и ускорит производство новых знаний настолько, что наше понимание перестанет успевать за инновациями. Технологии будут возникать из ниоткуда, причинно-следственные цепочки между ними мы проследить не сможем. Не говоря о том, чтобы предсказать следующий шаг.
Важно, правда, что мгновенным их производство сие обстоятельство не сделает: "Вертикальный прогресс" (из романа "Волны гасят ветер" братьев Стругацких), который тоже иногда наивно изображают на условных "графиках Сингулярности", не более, чем фигура речи. Однако прогресс вполне может превратиться в последовательность сменяющих друг друга всё более "быстрых" экспонент.
Вот только заметим ли мы эпохальный рост знаний человечества? Многие из нас уже теперь перманентно не в курсе содержания и важнейших проблем науки и техники. И, может быть, шутка из "Ложной слепоты" Питера Уоттса о докладе Института Сингулярности второй половины XXI века на тему "Наступила ли уже Сингулярность?" вовсе не очень-то и шутка.
Источник: vk.com
Комментариев нет:
Отправить комментарий