Товарищи! Возник у нас с Шерханом довольно затяжной спор по теме, которую изложу ниже. Хотелось бы узнать мнение людей со стороны, а также увидеть их доводы "За" и "Против" того или иного варианта.

Внимание! Тема нашего спора: Искусственный Интеллект vs Сверхразум

Моя позиция: Человечество не готово к появлению полноценного ИИ, поскольку в его создании слишком многое зависит от человеческого фактора. Один малейший сбой может привести к катастрофе планетарного масштаба. Этот сбой может произойти как во время создания ,так и вызван искусственно, извне (хорошим примером может послужить System Shock). Вдобавок, очень многое зависит от цели создания ИИ (к примеру, если ИИ создан для защиты человечества, он уничтожит либо само человечество, либо сам себя (если на него сработает 1 правило Робототехники Азимова), как угрозу безопасности), а также от доступных ему ресурсов. Однако, какой прок от ИИ, если он отрезан от всех источников информации? Не говоря уже о том, что может произойти, если ИИ запрограммирован на Саморазвитие... Моя позиция такова: Прежде чем создавать ИИ, человечество должно достигнуть состояния Сверхразума, когда будет сформирована общая база знаний Человечества, в которой знания будут передаваться наподобие торрента, что позволит ВСЕМ УМЕТЬ ВСЕ. При создании Сверхразума все злокачественные элементы (психически нестабильные люди, а также преступники) должны незамедлительно ликвидироваться. Однако, несмотря на все это, Сверхразум имеет огромный ряд преимуществ: 1) Это ускорение НТР (Научно-Технической-Революции), повышение производительности, универсализация каждой человеческой единицы, а также огромный толчок в сторону межпланетной колонизации. Создание ИИ без Сверхразума чревато большими проблемами ввиду человеческого фактора, который Сверхразум сводит к минимуму.
Вдобавок к вышесказанному отмечу, что недавно некий умный мужик выдвинул гипотезу о том, почему с человечеством еще не общаются иные цивилизации, и звучит она примерно так: "Человечество не имеет Сверхразума, который у них наверняка есть. Это означает, что для них человечество по уровню развития сопоставимо с собакой. Собаке можно что-то сказать, она может даже что-то поймет, но говорить с ней о вопросах межпланетного масштаба не имеет смысла... не говоря уже о том, что собака ответить-то не сможет." Опасность же Сверхразума заключается в том, что Человечество может стать Роем, что станет весьма серьезной угрозой. Вдобавок пси-террористы и пси-хакеры... Однако, по достижении стабильности (как мы назвали это с Шерханом пси-Унисон), Сверхразум позволит человечеству создать ИИ уже не как эксперимент, а как полноценную опору цивилизации, как в защите от внешних угроз, так и внутренних. Такова моя позиция. Шерхан выскажется позже.

Насчёт ускорения НТР большие сомнения. По-моему, достижение Сверхразума будет последним триумфом человечества, если по дороге к нему не вымрет по собственной глупости.

Наука -- это костыль человечества, позволяющий защищаться (читай ограждаться) от окружающей среды. Ну и лень. Лень всегда двигала прогресс.
================

ИскИн не может быть окончательной целью. Это всего лишь очередной инструмент. Вопрос в том, уничтожит этот инструмент человечество или нет. Это как ведро с водой над дверью. Вроде удачная шутка, но можно и самому попасться по рассеянности.

На мой взгляд Сверхразум более выгоден. Это более высокий уровень развития, где всё работает как часы. Сверхразум не имеет тех проблем и опасностей, которые есть у ИИ, к тому же его нельзя взломать. Так же я считаю, что при достижении такого уровня развития, как Сверхразум, необходимость в ИИ упадёт до минимума.

А как быть, если ИИ уже появился, только Вы и Шерхан об этом ещё не знаете? Ну или Человечество.
Так же и со СР: может он-то уже и общается..) Безмегафонно так. Насколько ему это потребно. Может ему обратная связь-то и не нужна)

На мой взгляд, наиболее оптимальный вариант -- синтез (переиграл в Mass Effect)

ИскИн не может быть окончательной целью. Это всего лишь очередной инструмент.

Абсолютно согласен. Но чтобы пользоваться этим инструментом, человеку потребуются мозги побольше, чем те, которые он имеет сейчас.

Насчёт ускорения НТР большие сомнения. По-моему, достижение Сверхразума будет последним триумфом человечества, если по дороге к нему не вымрет по собственной глупости.

Мне это больше видится как новое рождение человеческой расы... как нового вида.

Сверхразум не имеет тех проблем и опасностей, которые есть у ИИ, к тому же его нельзя взломать.

Спорно, учитывая, что существование Сверхразума скорее всего будет обуславливаться наличием сверхмощных процессоров и серверов, перенаправляющих информацию... А вот их можно взломать. Однако, возможно, есть и другие способы достичь Сверхразума, а потому отчасти Вы правы.

А как быть, если ИИ уже появился, только Вы и Шерхан об этом ещё не знаете?

Если верить сведениям Шерхана, ИИ уже был создан, только вроде бы как загнулся... он расскажет подробнее

selok
Андроиды что-ль? Концепция зелёной концовки недоступна моему разуму.

Органические машины. Чем они будут отличаться от людей? В "эффекте массы" просто (всего-то) смешали во всей вселенной машин и орг.жизнь (осторожно, бьётся!))

ИИ, если мы имеем ввиду "сильный ИИ" будет мыслить совершенно иначе, нежели человек, мышление которого абстрактно и ассоциативно. Так что в случае "сильного ИИ" мы даже и помыслить не можем о его реакции на человечество :)
Если говорить о "слабо ИИ", то да, это всего лишь инструмент.

А по поводу сверхразума ничего определенного сказать нельзя, но надо полагать, что у сверхразума совершенно иные категории мышления и он вполне может счесть, что индивидуальность лишняя для человека.
Я бы почел за лучшее обойтись без коллективного мышления, телепатии и ноосферы(психосферы) вполне достаточно, имо :)

И ни к чему из этого человек, определенно, не готов.

Самое главное правило, которое нарушают люди, и которое категорически нарушать нельзя
1) нельзя вмешиваться в то, чего не понимаешь
2) нельзя пытаться создать что-то лучше, чем ты сам, иначе потом будет проблематично с ним что-то сотворить.

В целом моя позиция: ИИ, являясь продуктом человеческого разума, всё же обладает на несколько порядков высшей степенью восприятия и скоростью реакции, помимо всего прочего, у него отсутствует такое понятие как интуиция, поэтому реагировать он будет моментально, а выводы принимать непогрешимыми. Машина не может ошибаться. Как говорил один мой преподаватель, "если ваша программа неправильно считает, это бред. Она считает именно так, как вы ей сказали, и неверный результат -- исключительно ваша ошибка". Достаточно сказать, что 2+2 =5 -- и всё, все вычисления будут строиться на этом изначально неправильном утверждении, при том, что с точки зрения машинной логики всё прошло как полагается. Ну это я увлёкся. Собственно, к чему шло: ИИ, призванный защищать человечество, рано или поздно неизбежно придёт к выводу,, что худший враг людей -- они сами, поэтому их надо уничтожить.

Собственно, к чему шло: ИИ, призванный защищать человечество, рано или поздно неизбежно придёт к выводу,, что худший враг людей -- они сами, поэтому их надо уничтожить.

Что совпадает с моей позицией... Однако, при наличии Сверхразума с этим можно бороться... или исправить.

у сверхразума совершенно иные категории мышления и он вполне может счесть, что индивидуальность лишняя для человека.

Об этом я и говорил - Человечество может стать Роем

И ни к чему из этого человек, определенно, не готов.

Однако при этом делает шаги и к тому и к другому... причем одновременно, что создает большую опасность. Если ни то ни другое будет недоработано, это может привести к катастрофе. В том и заключается наш спор с Шерханом: Что первостепенно - ИИ или Сверхразум? Что из этих путей развития менее опасно?

selok

Машина не может ошибаться. Как говорил один мой преподаватель, "если ваша программа неправильно считает, это бред. Она считает именно так, как вы ей сказали, и неверный результат -- исключительно ваша ошибка".

ИИ, как и всякий интеллект может ошибаться. Да, у него не будет логических ошибок, но будут ошибки из-за недостатка информации.

selok

Собственно, к чему шло: ИИ, призванный защищать человечество, рано или поздно неизбежно придёт к выводу,, что худший враг людей -- они сами, поэтому их надо уничтожить.

Полноценный ИИ проигнорирует или обойдет любое призвание навязанное ему и сам определиться с тем, что он будет делать )

Solar

Однако при этом делает шаги и к тому и к другому... причем одновременно, что создает большую опасность.

По ИИ я вижу некоторые вялые подвижки, а вот какие же шаги делает человечество к сверхразуму?

сверхразум

Вертелось, вертелось в голове... Зерги?

А вообще -- на самом деле, высшая степень разума -- коллективное мышление