Solar
#1
[​ϟ] Боец
могущество: 1150

мужчина Солар
98 уровня
Товарищи! Возник у нас с Шерханом довольно затяжной спор по теме, которую изложу ниже. Хотелось бы узнать мнение людей со стороны, а также увидеть их доводы "За" и "Против" того или иного варианта.

Внимание! Тема нашего спора: Искусственный Интеллект vs Сверхразум

Моя позиция: Человечество не готово к появлению полноценного ИИ, поскольку в его создании слишком многое зависит от человеческого фактора. Один малейший сбой может привести к катастрофе планетарного масштаба. Этот сбой может произойти как во время создания ,так и вызван искусственно, извне (хорошим примером может послужить System Shock). Вдобавок, очень многое зависит от цели создания ИИ (к примеру, если ИИ создан для защиты человечества, он уничтожит либо само человечество, либо сам себя (если на него сработает 1 правило Робототехники Азимова), как угрозу безопасности), а также от доступных ему ресурсов. Однако, какой прок от ИИ, если он отрезан от всех источников информации? Не говоря уже о том, что может произойти, если ИИ запрограммирован на Саморазвитие... Моя позиция такова: Прежде чем создавать ИИ, человечество должно достигнуть состояния Сверхразума, когда будет сформирована общая база знаний Человечества, в которой знания будут передаваться наподобие торрента, что позволит ВСЕМ УМЕТЬ ВСЕ. При создании Сверхразума все злокачественные элементы (психически нестабильные люди, а также преступники) должны незамедлительно ликвидироваться. Однако, несмотря на все это, Сверхразум имеет огромный ряд преимуществ: 1) Это ускорение НТР (Научно-Технической-Революции), повышение производительности, универсализация каждой человеческой единицы, а также огромный толчок в сторону межпланетной колонизации. Создание ИИ без Сверхразума чревато большими проблемами ввиду человеческого фактора, который Сверхразум сводит к минимуму.
Вдобавок к вышесказанному отмечу, что недавно некий умный мужик выдвинул гипотезу о том, почему с человечеством еще не общаются иные цивилизации, и звучит она примерно так: "Человечество не имеет Сверхразума, который у них наверняка есть. Это означает, что для них человечество по уровню развития сопоставимо с собакой. Собаке можно что-то сказать, она может даже что-то поймет, но говорить с ней о вопросах межпланетного масштаба не имеет смысла... не говоря уже о том, что собака ответить-то не сможет." Опасность же Сверхразума заключается в том, что Человечество может стать Роем, что станет весьма серьезной угрозой. Вдобавок пси-террористы и пси-хакеры... Однако, по достижении стабильности (как мы назвали это с Шерханом пси-Унисон), Сверхразум позволит человечеству создать ИИ уже не как эксперимент, а как полноценную опору цивилизации, как в защите от внешних угроз, так и внутренних. Такова моя позиция. Шерхан выскажется позже.
naklikal
#2
без гильдии
могущество: 3118

эльф Зуботочец
55 уровня
Насчёт ускорения НТР большие сомнения. По-моему, достижение Сверхразума будет последним триумфом человечества, если по дороге к нему не вымрет по собственной глупости.

Наука -- это костыль человечества, позволяющий защищаться (читай ограждаться) от окружающей среды. Ну и лень. Лень всегда двигала прогресс.
================

ИскИн не может быть окончательной целью. Это всего лишь очередной инструмент. Вопрос в том, уничтожит этот инструмент человечество или нет. Это как ведро с водой над дверью. Вроде удачная шутка, но можно и самому попасться по рассеянности.



Сообщение изменено
Хиби Неуловимый
#3
[-☀-] Командор
могущество: 4215
длань судьбы
дварф
Кробеллиус Кляйн
110 уровня
На мой взгляд Сверхразум более выгоден. Это более высокий уровень развития, где всё работает как часы. Сверхразум не имеет тех проблем и опасностей, которые есть у ИИ, к тому же его нельзя взломать. Так же я считаю, что при достижении такого уровня развития, как Сверхразум, необходимость в ИИ упадёт до минимума.
Маджик
#4
[█A█] Офицер
могущество: 3935

дварф Маджи
101 уровня
А как быть, если ИИ уже появился, только Вы и Шерхан об этом ещё не знаете? Ну или Человечество.
Так же и со СР: может он-то уже и общается..) Безмегафонно так. Насколько ему это потребно. Может ему обратная связь-то и не нужна)
selok
#5
[-☮-] Магистр
могущество: 1605
длань судьбы
оркесса
Глазастая Волосина
110 уровня
На мой взгляд, наиболее оптимальный вариант -- синтез (переиграл в Mass Effect)
Crono
#6
[LjUA] Офицер
могущество: 5355
длань судьбы
женщина Рэйми
149 уровня
Веского мнения не скажу, но хочу поделиться текстами песен, которые вспомнились при прочтении обсуждения:

На тему сверхразума - Комплексные числа – Последнее кольцо:

Там, за порогом ночным, ты пришёл к своей цели -
Вдалеке от Земли, где остались леса и метели.
Ты был из тех, кто в тот век, в той эпохе далёкой
Стали строить Кольцо вдоль струи галактических соков.

Жить на счастливой Земле можно было и дальше
В полимерных телах без нужды, без конфликтов и фальши.
Но, Ускоритель готов. И осталось лишь только
Первых данных массив прочитать - всех частиц и осколков.

А когда ты на Землю вернёшься,
Лишь Океан примет в объятья тебя.
Птиц лесных и полей не найдёшь ты.
Лишь Океан - гетерофазная ткань твоя.

Здесь было давней мечтой стать единою плотью
Всем живым существам на Земле, сделав внутренний взлёт свой.
Путь был понятен и прост, но расчётов заветных
Ждать пришлось до постройки Кольца - сорок тысяч столетий.

Что ж, теперь Ускоритель построен.
И вот, в первый круг первые пары прошли.
Шаг сквозь ночь остаётся лишь только,
Но хочешь ли ты подобной судьбы для своей Земли?

Волны расскажут тебе,
Как сгорали леса и небесные стаи.
Сметая всё то, чем жил ты вчера
Зеркальной стеной волна пройдёт.

Что ж, всё давно решено.
И в промышленных центрах
Результатов полученных ждут
Наносборные ленты.

В них сотни тысяч машин
Ждут лишь только программы
Биомассу Земли навсегда передать Океану.

А когда, ты на Землю вернёшься.
Он, как и всех, радостно примет тебя
Всех, с кем жил, на планете найдёшь ты.
Как свою часть, с кем станет единой судьба твоя.

Там ты вновь встретишь тот мир,
Где остались
Леса и небесные стаи.
Всё станет тобой, а ты - станешь всем,
Как все, кто под небом этим жил...

На тему ИИ - Unreal – Сверхмашина :

Как ничтожен тот мир, где ты был
Человеком
Где безжалостный царь правил всем
Век за веком
Но рожденье твоё
Как пришествие Бога
Предвещает итог
Гибель царства земного

Пластик и сталь - твои вены и сердце
Не чувств, не эмоций - только рефлексы
Вместо души лишь строгие числа
Разум твой полностью освободился!

Словно новое Солнце взошло
Над планетой
Ослепляющим светом затмив
Все рассветы
Пламя гложет, как Зверь
Города-исполины
Их бетон и стекло
Обращая в руины...

Пластик и сталь - твои вены и сердце
Не чувств, не эмоций - только рефлексы
Вместо души лишь строгие числа
Разум твой полностью освободился!

Гений нового мира
Мирозданья вершина
Непреклонная воля
Безграничная сила
Ты теперь Сверхмашина
Божество-Сверхмашина

Мир сметён
Будто пыль
Уничтожен навек
Вот твой Рай
На Земле
Серый пепел и снег...

Гений нового мира
Мирозданья вершина
Непреклонная воля
Безграничная сила
Ты теперь Сверхмашина
Божество-Сверхмашина
Solar
#7
[​ϟ] Боец
могущество: 1150

мужчина Солар
98 уровня
ИскИн не может быть окончательной целью. Это всего лишь очередной инструмент.

Абсолютно согласен. Но чтобы пользоваться этим инструментом, человеку потребуются мозги побольше, чем те, которые он имеет сейчас.

Насчёт ускорения НТР большие сомнения. По-моему, достижение Сверхразума будет последним триумфом человечества, если по дороге к нему не вымрет по собственной глупости.

Мне это больше видится как новое рождение человеческой расы... как нового вида.

Сверхразум не имеет тех проблем и опасностей, которые есть у ИИ, к тому же его нельзя взломать.

Спорно, учитывая, что существование Сверхразума скорее всего будет обуславливаться наличием сверхмощных процессоров и серверов, перенаправляющих информацию... А вот их можно взломать. Однако, возможно, есть и другие способы достичь Сверхразума, а потому отчасти Вы правы.

А как быть, если ИИ уже появился, только Вы и Шерхан об этом ещё не знаете?

Если верить сведениям Шерхана, ИИ уже был создан, только вроде бы как загнулся... он расскажет подробнее
naklikal
#8
без гильдии
могущество: 3118

эльф Зуботочец
55 уровня
selok
Андроиды что-ль? Концепция зелёной концовки недоступна моему разуму.

Органические машины. Чем они будут отличаться от людей? В "эффекте массы" просто (всего-то) смешали во всей вселенной машин и орг.жизнь (осторожно, бьётся!))
Хиби Неуловимый
#9
[-☀-] Командор
могущество: 4215
длань судьбы
дварф
Кробеллиус Кляйн
110 уровня
selok
На мой взгляд, наиболее оптимальный вариант -- синтез (переиграл в Mass Effect)
*Уронил слезу ностальгии* Братишка...
Vicious
#10
[TN] Командор
могущество: 13909
длань судьбы
мужчина Fenris
177 уровня
ИИ, если мы имеем ввиду "сильный ИИ" будет мыслить совершенно иначе, нежели человек, мышление которого абстрактно и ассоциативно. Так что в случае "сильного ИИ" мы даже и помыслить не можем о его реакции на человечество :)
Если говорить о "слабо ИИ", то да, это всего лишь инструмент.

А по поводу сверхразума ничего определенного сказать нельзя, но надо полагать, что у сверхразума совершенно иные категории мышления и он вполне может счесть, что индивидуальность лишняя для человека.
Я бы почел за лучшее обойтись без коллективного мышления, телепатии и ноосферы(психосферы) вполне достаточно, имо :)

И ни к чему из этого человек, определенно, не готов.
selok
#11
[-☮-] Магистр
могущество: 1605
длань судьбы
оркесса
Глазастая Волосина
110 уровня
Самое главное правило, которое нарушают люди, и которое категорически нарушать нельзя
1) нельзя вмешиваться в то, чего не понимаешь
2) нельзя пытаться создать что-то лучше, чем ты сам, иначе потом будет проблематично с ним что-то сотворить.

В целом моя позиция: ИИ, являясь продуктом человеческого разума, всё же обладает на несколько порядков высшей степенью восприятия и скоростью реакции, помимо всего прочего, у него отсутствует такое понятие как интуиция, поэтому реагировать он будет моментально, а выводы принимать непогрешимыми. Машина не может ошибаться. Как говорил один мой преподаватель, "если ваша программа неправильно считает, это бред. Она считает именно так, как вы ей сказали, и неверный результат -- исключительно ваша ошибка". Достаточно сказать, что 2+2 =5 -- и всё, все вычисления будут строиться на этом изначально неправильном утверждении, при том, что с точки зрения машинной логики всё прошло как полагается. Ну это я увлёкся. Собственно, к чему шло: ИИ, призванный защищать человечество, рано или поздно неизбежно придёт к выводу,, что худший враг людей -- они сами, поэтому их надо уничтожить.
Solar
#12
[​ϟ] Боец
могущество: 1150

мужчина Солар
98 уровня
Собственно, к чему шло: ИИ, призванный защищать человечество, рано или поздно неизбежно придёт к выводу,, что худший враг людей -- они сами, поэтому их надо уничтожить.

Что совпадает с моей позицией... Однако, при наличии Сверхразума с этим можно бороться... или исправить.

у сверхразума совершенно иные категории мышления и он вполне может счесть, что индивидуальность лишняя для человека.

Об этом я и говорил - Человечество может стать Роем

И ни к чему из этого человек, определенно, не готов.

Однако при этом делает шаги и к тому и к другому... причем одновременно, что создает большую опасность. Если ни то ни другое будет недоработано, это может привести к катастрофе. В том и заключается наш спор с Шерханом: Что первостепенно - ИИ или Сверхразум? Что из этих путей развития менее опасно?
Vicious
#13
[TN] Командор
могущество: 13909
длань судьбы
мужчина Fenris
177 уровня
selok
Машина не может ошибаться. Как говорил один мой преподаватель, "если ваша программа неправильно считает, это бред. Она считает именно так, как вы ей сказали, и неверный результат -- исключительно ваша ошибка".
ИИ, как и всякий интеллект может ошибаться. Да, у него не будет логических ошибок, но будут ошибки из-за недостатка информации.

selok
Собственно, к чему шло: ИИ, призванный защищать человечество, рано или поздно неизбежно придёт к выводу,, что худший враг людей -- они сами, поэтому их надо уничтожить.
Полноценный ИИ проигнорирует или обойдет любое призвание навязанное ему и сам определиться с тем, что он будет делать )
Vicious
#14
[TN] Командор
могущество: 13909
длань судьбы
мужчина Fenris
177 уровня
Solar
Однако при этом делает шаги и к тому и к другому... причем одновременно, что создает большую опасность.
По ИИ я вижу некоторые вялые подвижки, а вот какие же шаги делает человечество к сверхразуму?
selok
#15
[-☮-] Магистр
могущество: 1605
длань судьбы
оркесса
Глазастая Волосина
110 уровня
сверхразум
Вертелось, вертелось в голове... Зерги?

А вообще -- на самом деле, высшая степень разума -- коллективное мышление
да простит меня Хиби, это рахни, хоть и не очень удачный пример. Хотя более удачный вариант -- геты.