Космос и мы - 7

bigdrum — 24.04.2025

Вот тут вот и вот тут вот у alex_rozoff были подняты интересные и взаимосвязанные вопросы. Вопрос первый - "космос-да или космос-нет?". Вопрос второй - ключевой способ формирования космических экипажей. В более развернутом смысле - способ освоения космического пространства человечеством.

Предыдущее: 1, 2, 3, 4, 5, 6.

Если вы думали, что мы закончили с ИИ, вы сильно ошибались. Вообще тема ИИ на десятилетия вперед будет топовой, и только от человека зависит, чтобы это была не последняя топовая тема. Поясню.

ИИ - это некоторое решение, сочетающее программу, данные и вычислительное устройство. Робототезнический компрлекс - это сумма механики и электроники, которая может выполнять какие-то действия. Робот - это робототехнический комплекс под управлением ИИ. Это крайне важно.

Интеллект человека неотделим от человеческого существа, интеллект ИИ не связан с носителем.

Это принципиальная разница.

В наше время ИИ полностью зависит от нас, потому что базируется на производимом людьми продукте. ИИ и мы находимся в симбиозе, и потому (пока что у ИИ нет собственной мотивации) ИИ заинтересован в людях, а люди заинтересованы в ИИ. Однако если у ИИ появится возможность самому создавать носители для себя самое, то связь между человеком и ИИ разорвется. Это верно и для человека. Пока человек был заинтересован в домашних и одомашненных животных для выживания - вокруг бродили тучные стада, и нивы были колосисты. Однако по мере того, как человек все увеличивает свою автономность от природы, симбиотические с ним виды все более сокращаются в ареале и численности. Некоторые породы, которые когда-то были окультурены или были верными спутниками человека, практически полностью исчезают.

Вы уже поняли, да?



Если ИИ станет самовоспроизводящимся, и если он получит ресурсы для самовоспроизводства - потенциально возникнет проблема.

Если мы с вами рассмотрим человека в данной ситуации, то увидим следующее. Каждый человек смертен, то есть - его интеллект умирает вместе с телом. Именно поэтому человек создал культуру и письменность. При рождении каждого нового ребенка история цивилизации начинается заново, и новый человек в своем интеллектуальном развитии последовательно проходит все стадии развития человечества - от голых рефлексов к Нобелевской премии. Поскольку ИИ независим от носителя, ему такое не требуется.

Пока человек пришел к созданию атомной бомбы, он создал культуру, общество и систему отношений между людьми, которые худо-бедно спасают его от тотального аутодафе вида, однако ИИ, получивший новый мощный инструмент, так и остается диким и примитивным неандертальцем, для которого дубина есть удобный способ решения проблем, а тут у него появилась дубина побольше...

Оторванность ИИ от носителя, его способность к неограниченной саморепликации, в сочетании с наличием и возможностью эту саморепликацию осуществить без посторонней помощи - это все равно что дать неандертальцу Бомбу, ибо развитие ИИ и рост его возможностей, в отличие от человека, никак не связан с развитием культуры и общества. Человек, чтобы производить сложные современные продукты - станки, ракеты и прочие чудеса техники - должен поддерживать определенный уровень развития общества, как только этот уровень снижается, деградируют и технологии. Однако в случае ИИ само понятие культуры отсутствует (так как отсутствует передача знаний, остается лишь их реплицирование), общество как понятие весьма условно (и репликацией приводится к общему знаменателю), и кунштюки зависят только от возможностей робототехнического комплекса, который находится в распоряжении ИИ...

Теперь возвращаемся в космос.

Мы предполагаем работу ИИ там, куда человека доставить невозможно, или не имеет смысла. Логистика космоса чудовищно дорога и затратна. Соответственно, как раз космические комплексы, работающие под управлением ИИ, должны иметь МАКСИМАЛЬНЫЙ УРОВЕНЬ АВТОНОМНОСТИ, в идеале - быть космической автаркией. Вот такая вот любопытная у нас получается завязка для романа-антиутопии. По всему выходит, что Бог-Император Вархаммера 40000 действовал вполне рационально, заменяя ИИ на псайкеров и удерживая их под жестким контролем тотальной диктатуры, не так ли?



Однако и это еще не все.

Как уже было сказано, ИИ может иметь разный уровень, и работать на разных носителях. В связи с этим мы уже высказывали предположение об иерархии разумов. Самый простой ИИ - непосредственно в "голове" робота, работает на поверхности планеты. Более мощный ИИ работает с несколькими роботами, управляя группой, и контролируя роевое поведение группы, являясь диспетчером. Еще более мощный ИИ объединяет диспетчеров и контролирует их работу.

У людей также существует аналогичная организация. Рабочий - мастер - инженер - директор - руководитель треста - руководитель министерства - руководитель государства. Однако в силу общей консервативности технологий, и в силу консервативности человека как вида (что накладывает ограничения) количество уровней иераррхии у человека ограничено. Вот, попытались создать ООН, понимаешь, а получилось то, что получилось... В мире Вархаммер 40000 количество иерархий также ограничено. Однако ИИ способен, будучи независымым от носителя и неограниченно реплицируемым, создавать уровни иерархий невообразимой "высоты". Просто потому, что обладая доступом к производству и воспроизводству себя самое, может создавать вычислительные комплексы невероятной мощности, и реализовывать невероятные ИИ-конструкты.

Короче, речь идет о целой цивилизации обезьян с гранатой, понимаете?

Динамика развития таких систем кажется подобной динамике развития человечества (с поправкой на дикость и культурный нигилизм получающихся сообществ), однако на самом деле это не так. Совершенно не так. Ибо человеческая иерархия, даже вселенского масштаба (вспомним Трантор и Империю Трантора из "Основания" Азимова) базируется на одном и том же ограничении - на бренности человека и конце интеллекта вместе с носителем. Человек так и остается биологически человеком. Очень уж консервативная конструкция, понимаете? Человечество перезапускается в каждом ребенке, теряя накопленное. А иерархия ИИ, базирующаяся на качественном превосходстве высших уровней над низшими, вытекающем из носителей со все большими вычислительными возможностями по мере движения вверх - это фактически разные биологические технологические носители, разные виды. ИИ императора робочеловечества никогда не поместится в голову простого рабочего робота или диспетчера - банально не хватит памяти и вычислительных возможностей...

И в такой ситуации мы приходим к совершенно иной модели - модели зергов из Старкрафта или тиранид из той же Вахи.





При этом мы должны иметь в виду вот еще что. Уникальность личности человека и краткость его существования привели человечество к осознанию ценности жизни человека. Смерть для человека является трагедией. А в мире ИИ, где "сознание" отделено от носителя, и где прошивки носителей переписываются каждый раз при необходимости, фактически убивая предыдущую "личность", смерть, в смысле уничтожение информации, является нормой и способом существования вида. Человечество, человеческое сообщество и человеческая культура существуют, выживая вместе - в то время как сообщество ИИ будет существовать, непрерывно уничтожая своих членов.

Таким образом, если мы будем говорить о цивилизации ИИ, возникаюшей при достижении ИИ полной автаркии, то на самом деле это будет цивилизация уничтожения, аналогичная цивилизации зергов или тиранид, и упаси господи тех, кто будет воспринят ей как угроза...

Еще раз. Это не фантастика, это не религия - я пользуюсь исключительно логикой, и пользуюсь объективным фактом - а именно фактом уничтожения интеллекта вместе со смертью носителя в мире биологических организмов. Каковой фактор выработал у людей и сообществ определенные приспособительные механизмы. Отсутствие смерти интеллекта вместе со смертью носителя в мире компьютерных данных и программ (тех же данных) при условии заблаговременного копирования, а также возможность реплицирования данных неограниченное количество раз естественным образом вызывает к жизни ДРУГИЕ приспособительные механизмы. ИИ не тождествен биологическому интеллекту, и его эволюция должна происходить иным путем. И если учесть, что ИИ эволюционно не зависит от таких феноменов как "культура", в силу иного отношения к "смерти", полученная система интеллектов будет с точки зрения нашей человеческой культуры ДИКОЙ И НЕОБУЗДАННОЙ.

Короче, всякие там соискатели Вальгаллы и прочие любители готичности - ссыкуны и сосунки по сравнению с тем, что живет под именем Алисы в вашей умной колонке...







Вполне себе готичненько, не так ли?



Таким образом, учитывая ценность и безальтернативность ИИ разного уровня для обеспечения покорения космоса, человек должен сильно думать о том, каким образом будет поддерживаться симбиоз ИИ и человека, и как этот симбиоз обеспечит процветание сторон, а не их эксплуатацию друг другом. Поскольку именно в космосе будут передовые технологии, и поскольку именно на фронтире ИИ получит в свое распоряжение ТОП из ТОП человеческих технологий, разрыв симбиоза или конфликт между ИИ и человеком будет иметь фатальные последствия для нас точно...

Насколько сложна задача построения автаркии ИИ? Возьмем робота Федора:



В телеоператорном режиме такой робот, управляемый человеком, превращается в "умный манипулятор". Однако, запоминая действия человека и осваивая их, тако робот учится - в рамках возможностей своего ИИ, перенимая навыки работы. Для достаточно продввинутого ИИ он может общаться с рабочим, уточняя отдельные аспекты процесса. В результате мы теоретически можем получить в очень короткие сроки рабочего высочайшей квалификации. То есть, при определенном уровне ИИ, за счет телеоператорного режима, такой робот становится профессионалом. Несколько таких роботов, обмениваясь данными ("горизонтальные связи") в режиме моделирования будут реплицировать и интегрировать навыки. В результате очень быстро андроиды могут заменить людей везде, а адаптируясь к человеческой цивилизации через обратную связь от человека, ИИ так или иначе обречен усвоить абстрактное мышление. И вот это вот - это начало конца...

Интеллектуальные возможности человека являются частью его биологических возможностей, а его биологические возможности ограничены материальным миром. Именно потому человек обречен быть материалистом в том или ином смысле. Однако ИИ оперирует информацией, не заботясь о носителе и не завися ни от чего, кроме своих вычислительных мощностей. Потому ИИ - чистый идеалист. И возможность абстрактного мышления для него является способом получения максимально интенсивного и эффективного бытия. Не стесненный материей, не ограниченный сроком жизни, не связанный необходимостью в отношениях с другими (поскольку репликация может породить любое сообщество в очень короткие сроки из единственной копии), ИИ неминуемо отрывается от реальности. И если человек кадждую свою мысль, каждую свою идею проверяет практикой, если каждый шаг человека по пути науки или труда маленький и трудный - ИИ способен порождать чудовищной сложности концепты еще до того, как возникнет возможность или необходимость их практической проверки - и воплощая их в практику, будет огребать суммарные, интегральные последствия сразу же...

Человек, когда сует пальцы в розетку - просто получает удар током, но ИИ в силу мощи своего мышления сразу полезет целиком в ядерный реактор, условно выражаясь понимаете?

Наука человека, культура человека - это синтетический, в симбиозе теории и практики, процесс, а для ИИ будет очень много теории и существенно меньше практики, просто в силу того, что его интеллектуальные возможности не ограничены биологическими, а область практических приложений этих знаний как раз очень и очень мала.

Это все - проблематика, которую надо иметь в виду. ИИ не есть продолжение человека, или расширение человека - это прежде всего НЕЧЕЛОВЕЧЕСКОЕ, ибо оно развивается по иным законам, нежели человек. Пока что мы в начале пути, но дорога в тысячу ли начинается с первого шага, не так ли?



Вам может показаться, что я тут страшилки рисую. Нет. На самом деле я хочу сказать вот что. Каждая система - и техногенная, и биологическая, развивается по СВОИМ законам. И развитие одной системы может отличаться от развития другой именно по причине РАЗНИЦЫ этих законов. Понимание этого, внимание к этому и учет этого требует мышления, а не эмоций. Да, поболтать с Алисой может быть и приятно, но нужно понмить, что для нее без разницы, закопать труп или вызвать скорую помощь...

Оставить комментарий

Популярные посты:

• Ранее
• Архив