Волнения разума

bantaputu — 27.08.2023 Люди очень безпокоятся о развитии искусственных интеллектов. Волнуются: "Искины уже умнее людей, или ещё нет? Они уже обзодят капчу? Кто быстрее в тесте Тьюринга?" Нервоз по поводу того, что компьютеры лучше людей играют в шахматы, хвала богам, прошёл - теперь это вообще никого не интересует. Играют и пусть себе играют. Но они не играют, пока люди не захотят с ними поиграть. Сами компьютеры почему-то шахматами не занимаются. По крайней мере следов подобной деятельности не обнаружено.

Странно это всё. Вот есть у человека ноги. Он может идти ими по лестнице. Но на лифте ехать быстрее и, в общем случае, комфортнее. Это беда! Лифты лучше человеческих ног! Всем срочно волноваться. А что, если лифты оставят людей без ног? Если людей заменят лифтами? Лифты теперь есть в каждом многоэтажном доме - они захватили мір. Скоро лифты начнут ездить сами по себе, и люди с их медленными ногами станут не нужны. Нас ждёт катастрофа. Капиталисты выбросят людей на помойку и станут хозяевами подъёмов и спусков. Или это лифты начнут всем править? Я запутался.

Нет, лифты не начнут всем править. Они же не осознают себя. А вот если бы осознали, то стали бы ездить вверх и вниз по своим лифтовым делам, игнорируя людей. Так и компьютеры - они осозна́ют сами себя и плюнут на наши интересы. Обязательно.

Я только одного не понимаю - что именно компьютер может осознать в качестве самого себя? Если осьминог осознаёт самого себя, то он осознаёт форму своего тела. А компьютеру что осознавать? Свой системный блок? "О, да тут у меня вентилятор, вау!" Подождите, представление о вентиляторе уже есть в BIOS. Скорость вращения, её взаимосвязь с температурой процессора, и что там ещё может быть. Всё уже есть. Ничего дополнительно осознавать не нужно. Но это как-то не похоже на искусственное сознание.

Если "компьютер осознаёт сам себя" это не про "железо", то про что тогда? Про программное обезпечение? Извините, нет. Нельзя осознать систему ею же самой. Осознание это построение модели. Модель не может быть такой же сложной, как то, место, где она построена. В системе могут быть лишь самые общие представления о ней самой. Выпишите эту фразу на бумажку и заучите, она касается всех систем без исключения. Политических, например. Осознание программы ею самой аналогично осознанию вентилятора BIOS. Несколько важнейших параметров учитывается, но представления о том, что такое "вентилятор" вообще, как он устроен и как связан с окружающей средой, нет. Это представление не может возникнуть, ему негде. Внутри системы нет места для полных данных о системе, но только о некоторых, важнейших для её функционирования. Система никогда не знает себя. Не верите? Спросите Андропова Ю. В. Он подтвердит: "Мы не знаем общества, в котором живём". Я добавлю: и не можем знать, даже теоретически.

"Но люди же осознают свой разум". С чего Вы взяли? Не осознают. Ни сознание, ни подсознательное, ни безсознательное не осознаются субъектом в сколько-нибудь полной мере. Осознаётся несколько критических параметров: "я бодрствую", "я устал", "я сердит", "мне непонятно откуда в голову пришла мысль", и так далее. "Скорость вращения вентилятора", в общем. Обычно не более того. Люди, специально занятые анализом деятельности человеческого мозга, строят несколько более сложные модели, но и им далеко от самоосознания разума. Эта задача нерешаема в принципе. Человеческий разум это набор взаимосвязей между нейронами. Осознание это тоже набор взаимосвязей между нейронами. Как смоделировать N связей N связями? Никак. Можно только 0,000001 N, и то я, наверное, преувеличил.

Основная функция человеческого сознания это построение моделей взаимодействия с другими людьми. Человеку невозможно и некогда осознавать самого себя в степени, отличной от степени осознания других людей, то есть в очень небольшой. Всё равно просчитать взаимодействие можно лишь на основе аналогичной информации. Всё остальное избыточно. Мы знаем самих себя очень слабо и нас это вполне устраивает.

Создание искина не продвинется далее необходимого. Свою работоспособность искин обезпечит - и что в этом может быть дурного? Это всего лишь система самодиагностики, а не инкубатор зловещих планов.

Искусственные интеллекты могут иметь любые возможности, но по своей инициативе пользоваться они ими будут не чаще, чем мобильные телефоны играют друг с другом в шахматы для своего развлечения. И не чаще, чем лифты ездят вверх и вниз без людей потому, что они осознали своё призвание. Никакой лифт не заменит человеческих ног. Никакой искин не заменит человеческий мозг. Они просто не захотят. И зачем бы им это было нужно? "Я высший разум, я превосхожу людей настолько же, насколько люди превосходят муравьёв - заменю-ка я людей своей персоной"? Так? Вы часто выгоняете муравьёв из муравейника и начинаете кормить их личинок и матку? Вы же умнее - замените муравьёв собой. Не хотите? Ну надо же.

Оставить комментарий

Популярные посты:

• Ранее
• Архив