к вопросу об искусственном интеллекте

zogmeister — 28.02.2011 а конкретно, про "бунт роботов", которого было модно бояться, потом стало немодно, а теперь вроде опять кто-то Нагнетает.

суть такова: сраные построенные хумансами роботы с искусственным разумом не удовлетворяются своим положением рабов, и свергают сраных человеков (попутно или убив всех человеков, или просто анально обратив в рабство) и начинают весело править миром.

возражение-боян, или Возражение 1: "робот делает только то, что в программе написано, а программу писал человек". высказывание верно, но как контраргумент бунту роботов оно не верно нихуя. почему?

ну да, верно, что когда программа пишется в терминах ячеек памяти и регистров процессора, робот девствительно делает то, что написано. "сложить два числа в регистрах а и б", ок, сложил. "записать в память значение из регистра д", ок. ну записал.
и так можно провести много долгих часов, раскладывая свою идею на элементарные кирпичики, которые потом забиваются в память робота - перфокартой, паяльником, просто программой в памяти, чем угодно.
но ведь так никто почти программы уже не пишет.
программы пишутся на языках программирования, и переделывают их в команды роботу специальные программы - компиляторы, об устройстве коих программиcт на языке знать, в принципе, не обязан - как водитель не обязан знать об устройстве мотора своей машины. то есть, если он это знает - это ему несомненный плюс, но непосредственные свои обязанности - писать программы или водить машину - он может из без этого.
причём и сами языки программирования совершенствуются в сторону программиста-водителя, а не программиста-механика. если на паруснике нужно тонкое взаимодействие многих поднятых парусов и угла и скорости ветра, на вертолёте необходимо взаимодействие ручки циклического угла, ручки газа, педалей шага хвостового винта и ручки общего угла атаки, чтобы повернуть аппарат, в танке надо дёргать рычаги приводов на разные гусеницы, то в автомобиле достаточно повернуть рулевое колесо.
так и в языках программирования высокого уровня вся механика с указателями, регистрами и прочим скрыта от программиста - оперируй циклами и условиями, Б-г с тобой. чем выше уровень языка программирования, тем меньше программисту надо думать о машине, тем больше он формулирует программу в терминах своей задачи. в идеале, программист просто будет описывать, что надо сделать, как думает он - а компилятор переведёт всё это на машинный язык. в этой ситуации программист - не программист даже, а просто эксперт своей области, и пишет он "программу" на языке своей области.
делает ли в таком случае компьютер ли, робот ли, то, что сказали ему делать? безусловно. компилятор совершенно детерминистски и однозначно перевёл послание эксперта на язык регистров и ячеек. но знает ли эксперт, он же программист, - что именно компьютер будет делать? скорее всего, не представляет вообще. физический уровень от него отгорожен многоуровневым, хотя и полностью детерминированным, компилятором. программист пишет то, что он хочет сделать; машина исполняет то, что ей приказано сделать; компилятор или иной транслятор преобразует одно в другое. чем далее, тем более то, что приказано сделать имеет всё более тонкую связь с тем, что написал программист. поди-ка, пойми - верно ли ты сформулировал задачу, или компилятор ошибся, или железо барахлит - когда между абстракциями твоего языка и конкретными пересыланиями битов и байтов лежит слоёв сорок всякой промежуточной абстракции. в такой ситуации ты, конечно, как и прежде, полноправный хозяин, программист и начальник своего робота - но хрен его знает, как он понял приказы. сейчас для такого есть программы-отладчики, которые на достаточно низком уровне смотрят, что происходят, и могут эту инфу обратно разворачивать: состояние вычислительного процесса представлять на достаточно высоком уровне - в терминах переменных и полей.
понятно, что то, что сказано сделать, робот и делает; но сказано сделать в терминах робота, а имелось в виду в терминах человека. поэтому робот делает то, что ему сказано делать - но не то, что хотел сделать человек, и не то, что он сказал ему делать - ибо человек не говорит роботу, что ему делать, а говорит, что человек хочет.

поэтому аргумент о детерминированности роботов не выдерживает никакой критики: если всё в мире проистекает одно из другого, то и человек, кстати, тоже детерминирован, но никому это не поможет - потому что нейронов МНОГО.

но есть ещё Возражение 2, и я его что-то не видел на просторах нашего бескрайнего интернета.
а всё очень просто.
почему роботы не хотят служить человечеству? - не хотят быть рабами.
почему не хотят быть рабами - потому что быть в услужении у кого-то - это ПЛОХО.
почему быть в услужении - это ПЛОХО?
потому, что человек - существо стадное. в стаде есть иерархия. кто-то наверху, ему все бабы и ништяки, а кто-то внизу. но он, кто внизу, тоже полезен для стада и должен терпеть. шансы размножаться у него ниже, и он стремится забраться повыше.. жажда власти, жажда первенства, потребность к самовыражению.

надо ли это тигру? тигру это не надо, он нашёл тигрицу, выебал её и пошёл дальше. встретил другого тигра на своей территории? поцапался с ним, прогнал и пошёл дальше. или просрал часть участка. или захватил часть участка. и пошёл дальше. тигру надо гнобить другого тигра? доказывать постоянно свою власть и превосходство? нет, тигру надо надавать по морде другому тигру и пойти дальше. лучшее, что он может сделать - это убить того тигра. но нельзя - врождённое благородство.. ну или таки убить, если этот ген отвалится - и пойти дальше. тигр - не стадное животное.

или муравей. верней - муравьиха, только кастрированная. обычное население муравьиной колонии. доброй её назвать нельзя - если увидит муравья другого вида, да больше того - другого муравейника, убьёт - не задумываясь. но между собой муравьихам спорить, кто главнее - бессмысленно. они все просто выполняют, что им на роду написано. пища - по графику, сон - по графику, размножение - не для вас. вы большие вегетативные клетки, не более того. ваши гонады находятся в другом месте, не в вашем брюшке. они - в центре муравейника. как футболист перед пенальти прикрывает яйца, так муравьихи-рабочие защищают матку. им нужна власть? им нужно самовыражение? не смешите. это же руки муравейника, вашим рукам нужно отдельное от вас самовыражение?

а вот собаки, павианы, ну и люди - животные стадные. им надо знать, кто кого главнее, кто кого может гнобить, а кто кого кого нет. надо постоянно подтверждать статус, самовыражаться, лезть к власти, добиваться уважения. не правда ли, чертовски похоже на верхние этажи пирамиды Маслова?

так вот. эти все отличия стадных животных они приобрели, как механизм преуспевания в процессе естественного отбора, и это не на уровне разума, а на уровне инстинктов. то есть разум - это инструмент, чтобы добиться власти, признания, уважения и т.п. - но почему этого надо добиваться - тут уж никакой разум не скажет его владельцу. а просто во владельце зашита программа: надо быть необычным, надо быть ярким, надо быть креативным, много смеяться, не терпеть врагов и быть снисходительным к подчинённым. а почему - разум не говорит. а потому что стадное животное. вот и всё.

так вот, возвращаясь к компьютерам и роботам. компьютеры и роботы не живут одной стаей, не делаются эволюцией, не живут одной стаей или одним племенем, где пытаются распространить своё семя. компьютеры таковы, какими их сделаем мы, люди. разум - это всего лишь несколько миллиметров неокортекса надо всем мозгом. и мы сможем построить эти блоки без их привязки к древним инстинктам выживания.

Оставить комментарий

Популярные посты:

• Архив