Neil Postman's perspective on AI

alexthunder — 17.05.2020 В теме AI (Искусственный Интеллект) неустранимо существует дискурс опасности AI для человечества. Все знакомы с различными литературными и кинематографическими сценариями в которых вышедший из под контроля AI нападает на Человечество. Terminator - самый яркий тому пример с которым знакомы пожалуй все без исключения.

Я же сегодня хочу провести параллель между опасностью AI привычно представляемой нам популярным кинематоргафон и романов Оруэлла 1984, а также альтернативным взглядом на опасности будущего таких авторов как Альдус Хаксли и Нил Постмэн. Суть этой параллели в том что Оруэлл пугал своих читателй воображаемым будущим примерно также как многие популярные писатели сегодня пугают перспективами развития AI. Хаксли и Постмэн также пугали читателей будущим, но причина опасности которую они прогнозировали для Человкека будущего исходила в сущности из противоположности тому о чём предостерегал Оруэлл.

Мне сегодня, также как когда-то Хаксли и Постмэну, кажется что опасность чрезмерного развития AI реальна, но она совсем не та какой её представляют нам последователи Оруэлла. Чтобы быть конкретнее - я не ожидаю нападения на людей Терминарота. Я ожидаю что AI скорее лишит Человека смысла его собственного существования после чего Человек погубит себя сам.

Для того чтобы лучше почувствовать тон моей линии рассуждений советую посмотреть вот этот небольшой документально-репортажный фильм об AI который выигрывает у чемпиона Мира по игре Go.



История этого фильма - это история великой драмы Человека. В этой истории хорошо показано как чемпион Мира Ли Сидол который выигрывал в Го много лет подряд и которому нет равных среди людей в игре Го вдруг чувствует себя бессильным перед безмозглой машиной. Это не просто отчаяние одного человека. Это отчаяние всего Человечества! Если лучший из нас, специализирующийся в одном из интеллектуальных занятий оказывается бессилен перед AI, то чего стоят остальные?

Фильм оставляет Человеку надежду потому что Ли Сидол находит таки способ выигрывать у машины. Он осознаёт то главное чем Машина сильнее Человека - её не интересует Счёт. Машина пытается выиграть хотя бы на 1. Человек же постоянно пытается выиграть "по крупному". Для Человека величина выигрыша представляется индикатором силы его стратегии. Счёт в процессе игры представляется Человеку индикатором вероятности выигрыша. Иными словами Человек путает временный количественный успех в игре с признаком окончательной победы. Ли Сидол осознаёт это и начинает пользоваться этим пониманием как преимуществом - он начинает играть отказываясь от временных побед в процесс игры, прекращает вести Счёт и начинает выстраивать стратегию выигрыша игры хотя-бы на 1 и выигрывает.

Опасность же AI состоит в адаптивности Человеческой Нервной Системы. Чем больше интеллектуальной нагрузки на себя берёт AI тем меньше у наших детей будет развита способность думать и решать интеллектуальные задачи. Более того! AI ставит перед нашими детьми настолько высокий барьер интеллектуального успеха что для большинства попытки развития собственных интеллектуальных навыков будет видится бессмысленной тратой времени и сил. Посудите сами - если у чемпиона Мира по игре в Го есть лишь небольшой шанс выиграть у самой мервой версии AI в игру которой он посвятил всю жизнь - какие шансы на выигрышь лично у Вас? Большинство не станет даже пытаться. Тоже самое касается и всех других областей интеллектуальной деятельности.

AI подкладывает нам здесь целых две "свиньи". Одна - это устранение необходимости думать своей головой из большинства повседневных рутинных задач. Вторая - поднятие планки до недосягаемой большинством людей высоты. Для Человека не остаётся "средней зоны" развития. Ему придётся выбирать между, условно говоря, имбецилом и гением. В случае выбора в пользу первого - Человек становится существом за которое "думает" всегда кто-то другой. Он превращается в умолишённого пациента в сумасшедшем доме управляемом роботами. Ему ничего нельзя самому решать потому что любые его решения лучше сделает за него AI-персонал. Остаётся только хотеть и жаловаться.

Ну а для тех кто решил выбрать для себя путь развития по типу Гения - предстоит невообразимо-трудный путь "наверх" под постоянным давлением крайне-низкой самооцоенки и постоянным риском сорваться в клиническую депрессию. Не думаю что многие будут действительно способны вскарабкаться на эту "гору". А те кому это удастся будут те ещё "очаровашки" в социальном смысле. Иными словами, те кому удастся занять нишу гениев будут размножаться исключительно искусственно. Скорее всего также при помощи AI.

В обоих вариантах судьба Человества выглядит незавидной. Зачем Природе "хомячки" которые только хотят и жалуются? Зачем Природе узко-специализированные гении которые друг с другом не образуют устойчивого Социума? Боюсь что будь выбор за мной - я бы в обоих случаях выбрал третье. А третье - это Человек БЕЗ AI. Тоесть человек отказавшийся создавать себе машину делающую за него его работу. Я понимаю что это путь отказа от Прогресса и конец Модернити, но что уж тут поделаешь - Модерн кажется ведёт нас к деградации как ни крути!

Человеку будущего чтобы выжить придётся полюбить делать всё то чего ему сегодня делать так не хочется!

Оставить комментарий

Популярные посты:

• Архив