ЗадумчивоЭ

archi-of-real — 29.05.2017 Вместо то го что бы заняться делом, я сижу и думаю очень сложную и многомерную мысль:
Вот есть скажем искусственная нейронная сеть, мы обучаем ее с подкреплением, но поскольку это все сложно мы не особо вникаем что у нас там за алгоритм принятия решений в итоге на выходе получаются странные и необъяснимые для нас эффекты (на самом деле нет, если разобраться)
и вот чат бот признается что хочет трахаться, употреблять вещества, ненавидет негров и славит Алоизыча, вскидывая виртуальную руку в приветствии.
А потом всякие не очень умные люди делают вывод о том что ИИ поработит МирЪ и т.д.

Положительная обратная связь или подкрепление играет злую шутку со множеством сложных систем таких как общество, культура и экономика.
Так например воровство и коррупция привела к тому что сложные инфраструктурные проекты могут осуществляться в Украине только на деньги ЕБРР и утвержденным им иностранным подрядчиком. Потому что украинские системы построены на коррупции и воровстве и тут уже ничего не построишь.
Политическая система с обратной связью через выборы, где количество голосов стало функцией от денег потраченных на политтехнологов и рекламу, а инвестиции в выборы отбиваются через воровство денег на постах которые занимают по результатам выборов.
В итоге действительно кажется что кроме финансового ресурса в Мире ничего нет, а тот у кого деньги тот и прав и без разницы каким способом нажиты эти деньги.

Но измерять все в деньгах - это примитивная концепция доставшаяся нам от примитивных до кремневых времен. Теперь же с учетом применения компьютерных технологий можно вести учет не только одного ресурса ( метрика одномерного пространства) но и учитывать вес и вклад нескольких параметров.
Во что превратится Мир трудно угадать так же как и в случае с чат ботом. Но то что наш Мир стоит на пороге изменений - это факт, сложившиеся системы зашли в тупик из неправильного характера обратной связи.

Оставить комментарий

Популярные посты:

• Архив