Вербализация

wampus_999 — 17.12.2021 По поводу недавней дискуссии у evgeniirudnyi о способности нейросетевых систем принимать решения и необходимости вербализации знаний попытался вербализировать выразить словами пришедшую на ум идею:

Всякая попытка вербализации интуитивно постигаемых идей – это лишь интерпретация, а не понимание, мнение, а не знание, упрощение (уплощение), а не углубление. И хотя у человека других вариантов обмена информацией нет, у искусственных нейросетей они вполне могут быть, и пренебрегать этим – значить затормозить прогресс в этой области.

Как пример я привожу способности к невербальному обмену информацией у двух полушарий человеческого мозга, представляющих собой сложные модульные нейросети, одно из которых чисто интуитивное, а второе играет роль вербально-логического интерпретатора. Понимание того, как устроена эта связь, позволит резко повысить способности ИНС не только к решению проблем и открытию новых знаний, но и к самой постановке этих проблем.

Продублирую здесь один из моих комментов:

Системы искусственного интеллекта создаются с утилитарной целью, не для их самостоятельного выживания, а для помощи человеку, поэтому у них пока не может быть самостоятельной цели. Они должны хорошо делать то, что плохо удается человеку с его противоречивым эмоциональным разумом. Поэтому навешивание на них чисто человеческих особенностей мышления на данном этапе только ограничит их возможности.

Взять ту же вербализацию – она сильно ограничивает способность интуитивного понимания сложных проблем, сводя всё к схемам и формулам, словесным или символическим. В последнем посте на странном ресурсе kniganews.org автор конкретно касается этой темы, упоминая Майкла Атью и его интереснейшее интервью:

"Сумасшедшая часть математики – это когда в вашей голове появляется идея. Обычно это происходит, когда вы спите, потому что именно тогда у вас меньше всего запретов. Идея приходит бог знает откуда. Она парит в небе; вы смотрите на нее и восхищаетесь ее цветами. Она просто есть. А затем на каком-то этапе, когда вы пытаетесь ее зафиксировать, поместить в прочную рамку или заставить соответствовать реальности, тогда она исчезает, уходит. Она заменяется структурой, ухватывающей определенные ее аспекты, но это лишь неуклюжая интерпретация.

Сны случаются днем, они случаются ночью. Вы можете назвать их видением или интуицией. Но в основе своей это состояние ума — без слов, картинок, формул или утверждений. Все это еще “до”. Это еще до Платона. Это ощущение чего-то очень изначального. И опять же, как только вы пытаетесь ухватить его, оно всегда умирает. Поэтому, когда вы просыпаетесь утром, остается лишь смутный остаток, призрак идеи. Вы пытаетесь вспомнить, что это было, и понимаете правильно только половину, и, возможно, это лучшее, что вы можете сделать."
https://www.quantamagazine.org/michael-atiyahs-mathematical-dreams-20160303

Вот эта глубинная интуитивная часть работы нашего мозга очень похожа на работу ИИ – она обеспечивает моделирование и оценку выигрышных стратегий (как в Го) или понимание скрытых закономерностей в окружающем мире (в науке), а в общем смысле – как и почему всё работает, причем, еще до вербализации. Как говорит Атья: "Я всегда хочу попытаться понять, почему всё работает. Я не заинтересован в получении формулы без понимания, что это значит. Я всегда стараюсь рыться за кулисами, поэтому, если у меня есть формула, я понимаю, почему она там есть. А понимание - это очень трудное понятие".

Сознательная же, вербализующая часть мышления, выполняя задачи анализа, оценки или целеполагания, одновременно ограничивает возможности интуитивного понимания сути явлений, потому что оставляет только схемы, формулы или интерпретации (основная проблема и тупик современной физики).

Оставить комментарий

Популярные посты:

• Ранее
• Архив