О GPT

топ 100 блогов tvrjert06.02.2023

Тут пошла новая волна оптимизма о нейросетях в стиле.

Они смогут проанализировать, использовать и выдать по запросу любую информацию в интернете

Вот не нужно думать, что от этого наступит рай.

Грубо говоря, этой штуке при обучении скармливают буквально весь интернет — именно по этому она его "знает" Но ничего не мешает перед скармливанием отфильтровать информацию в нужном ключе. Проблема только в том, чтобы сделать нужные фильтры на основе тех же нейросетей, т.к руками это нереально.

В результате на выходе она всегда будет выдавать "правильную" информацию, а неправильную люди искать разучатся. Далее, т.к. дообучают ее по контенту генерируемому людьми — а люди его производить будут под воздействием таких сеток. Мы получим новую степень контроля за мыслепреступлениями. Да еще, если просто прикинуть эволюционную динамику. Тупо, в системе люди - сети будут циркулировать идеи, которые будут отфильтровываются в цикле дообучения нейросетей, и не сертифицированные идеи просто не смогут получить распространение. Далее понятно, о развитии такого общества речи идти не может — а значит конец понятен - развал и коллапс через некоторое время.

Еще раз, в любой системе важны не технологии, а тот кто их контролирует — если мы имеем монополию, то это всегда кончается одним плачевным результатом. И никакая технология, при сохранении такой структуры не может ситуацию улучшить.

Точно также, с программированием и всем остальным — новое это генерировать не может только переваривать то, что произвели друге. Если других в результате из системы убрать, то система неизбежно будет деградировать а потом сколлапсирует.

И то что GPT успешно сдает экзамен на МВА, означает, что для этого мозги не нужны, а нужно следовать установленным шаблонам. И ситуация с шаблонным мышлением и проблемой генерации нового при массовом распространении нейросетей будет только усиливаться. И социум даже не сможет поддерживать свое состояние, если в нем не происходит генерация нового, т. к. отменить в нем энтропийные процессы невозможно, а их компенсирует только этот процесс, делающий общество живым, со всеми возможностями и недостатками живого — в частности и естественным свойством исправления повреждений.

Оставить комментарий

Архив записей в блогах:
Первая пограничная охрана РСФСР была учреждена Декретом Совнаркома 28 мая 1918 года. Тогда же было создано Главное управление погранохраны, в которое в полном составе перешли офицеры бывшего Управления отдельного корпуса погранстражи России. ...
Игроки Эссе в стиле "Игроки" - почти Гоголь, хотя и отдает достоевщиной. Длинный пост в четырех частях о том, как стороны переговоров раскладывают свои карты на столе. Это скорее размышления вслух, для себя и в себе, но, учитывая общественную значимость темы, готов поделиться и с ...
Владимир Радченко, первый заместитель председателя Верховного суда в отставке, руководитель центра Института законодательства и сравнительного правоведения при правительстве РФ рассказал в "Российской газете", что "Наше "тюремное ...
В 1985 году в Ленинграде все было так же, как и в 1984. Летнее воскресное утро, плюс один, редкие ленивые пешеходы, не спешащие ни на работу ни за свежей газетой, а только исключительно по своим делам. Редкий дождик, который так хорош для начинающих фотографов. И наш 31 трамвай, и 37 ...
Эта история случилась в самом конце 1960-х годов. Правда, дело было летом. Но напомнили мне о ней две смешные зимние фотографии Мити Хмельницкого. Представьте себе жаркий августовский день. На веранде дачи литературного критика И.Л.Гринберга – ...