Зачем вам нужен ИИ...

bigdrum — 17.11.2025 Тут вот такое пролетело:



Я очень рад подобному заключению видного сетевого эксперта в области ИИ. Сразу видно, что человек переживает, участвует и может быть даже кофе разносит тем, кто работает над ИИ.

Да, это был сраказм.

Поговорим всерьез.

Прежде всего, мы должны понять, что такое НАУКА. Наука - это область ЧЕЛОВЕЧЕСКОЙ деятельности. А человек такая скотина, что не может без косяков и прочих приколов. Приведу пример. Сегодня на Западе считается, что тот ученый более ученый, который написал больше научных работ, и больше цитируется. Знаете, в игре в танчики тоже есть ЛБЗ, но вот беда - постоянно банят за фальсификации. Потому что игроки договариваются, кооперируются и сообща делают ЛБЗ, нарушая тем самым правила честных боев.

В науке сейчас, если приглядеться, практически нет научных работ, подписанных двумя-тремя учеными. Основная масса содержит порядка десяти (плюс-минус) авторов. Почему? Потому что если вы договорились с коллегами, и взаимно включили друг друга в публикации, то тогда для КАЖДОГО из вас количество работ увеличилось, и количество цитирований увеличилось. Так рождаются великие ученые. Совсем как в игнрушке при выполнении ЛБЗ...

Далее. Есть темы востребованные, финансируемые. Например, сейчас это работы по ИИ. Еще недавно это были работы по нанотрубкам и графену тире карбону. А на наших глазах был офигительный всплеск по коронавирусу. Соотвественно, и количество публикаций, и количество цитирований - ну, вы поняли. Условно говоря, если взять отрасли научного знания, и в них выделить подотрасли - микронаучные направления, то для специалиста-физика, например, возможно участие сразу в нескольких проектах, которые приблизительно соответствуют его профилю, но при этом непосредственно не являются его научной темой. Очень часто встречаются ситуации, когда научный вклад какого-нибудь участника сводится к проведению расчетов на компьютере. Не к математическому моделированию, то есть построению математической модели, а просто к расчетам. Это не повод всех "теоретиков" косить одной косой под ноль. На самом деле разобраться, что именно сделал тот или иной человек в проекте достаточно сложно, и чем ближе это к науке, тем сложнее. Однако факт остается фактом - очень многие люди, занимающиеся "наукой", на самом деле выполняют иногда (но не всегда) сложные, но на самом деле в лучшем случае инженерные задачи...

Несколько лет назад я смотерл интервью с руководителем института экспериментальной физики (РФЯЦ). И там зашла речь о молодых ученых, и выяснилось интересное. Оказывается, сногие соискатели хотят заниматься построением теоретических моделей, и очень мало кто хочет "ковыряться в железе". Казалось бы - отлично. Но на самом деле совсем нет. Потому что если говорить об экспериментальной физике, о постановке экспериментального исследования, то здесь КАЖДАЯ техническая деталь имеет значение.

Курчатов сам собирал реактор и позднее сам разбирал аварийный реактор не потому, что хотел увеличить индекс цитирования (тогда такого не было), а потому, что кроме него было, условно говоря, некому. И у нас нет никаких претензий к Курчатову, мы все понимаем, что Кучатов - это наука. Просто в области экспериментальной физики сейчас настолько имеет значение каждая деталь, что без труда инженерного, и даже рабочего, ученому в этой области делать НЕЧЕГО.

Физики-экспериментаторы не потому САМИ изготавливают свои установки, что им хочется, или что они не умеют ничего больше - а потому, что никто другой не сможет их изготовить.

Прекрасный пример физика-экспериментатора - Роберт Вуд. Прочитайте книгу Сибрука об этом человеке. Очень легкое, познавательное и интересное чтение. Так вот - Роберт Вуд собрал свой знаменитый мегаспектроскоп из канализационных труб мало того что сам (ну, с помощью сантехника, если быть точным), так еще и на свои деньги. И чистил его с помощью кота. Своего собственного...



Роберт Вуд создал спектроскопию, его работы были использованы при создании квантовой теории, сейчас они используются в очень многих областях. И все это было сделано РУЧКАМИ. И это был РЕВОЛЮЦИОННЫЙ НАУЧНЫЙ труд.

С другой стороны, сегодня есть специальные компании, которые занимаются научным инжинирингом. Казалось бы, ученые могут сосредоточиться на науке, верно? Однако и это НЕ ТАК. К примеру, изготовить магнитопровод джля ИТЭР смогли только в Росатоме. Хотя для Росатома это не профильная деятельность. Изготовлен он был в рамках НАУЧНОЙ работы. Пришлось провести определенный спектр исследовательских работ, чтобы обосновать возможность такого инженерного решения, а затем - это самое инженерное решение воплотить так, чтобы оно соответствовало своему научному предназначению.

Иными словами, в экспериментальной физике граница между наукой и инженерией очень призрачна.

С другой стороны, сейчас ИИ активно применяется в науке. Например, возьмем Большой Адронный коллайдер. Это наука? Да, это наука. На коллайдере ставят эксперименты, он накапливает данные, эти данные размещаются в базе данных, а затем происходит вот что... Ученые, сидя за компьютером, натравливают на эту базу данных ИИ, который ее анализирует в соответствии с их запросами. Это наука? Или это не наука?

Формально эти ученые - это физики-теоретики, но опять же формально занимаются они инженерной деятельностью по составлению запросов.

И при всем при этом у нас есть энное количество спам-ученых, которые кооперируются просто для того, чтобы повысить свой индекс цитирования и число своих публикаций.

Почему мы об этом говорим в контексте исходного вопроса? Потому, что мы должны понимать, что даже в вопросе "чистой" науки она нихрена ни разу не чистая. Всегда есть непонимание, где собственно процесс генерации нового научного знания, а где просто щелкание по кнопкам.

Автор предлагает обучать ИИ на материале книг и экспертных баз данных. Отлично. Проще всего с книгами. Приготовьтесь, я сейчас напишу это завывающим голосом...

Ничто не мешает сказать тому же ЧатЖПТ перечитать всего Маркса и давать ответы именно в парадигме Маркса, игнорируя остальные мнения - и он в течении нескольких минут станет заебательским марксистом, базирующимся на материале книг.

Понимаете? Люди просто не умеют готовить, а говорят, что из мяса ничего путного не сделаешь...



И хотя древние люди сообразили, что из мяса можно сделать много чего (слава богу они не читали современных экспертов), все равно цивилизацию породил оседлый образ жизни и сельское хозяйство...

С книгами разобрались. А вот вам по поводу экспертных баз данных...

Кто будет составлять эти экспертные базы данных, на каком материале и по какой технологии?

Ежу понятно, что в конечном счете мы упремся рогом в те же книги, только в абсолютно нечитабельной для человека форме. И точно так же, как с книгами, с экспертными базами данных у нас будет одна большая проблема.

И книги, и экспертные базы данных - они О ПРОШЛОМ. Считается, что такие базы не должны содержать ошибок и должны аккумулировать всю мудрость человечества, взятую из книг (а откуда еще черпают свои познания "эксперты"?). Однако книги пишутся ДОЛГО, и к тому же о том, что УЖЕ ПРОИЗОШЛО. Если вы встречаете новую ситуацию, новые данные - книги могут сказать только, да и то не сколько сказать, сколько подсказать, соответствует ли это старой информации, может ли оно быть однозначным образом интерпретироваться в ней, или нет. Но как только мы сталкиваемся с новым явлением, так сразу оказывается, что и книги, и экспертные базы данных абсолютно бесполезны.

К слову сказать, именно "эксперты" своего времени преследовали Галилея, Коперника, смеялись над Эйнштейном, Пастером, и так далее... Лысенко между прочим был выдающимся экспертом своего времени и своего окружения. И кстати, очень бойко цитировал Маркса.

В отличие от книг и экспертных баз, ЧатЖПТ имеет перед собой большое количество информации, которая не является 100% дростоверной. Однако у этой информации есть некоторые положительные черты. Она как минимум АКТУАЛЬНА. Она не в позапрошлом веке написана, она написана сегодня. Кроме того, она посвящена вопросам, которые в данный момент актуализированы, то есть - развиваются. И соответственно, на эту информацию нет книг либо они не исчерпывающи, и тем более нет экспертных баз данных. И не может быть. И наконец - ЧатЖПТ имеет дело с живым человеческим общением, с живым языком. Который далек от академического стиля, безупречной логики и всяких прочих высокоинтеллектуальных вещей.

Если бы "эксперт", мнение которого мы оспариваем, умел пользоваться теми информационными ресурсами, которые он упоминает, думаю, все было бы совершенно иначе. Однако он не умеет этого делать. А вместе с тем это весьма интересный момент.

В Википедии есть коллектив читателей (пользователей). Есть коллектив писателей - по каждой теме свои писатели. И есть коллектив модераторов, которые коммитят правки. Так вот. Если вы напишете в Википедию статью с заведомой галиматьей, то увидите, что эта статья быстро исчезнет. Если вы напишете статью, которая не совсем галиматья - очень скоро к ней появится правки, причем качеством повыше вашего. Если статья будет интересна и будет посещаема, очень быстро правки придадут ей совершенно иной характер - она будет опираться на максимально компетентное мнение.

Она не будет учебником, она не будет справичником - это не формат Википедии - но она будет отражать наиболее авторитетное в настоящий момент времени мнение ЛЮДЕЙ.

Понятно, что в наше время, когда гуманитарные понятия испытывают мощное идеологическое воздействие, гуманитарные материалы в Википедии следует воспринримать с осторожностью. Некоторые материалы вообще воспринимать не следует. Однако на естественнонаучные темы, в общем - в Википедии есть очень неплохие материалы. Вот возьмем статью об 3I/ATLAS. Тема медийная, и статья на удивление хорошая и взвешенная...

Да, Маркс не упомянут, какая жалость...

Однако самое интересное в Википедии даже не то, что статьи получаются хорошие, а то, что в статьях приводится СПИСОК ИСТОЧНИКОВ. В качестве каковых фигурируют различные публикации, в частности - прошедшие рецензирование НАУЧНЫЕ работы. А в этих работах есть своя библиография.

Так что как раз книги в Википедии есть.

В общем и целом, тот же ИИ вполне может пользоваться всем этим богатством, и никто ему не мешает.

В чем реальная проблема ИИ? Реальная проблема ИИ в том, что это не существо и даже не сущность. Это сумма алгоритмов, которая в соответствии с определенными настройками и требованиями обрабатывает определенный массив информации. Причем если человек, в силу своей природы, как источник информации, доступной сейчас человечеству, относится к информации субъективно (например, Эйнштейн говорил, что не верит, что Бог играет в кости), то ИИ относится с равной "объективностью" к любой информации, даже самой дебильной и алогичной. Для ИИ нет разницы между манифестом Унабомбера какого-нибудь и Манифестом Коммунистической партии. Он не человек, чтобы проводить различия, исходя из своего субъективного опыта, которого он лишен в связи с отсутствием собственного субъективного бытия. Он опирается на мнение людей и выражает его, и только.

ИИ - идеальный инструмент для социологических исследований, но к сожалдению, люди очень много сил потратили, чтобы лишить его присущей ему функции объективности, поскольку то, что они видели, им СУБЪЕКТИВНО очень не нравилось.

Отступая от темы. Человечество вообще довольно мерзкая штука, если посмотреть объективно. Это так, для справки.

Сегодня ИИ рассматривается как путь создания некоего суперразума, который станет умнее всех людей и начнет выдавать людям мегамудрость. Но это в корне неправильно. ИИ НИКОГДА не станет умнее всех людей, потому что из-за отсутствия своего собственного субъективного бытия он опирается и суммирует чисто человеческие мнения. Он может быть (иногда) более компетентен в своем суммировании, он может быть (часто) компетентнее конкретного человека, потому что где-то встретил более компетентный источник - но он НИКОГДА не выйдет за пределы человеческого. По крайней мере в той форме, в которой ИИ существует сегодня. Потому что именно такова его парадигма. Нравится вам это или нет.

Огромным преимуществом ИИ перед другими способами алгоритмизации труда является возможность обучать его непосредственно человеком на естественном языке. Теоретически, ИИ можно отправить в школу, чтобы он учился как обычные дети, затем в институт, затем в аспирантуру - и если он выдержит, то он в лучшем случае станет инженером или ученым. На уровне конкретной специальности и конкретного научного направления. Однако в силу отсутствия собственного субъективного бытия он не сможет двинуться дальше. ИИ - это алгоритмидированный кусок человека, как его сейчас понимают люди, и в этом смчсле он имеет естественные пределы.

С другой стороны, ИИ может выступать - и на примере Большого адронного коллайдера мы видели как - ИНСТРУМЕНТОМ в руках человека. И чем компетентней человек, и чем лучше он пользуется этим инструментом - тем значимее результат кооперации интеллекта человека с возможностями машинной обработки. Но это уже не проблема качества ИИ, это проблема квалификации оператора ИИ, с его субъективным опытом, творческими возможностями, то есть - проблема ЧЕЛОВЕКА.

Посади за ИИ идиота - и получишь идиотизм.

Никакие книги и никакие экспертные базы никогда не сделают из ИИ суперинтеллект, пока он не получит собственное субъективное бытие, собственное целеполагание, собственную цель и собственные ресурсы для ее достижения. Но это уже будет АБСОЛЮТНО НЕЧЕЛОВЕЧЕСКАЯ ЦИВИЛИЗАЦИЯ.

И результаты такого ИИ будут также абсолютно нечеловеческими.

А теперь вот такая новость:



Вот это - очень хорошо для ИИ. Знаете почему? Потому что здесь ИИ заменяет человека в той области, которая ограничена, которая хорошо известна, и в которой ИИ, наследуя лучшие человеческие качества в данной предметной области, может благодаря своей неутомимости дать мощный результат.

Просто одни берут на работу неквалифицированных мигрантов, а другие - квалифицированных роботов.

Давеча Витька сказал, что идет в одну компанию, а в лаборатории оставляет работать дубля. Дубль — это очень интересная штука. Как правило, это довольно точная копия своего творца. Не хватает, скажем, человеку рук — он создает себе дубля безмозглого, безответного, только и умеющего, что паять контакты, или таскать тяжести, или писать под диктовку, но зато уж умеющего это делать хорошо. Или нужна человеку модель-антропоид для какого-нибудь эксперимента — он создает себе дубля, безмозглого, безответного, только и умеющего ходить по потолку или принимать телепатемы, но зато уж умеющего хорошо. Или самый простой случай. Собирается, скажем, человек получить зарплату, а времени терять ему не хочется, и он посылает вместо себя своего дубля, только и умеющего что никого без очереди не пропускать, расписываться в ведомости и сосчитать деньги, не отходя от кассы. Конечно, творить дубли умеют не все. Я, например, еще не умел. То, что у меня пока получалось, ничего не умело — даже ходить. И вот стоишь, бывало, в очереди, вроде бы тут и Витька, и Роман, и Володя Почкин, а поговорить не с кем. Стоят как каменные, не мигают, не дышат, с ноги на ногу не переминаются, и сигарету спросить не у кого.

Настоящие мастера могут создавать очень сложных, многопрограммных, самообучающихся дублей. Такого вот супера Роман отправил летом вместо меня на машине. И никто из моих ребят не догадался, что это был не я. Дубль великолепно вел мой "Москвич", ругался, когда его кусали комары, и с удовольствием пел хором. Вернувшись в Ленинград, он развез всех по домам, самостоятельно сдал прокатный автомобиль, расплатился и тут же исчез прямо на глазах ошеломленного директора проката.

Понимаете фишку? ИИ - это дубль.


.

Оставить комментарий

Популярные посты:

• Ранее
• Архив