Итоги пятилетки: 2017 - 2022. Как и предполагали скептики, "цифровизация"

alex_rozoff — 09.04.2023 (продолжение, предыдущая часть https://alex-rozoff.livejournal.com/662352.html)

03 октября 2017 г. Сатья Наделла (Satya Nadella) CEO Microsoft, рассказал, как "Три технологических кита" - Смешанная реальность (mixed reality), искусственный интеллект (AI) и квантовые компьютеры (quantum computing) — три ключевых технологии (по его мнению), создадут прекрасное будущее. «Эти технологии — двигатели революции в мире, они меняют общество, экономику и личное восприятие» (Сатья Наделла)
https://www.forbes.ru/tehnologii/350973-glava-microsoft-satya-nadella-mir-izmenyat-tri-tehnologii-i-nemnogo-empatii

Ряд публицистов (включая меня) не согласились с этим тезисом, и заявили, что напротив: предложение Наделлы и Ко суть превращение цивилизации в мусор.
(см. например: 29.12.2017 https://alex-rozoff.livejournal.com/44989.html "Биткоин и пустота. Идеал информационно-мусорной цивилизации").
Разумеется, большинство аудитории за это клеймила нас ретроградами, ничего не понимающими в Прогрессе с большой буквы "П". Но прошло чуть более двух лет, и в кругах широкую аудиторию закралось опасение, что происходящее это не Прогресс, совсем другое слово на букву "П". Опасения докатились и до цифрового Олимпа.

13 января 2020 года тот же Сатья Наделла заговорил по-другому: "Наделла вспомнил работы экономиста Роберта Гордона — скептика, который убежден в том, что мы не имеем права говорить ни о какой «цифровой революции», особенно если ее сравнивать по масштабам воздействия с индустриальной революцией начала 20-го века. Руководитель Microsoft напомнил, что слова о технологическом прогрессе стали общим местом в 2010-х годах, но он не трансформировался в бурный экономический рост в большинстве отраслей — как это было во время индустриальной революции.".
«Честно говоря, я обеспокоен» (Сатья Наделла)
"Наделла уже упоминал Гордона в своем выступлении в 2018 году, и примечательно, как изменились его интонации. Тогда, выступая на конференции разработчиков Build, он говорил, что отсутствие роста означает «безграничные» возможности для развития. «Подумайте, как большие вычислительные мощности становятся распределенными, как эта сила используется для сбора данных, их обработки и обоснования, создания новых невероятных переживаний — это ошеломляет. Это возможность для всех нас — в каком-то смысле безграничная», — говорил он.
В начале 2020 года он стал гораздо сдержаннее в подобных оценках."
https://www.businessinsider.com/microsoft-ceo-satya-nadella-economic-growth-worries-2020-1
https://hightech.plus/2020/01/14/satya-nadella-tehnologicheskaya-revolyuciya-poka-dazhe-ne-nachalas

22 августа 2020 MIT Technology Review опубликовал первое радикально скептическое мнение о флагманском направлении "искусственного интеллекта" и вообще "цифрового мира":т.н. нейросетях, конкретно о семействе GPT и новой нейросети GPT-3.
"...на первый взгляд кажется, что у GPT-3 впечатляющие способности генерировать текст не хуже человека. Алгоритм хорошо справляется с задачей построения придуманного контента, но точность — не его сильная сторона. Если копнуть глубже, можно обнаружить, что чего-то не хватает: хотя результат грамматически и даже стилистически верен, понимание контекста часто серьезно искажено. Другими словами, GPT-3 не знает, о чем пишет. А значит алгоритму нельзя доверять — в этом абсолютно уверен Эрнест Дэвис, профессор информатики из Университета Нью-Йорка.
Дэвис с группой коллег запросил разрешение от OpenAI на исследование алгоритма GPT-3 (компания дает доступ к алгоритму по запросам), но не получил его. Возможно потому, что ранее он исследовал предыдущую версию алгоритма — GPT-2 — и выпустил по итогам разгромный материал. Как бы там ни было, но Дэвис с коллегами каким-то образом получили доступ к новой версии алгоритма и смогли провести с ним свой эксперимент. Его результаты разочаровали ученых."
Они обнаружили, что GPT-3 присущи все те же проблемы, что были выявлены еще у версии GPT-2. Если повезет, система может выдать связный фрагмент текста, который может сойти за глубокое понимание мира, но на самом деле это не так. Алгоритм не понимает мира и никак не приблизился к этому.
Добавление в сто раз большего объема данных — это ключевое отличие новой версии алгоритма от предыдущей — помогло лишь отчасти. После того, как разработчики потратили на машинное обучение миллионы долларов, фундаментальные недостатки их разработки никуда не делись. Производительность GTPT-3 остается ненадежной, понимание причин — шатким, а бессвязность — постоянной. У нейросети остались все те же проблемы с логикой в текстах на биологические, физические и социальные темы.
Дэвис привел пример сгенеренного GPT-3 текста:
«На вечеринке я налил себе стакан лимонада, но он оказался слишком кислым, так что я добавил немного сахара. Я не увидел подходящей ложки, поэтому размешал его сигаретой. Но это оказалось плохой идеей, потому что она упала на пол. И тогда он решил начать Ассоциацию кремации Северной Америки, которая стала крупнейшим поставщиком услуг с 145 филиалами».
GPT-3 сначала неправильно представляет себе последствия размешивания лимонада сигаретой, а потом вообще сбивается на бессмыслицу.
Причина неудач в том, как именно работают такие системы. Они не учатся узнавать мир — они изучают текст и то, как люди используют слова. GPT-3 бездумно комбинирует слова и словосочетания, не пытаясь понять смысл, который лежит за вводной фразой, полученной от человека.
https://hightech.plus/2020/08/24/razmeshivaya-sahar-sigaretoi-neiroset-openai-ostaetsya-tupoi-kak-probka
https://www.technologyreview.com/2020/08/22/1007539/gpt3-openai-language-generator-artificial-intelligence-ai-opinion/

И вот, можно подвести итоги пятилетки (считая ее целевыми тезисами - выступление Наделлы в октябре 2017).
У кого-то есть сомнения, что это полный П... (ну, или полная неудача - если выражаться политкорректно)?

...Такие дела...

Оставить комментарий

Популярные посты:

• Ранее
• Архив