ИИ алармизм

lex_kravetski — 02.04.2023 Мне тут уже пересылали открытые письма про «притормозите ИИ» от всевозможных видных деятелей, которые ещё вроде бы вчера двумя руками были за прогресс, науку и свободу. А тут, вроде как, напряглись —это ли не повод и остальным тоже задуматься? Ведь такие умные люди зря паниковать не будут.

Понимаете, в чём дело. Это большая ошибка — думать, будто бы человек, который очень хорош в какой-то области, никогда не делает необоснованных предположений, всегда во всё тщательно разбирается, прежде чем что-то сказать, всегда сохраняет рациональность и так далее.

Многие вещи в мире станут гораздо понятнее, если всегда помнить, что специалист с тридцатилетним стажем всё ещё может ошибиться даже в области своей специализации. Не говоря уже про другие. Снаружи не всегда видно, но абсолютно любой программист пишет программы с ошибками. Всегда. Другое дело, что он знает, как тестировать код и как быстро найти эти ошибки. Однако, несмотря на его знания и тестирование, в том коде, который пошёл в продакшн, ошибки тоже будут встречаться. А некоторые из программистов на полном серьёзе будут верить в какую-то адскую — с точки зрения других специалистов — чушь. В том числе, связанную с компами и софтом.

И ровно так же дело обстоит с кем угодно: учёными, инженерами, композиторами, публицистами и т.п.

Из того, что некто поддерживал предыдущие эн технологий, вовсе не следует, что он гарантированно поддержит эн плюс первую. Всё ещё возможно, что именно на ней у него что-то там в голове перещёлкнет, от чего он начнёт бегать по кругу с криками: «вот с этого места надо срочно отменить науку, отключить свет, одеться в рубища и уйти жить в пещеры!».

Поскольку же всевозможных специалистов в мире сотни миллионов, нет ничего удивительного в том, что у какой-то их части на безусловно очень ярком и значимом моменте таки перещёлкнуло.

То же, что это именно мутные околорелегиозные переживания, а не результат длительного обдумывания и проверки на всякие там когнитивные искажения, эгоизм, элитаризм и т.п., следует даже из самого тона повествования всех этих посланий.

В письме Маска, Возняка и Ко мне отчётливо видится что-то вроде:

Э, э, пацаны. Мы научились фонтанировать своими мыслями в бложики, но нас несколько напрягает, что это разрешено не только нам. Ведь каждый, кто тоже фонтанирует, крадёт у кого-то из своих читателей время и силы, которые они могли бы потратить на чтение лично наших умнейших мыслей. А тут вы вдруг предлагаете ещё и сделать всяких там шестёрок умнее — так нас вообще читать, не исключено, перестанут, вы чо?

Тем более, мы-то пишем про правильное — именно поэтому можем писать об этом декларативно и без аргументов, если захотим. Но кто его знает, что напишут эти новые умники, недавно ещё бывшие убогим быдлом? Вдруг про неправильное с нашей точки зрения, а звучать оно будет более убедительно?! Да и ещё и с аргументами?! Вы об этом подумали?!

С другой стороны, статья Юдковского для меня звучала как-то так:

Математика, физика и научный метод в целом — это самые чудесные изобретения человеческой цивилизации. Равно как и широчайшее распространение знаний о них и умения ими пользоваться. Это очень хорошо — развивать критическое мышление и свободу мысли.

Но ведь нельзя же давать всё это китайцам — никто не знает, что на уме у этих инфернальных тварей. Вдруг завтра они решат уничтожить всё остальное человечество? Они и не на такое способны, да. Надо не просто наложить мораторий на передачу сведений о научном методе и науке китайцам, но вообще построить вокруг них огромную стену, а сверху залить бетоном.

Вы можете спросить, а где тут про ИИ-то? И я отвечу: ИИ в данном случае — это просто случайная деталь. На его месте точно так же могли оказаться китайцы или внезапно поумневшее быдло. Просто про них считается уже неэтичным такое писать, а про ИИ пока ещё норм.

Но логика рассуждений — одна и та же.



doc-файл

Оставить комментарий

Популярные посты:

• Ранее
• Архив