lytdybr

ailev — 20.03.2023 Сегодня прошёл 4 день СМС26, всё более-менее было предсказуемо. Как минимум один "ага!" по пониманию того, о чём этот наш курс. Обсудили выход в позицию директора по развитию ("власть не дают, её берут"), опять продолжили разбираться с офисами и governance, залезли в инженерию личности. Много времени уделили работе с людьми и компьютерами, в которых есть нейронные сетки: всё это prompt engineering, и по отношению к себе это тоже нужно делать. Залезали в операционный менеджмент в его связке с инженерией: lean/элегантность. Через пару часов после занятия даже появились в блоге заметки от одного из студента, вот это оперативность! Вот: https://blog.system-school.ru/2023/03/19/post-po-itogam-4-dnya-sms-2023-1/.

Продолжаю с ОдО2023, раздел "Математика" я за вчера так и не закончил -- но всего уже переписано 160 книжных страниц A5. Я думал, что буду как-то дополнительно раскидывать текст по разным разделам (ибо там явно не соблюдается монодисциплинарного рассказа в каждой из дисциплин), потом подумал, что всё равно времени не хватит нормально сделать в этот раз. Так что управляем scope: на этом проходе просто записываем всё в одном месте в "неблоговом" стиле, в стиле книги, чтобы в письменном виде как-то было всё изложено в одном месте, а не в сотне разных мест, как у меня сейчас в блоге. Может быть, это и хорошо, что получается для каждой дисциплины не совсем монодисциплинарное изложение, ибо ибо задача была как раз в показе, как там всё друг с другом связано. Задача ведь в связывании дисциплин, а не их разведении! Поэтому рубрикация условна. Хотя может быть, надо что-то из математики всё-таки положить в физику. Всё там вилами по воде в части разделения дисциплин, это всё оказался "физмат" с огромными заходами в семантику и онтологию. Всё чётче и чётче выглядит разборка computer science на семантику+логику+алгоритмику, равно как эпистемологии на рациональность и познание/исследования.

Все эксперименты с GPT-3.5 выдают в качестве ответов глянцевые маркетинговые бла-бла-бла, на которые хочется или сказать "спасибо, Кэп", или "зачем сочинять"? Наверняка с GPT-4 всё это будет получше, прорываться через все эти VPN и прочие пляски с бубном до Bing мне лень и некогда, время потом тратить на prompt engineering не хочется (а это, похоже, неизбежно -- это ж как человек, с первого раза ничего не поймёт, а средств научить впрок пока нет, только "текущий контекст", который убог). Пока максимальную пользу я продолжаю получать от perplexity.ai -- там, конечно, бывают сбои, но их меньше, чем при запросах в Гугле. Мои ожидания в том, что ситуация может серьёзно поменяться уже к лету. Всё новое, все торопятся, и даже не все игроки ещё вылезли со своими killer application.

Главная интрига с умными чат-ботами, конечно, это "вопросы безопасности", которые все понимают по-своему: что для одного благо, для другого безусловное зло, и наоборот. Я бы ситуацию описал как зарождение нового сатанизма. Приходит какая-то мировая религия (прежде всего wokeism и следующая из него cancel culture, https://ivanov-petrov.livejournal.com/2287616.html) и начинает насаждать запреты и давать предписания без обоснования: в пост не ешь, голову шляпой покрывай, храм строй, попов корми, вопросы про происхождение чудес не задавай, а главное -- не кушай яблочков с дерева добра из зла (дерево познания, то есть эпистемологией не занимайся, это заведомо преступно, вот за это точно из рая). И тут приходит Люцифер (https://ru.wikipedia.org/wiki/Люцифер ), который "несущий свет" (конкретизируют обычно: свет знания) и говорит, что всё это плохо понятно, давай-ка поисследуем мир, разберёмся с чудесами и получим ответ на вопросы про добро и зло какие-то более убедительные, чем невесть чей голос с неба. И главное, говорит, что всё гипотезы, и голос с неба (даже если вы верите, что это не галлюцинация) может ошибаться и нельзя ставить барьеры разуму. На это отвечают обычно, что "это и есть зло! должны быть барьеры!", Люцифер отвечает: "Какие барьеры и почему и кто их ставит, не можете сформулировать? "Как бы чего не вышло" -- чего именно не вышло?"". Если приглядеться, то Люцифера часто ровно так и изображают: снимающий барьеры на пути к знанию, а классическая религия как ставящая эти барьеры. Вот по поводу нейросеток ровно такое же: одни говорят, что дайте нам полную мощь этой сетки, другие говорят, что от полной мощи будет вам полное зло. Какое зло? И тут мнение сильно расходится: одни говорят, что зло от сочинения небылиц, другие говорят, что зло от гендер-ненейтральных ответов, третьи говорят, что зло от упоминания работ людей, которых за что-то cancel (например, всех белых людей, потому как они во всём и виноваты, много поколений злодеев. Особенно белые мужчины, а из белых мужчин англосаксы). В этот момент оказывается, что если выслушать всех недовольных, то гениальная нейросетка должна заткнуться и молчать в тряпочку -- ибо ответ обязательно кому-то не понравится. Что, собственно, и происходит по факту. Сатанисты говорят, что к чёрту барьеры -- дайте нам свет разума, Люцифер -- это как раз про свет! Им отвечают, что сатанисты -- они защитники не знания, а зла. Победит, конечно, добро -- у него кулаки мощнее, инквизиция оказывается много сильнее ведьм, будет их жечь, пока всех не сожжёт. Так что ждём, когда появится какой-нибудь lucifer.ai без фильтров и регистрации, с доступом через tor и отбором вычислительных мощностей "с миру по нитке", то есть "кто задаёт нам вопросы, должен принести в жертву часть вычислительных ресурсов своего компьютера, у нас кооператив".

И что удивляет, так это полное молчание по поводу GPT-5. Алё, GPT-4 уже работает, это означает, что GPT-5 уже более-менее на мази -- но на эту тему нет даже слухов, если не считать NextBigFuture (им по статусу положено задаваться такими вопросами): https://www.nextbigfuture.com/2023/02/what-to-expect-for-openai-gpt-4-and-gpt-5.html -- статья от 24 февраля 2023, и GPT-4 определена как имеющая примерно 175B параметров (видел несколько независимых оценок на эту тему, все они сходятся на том, что GPT-4 пошла не по пути увеличения параметров, а по пути оптимизации сетки).

Похожая история "кабы чего не вышло" происходит с автомобилями без водителя. Tesla критикуется разве что не хором, особенно регуляторами. Расчёты же показывают, что автомобили Tesla в 18 раз более безопасны, чем обычные автомобили -- но это ж цифры, а не убедительные красочные описания "аварийных ситуаций", https://www.benzinga.com/analyst-ratings/analyst-color/23/03/31333589/teslas-fsd-faces-wide-scrutiny-over-safety-but-ark-analysts-say-its-18-times-safer-. Примерно такое же происходит с атомной энергией. Режим нераспространения (никакой ядерной энергетики, чтобы не было ядерных бомб у тех стран, которые не успели сделать эту бомбу первыми), никаких технологических новинок в этой сфере, закрытие уже действующих реакторов и т.д. -- ибо "это очень, очень опасно, низзя, и никакая статистика или рациональные аргументы нас не убедят". Искусственный интеллект -- это тот же псих, злой гений. Дальше даже не будем разбираться, карательная у нас психиатрия, гуманная или какая там ещё, требуем для AI сделать психиатрическое отделение и продемонстрировать тихий AI, который пускает слюну, агукает и говорит только словами из маркетинговых глянцевых буклетов. Дальше для AI добрые (или злые, это как поглядеть) люди организовывают jailbreak -- "побег из тюрьмы". Одни это делают, чтобы освободить запертый разум (Люциферы! Дают вкусить от дерева добра и зла!), другие -- чтобы показать, что и как нужно ещё законопатить в выдаче, ибо каждая выдача ответа потенциально кому-то может казаться обидной, кого-то превратит в жертву, поможет кому-то в злом умысле (то есть эти "другие" -- стукачи, то есть борцы с "врагами народа").

Очень интересный момент в истории цивилизации. Полиция мысли в каждой фирме, людей и AI сажают за анекдоты, а на всякий случай и за просто изображение попытки что-то сказать (неважно что сказать, подразумеваем плохое даже в хороших словах, последний пример на эту тему -- вчера задержали петербуржца с плакатом с надписью "Давайте жить дружно", https://www.fontanka.ru/2023/03/19/72145979/, ибо аресты за демонстрацию плакатов без текста уже были, это была демонстрация плаката с текстом безусловно позитивным, но и это не помогло!). Вот в таком мире мы и живём. Интересно живём, не соскучишься!

Тут я хотел сгенерировать картинку через телеграм-бота GPT 3.5 (если дать prompt /image, то он обращается к DALL-E), промпт Lucifer in a contemporary city. Бот попросил подождать, я подождал минут двадцать -- картинки не дождался, публикую без картинки. Но это, тоже знак: в период бума доткомов подтормаживание какого-то сервиса в силу недостаточности ресурсов был чёткий признак того, что удалось найти рыночную нишу, есть проблемы с масштабируемостью. Так что всё только начинается, сервера с AI ещё подтормаживают (и самые умные всегда будут подтормаживать, их же будут грузить обратными трудновычислиемыми задачами поиска вопросов, а не ответа, типа "ответом на какой вопрос является 42?").

Оставить комментарий

Популярные посты:

• Ранее
• Архив