Wizard LM 2

топ 100 блогов kvisaz17.04.2024 Из смешного - Microsoft выпустило семейство новых опенсорсных нейронок Wizard LM 2 для запуска где угодно, а затем в этот же день снесло, потому что "забыли проверить на токсичность".

Ну, младшая модель (7b) в искусстве гладко писать на русском мало чем отличается от других 7b-нейронок, перечисленных в личном топе у меня, а старшие все равно не запустились.


Из очевидного - 24гигабайта видеопамяти это мало, а 7b модели нейронки, которые в них влазят, тоже вряд ли когда-нибудь будут нормально интеллектуальными.

Возможно, процессоры Mac и Intel будут решать это за счет оперативной памяти, но там все равно нужны те же цифры, да еще на операционку и другие задачи.

13b нейронки встречаются крайне редко. Хорошие требования для 70b - 100 гигабайт памяти. Для гибридов из 8 и более нейронок (MoE - Mixture of Experts, коллектив экспертов) - нужно намного больше 100 гигабайт памяти.

Значит, предполагается, что в будущем у всех будет 100 гигабайт памяти, для начала, как минимальные требования. Насколько это реально, учитывая нынешние темпы прогресса в электронике и ценах?

Скорее всего, ближайшие пять лет будут доминирование онлайн-нейронок, а микронейронки в лучших случаях будут узко заточенными, как автозаполнение строки в редакторах кода от IntelliJ - это не шутка, они уже выпустили новые версии с автокомплитом на локальной нейронке. Но только одной строки!

Оставить комментарий

Архив записей в блогах:
А вот она, зима такая . Минус 3-4. Падает снежок. И на улицах лежит хорошо. Безветрие. Дышится легко и свободно. Иду и слушаю, как хрустит под ногами. Нигде вроде бы не скользко. Или это у меня ботинки такие. И не шагать там, где машины раскатали. Пейзажи зимне-нежные, чуть хрустальные. ...
Опознается на фото с трудом ...
Московская соборная мечеть — главная джума-мечеть Москвы, одна из крупнейших и высочайших мечетей в России и наиболее вместительная в Европе. Первое здание мечети построено в 1904 году, в 2011 году оно было снесено для строительства нового, открытие которого состоялось 23 сентября ...
Стоявшее несколько недель, в Европейской части нашего континента, зловоние, наконец-то начало проходить. Это истошно портили воздух страны лимитрофы: Латвия и Эстония. В связи с этим ранее уже сообщалось , как они разобиделись на Киев, который разместил «балтийских тигров» в особом ...
Этот рецепт не нуждается в комментариях. Шедеврально все - от теста на майонезе до соломки. http://forum.say7.info/topic44387.html Ну и комментарии, со слюноистеканием и мимишками, доставляют отдельно. ...