LM Studio и Command R+

kvisaz — 12.04.2024 Запустил Command R+ в оболочке LM Studio. Выводы пока не делаю, кроме

- LM Studio терпимо работает
- Command R+ работает очень медленно на моей машине
- Command R+ знает кто такой Остап Бендер, но делает ошибки в мелочах (цитаты, отчество)

LM Studio - программа для запуска текстовых нейронок. Меня очень долго отпугивало от нее отсутствие какой-либо документации. Их сайт - https://lmstudio.ai/ - абсолютный голый и непонятный, даже скриншотов нет, только малопонятная гифка. Люди делают в принципе хороший продукт, но с такими софт-скиллами им реально нужна колоссальная удача.

(плюс) LM Studio запускается очень быстро,
(нейтрально) скорость работы нейронок у меня примерно такая же.

Минус LM Studio - она начинает обильно заливать файлы в скрытое место. Ну как скрытое, это директория пользователя на Windows. Другое дело, что она об этом не говорит и не предлагает другое место - кроме места хранения нейронок, которое оно дает все же выбрать. Это плохо, потому что диск C не резиновый, особенно с нейронками. Он у меня уже забит.

Плюс LM Studio из-за которого я собственно и скачал - поддержка Command R+, которой в Ooobabooga пока нет (точнее есть но предлагаю вручную обновить один пакет). Но видимо, когда появится, я LM Studio снесу.

Собственно, именно по этой причине я и говорю - у людей делающих LM Studio золотые руки, но деревянный язык. В наш век это может фатальностью. Не стесняйтесь писать больше о своих продуктах.

Если не можете писать - сделайте скриншоты, закиньте в GPT4, пусть она опишет. Свой код туда закиньте или хотя бы описание тасок - и она сделает статьи.

Блин, я понимаю, золотым рукам и мозгам невмоготу что-то говорить на магловском языке, но мы блин живем в эпоху домашних эльфов, которые могут взять эту работу на себя и писать тонны статей просто на основании программного кода.

Оставить комментарий

Популярные посты:

• Ранее
• Архив