поставил собственный ИИ

топ 100 блогов a_n_d_r_u_s_h_a26.01.2024

скачал с huggingface несколько моделей и запустил под виндой и без видеокарты через программу koboldcpp.exe.

В открытом доступе в основном GPT3.5. Взял модель WizardLM-30B-Uncensored.ggmlv3.q4_1.bin, почти самую крутую (20 Гб). Без цензуры которая.

Реагирует медленнее, чем интернет-модель, но комп можно вдвое ускорить, видеокарту прикупить - будет нормально.
Ну щас, думаю, сделаю из ИИ консультанта по ассортименту продукции. Загнал в него цены и описание продукции, написал - ты консультант и отвечаешь только на том языке, на котором задавался вопрос.

Минут двадцать ИИ пережевывал справочник, задал штук 10 уточняющих вопросов - ну, думаю, отлично!

Спрашиваю - Из чего состоит "продукт 1" и сколько стоит?

Этот идиот отвечает близко к тексту и ... допридумывает несуществующие ингредиенты (название - вообще неологизм) и свойства.... Да еще и цену перепутал!

Искал, как правильно обучать - не сильно нашел.

В-общем пока проще бота-консультанта написать руками похоже...

Оставить комментарий

Архив записей в блогах:
В продолжение поста Мысль: Для низкоуровневых танков нередки графики, когда "олени могут", а "статисты не могут". Мне кажется это связано с тем, что статисты играли эти танки будучи ещё оленями. Тут нужна совершенно другая выборка, которой у меня нет :( Для затравки - имба. Помните ...
Хотелось бы напомнить нытикам, что нам невероятно повезло жить в самую комфортную, сытую и безопасную эпоху в истории человечества. Может быть когда-нибудь будет и получше, но ДО - точно не было.  1. Изобретены антибиотики и противовирусные препараты. Напомню, что ровно 100 лет ...
Разумеется, ни о какой бесплатной «помощи свободной Украине» и речи не идёт. Киев не только покупает эту технику. Есть ещё одни немаловажный пункт. Обозреватель American Thinker Роджер Смит утверждает, что США экономят на утилизации техники, отправляя списанное вооружение ...
А вот, кстати. Столкнулся тут с ещё одной любопытной штукой. Когда речь заходит про Украину, то понятное дело, завсегда подтягиваются эксперты и критики кровавого режима. Ну, не нашего, а тамошнего, разумеется. И вот эти самые эксперты тамошнего президента гражданина Порошенко завсегда ...
У меня уже месяца полтора, значит, валяется светильник, который я никак не могу привесить к потолку. Обратилась в гугл, там сказали что лучше позвать знакомого мужчину. Я намекнула так знакомому мущине, а он в ответ подробно рассказал мне как вешать люстру и что это два пальца об асфальт. ...