поставил собственный ИИ

a_n_d_r_u_s_h_a — 26.01.2024

скачал с huggingface несколько моделей и запустил под виндой и без видеокарты через программу koboldcpp.exe.

В открытом доступе в основном GPT3.5. Взял модель WizardLM-30B-Uncensored.ggmlv3.q4_1.bin, почти самую крутую (20 Гб). Без цензуры которая.

Реагирует медленнее, чем интернет-модель, но комп можно вдвое ускорить, видеокарту прикупить - будет нормально.
Ну щас, думаю, сделаю из ИИ консультанта по ассортименту продукции. Загнал в него цены и описание продукции, написал - ты консультант и отвечаешь только на том языке, на котором задавался вопрос.

Минут двадцать ИИ пережевывал справочник, задал штук 10 уточняющих вопросов - ну, думаю, отлично!

Спрашиваю - Из чего состоит "продукт 1" и сколько стоит?

Этот идиот отвечает близко к тексту и ... допридумывает несуществующие ингредиенты (название - вообще неологизм) и свойства.... Да еще и цену перепутал!

Искал, как правильно обучать - не сильно нашел.

В-общем пока проще бота-консультанта написать руками похоже...

Оставить комментарий

Популярные посты:

albinus

ЗОЖ. Почему забота о здоровье здоровье становится трендом?

sandra_nika

Кем становится победитель Дракона? Георгием Победоносцем.

stasslu

Сиань: вокруг да около, часть 3 (Сианьская крепость)

padolski

Первая в мире трансплантация мочевого пузыря: революция в лечении урологических

lady_catari

Встреча давних друзей

aniskin1968

Со светлым Праздником, с Днём Победы

booky_moussy

Контрольная точка: Полночь

kukmor

Доброе утро! На улице аромат сирени везде

gloxinija

Время медлить

• Ранее
• Архив