поставил собственный ИИ

a_n_d_r_u_s_h_a — 26.01.2024

скачал с huggingface несколько моделей и запустил под виндой и без видеокарты через программу koboldcpp.exe.

В открытом доступе в основном GPT3.5. Взял модель WizardLM-30B-Uncensored.ggmlv3.q4_1.bin, почти самую крутую (20 Гб). Без цензуры которая.

Реагирует медленнее, чем интернет-модель, но комп можно вдвое ускорить, видеокарту прикупить - будет нормально.
Ну щас, думаю, сделаю из ИИ консультанта по ассортименту продукции. Загнал в него цены и описание продукции, написал - ты консультант и отвечаешь только на том языке, на котором задавался вопрос.

Минут двадцать ИИ пережевывал справочник, задал штук 10 уточняющих вопросов - ну, думаю, отлично!

Спрашиваю - Из чего состоит "продукт 1" и сколько стоит?

Этот идиот отвечает близко к тексту и ... допридумывает несуществующие ингредиенты (название - вообще неологизм) и свойства.... Да еще и цену перепутал!

Искал, как правильно обучать - не сильно нашел.

В-общем пока проще бота-консультанта написать руками похоже...

Оставить комментарий

Популярные посты:

thurinus

Сколько зарабатывает курьер на авто в Москве и других реагионах — честная статистика заработков

taxfree

Как хитрован нашел дома клад с золотыми монетами и сдал его полиции

home_and_garden

Цветет кассия - солнечный Золотой дождь!

aniskin1968

Лукашину призналась Надя_Я тоже Жень как накачу_То к холостым парням в

thor_2006

Иван versus Степан – 18

pantv

Оранжевое небо с кровавым закатом...

koparev

Как звали Робинзона Крузо?

georgith55

река в тумане

a_nalgin

О долгожданном от Путина Всеобщая мобилизация начинается?

• Ранее
• Архив