А что с базой делать дальше? (GPT o3)

топ 100 блогов iosfixed06.05.2025

// Я подумал, что отчасти и освещу технику выжимания информации из GPT. C GPT-4o бесполезно, она весьма глупая. А вот o3 в нашем деле полезен.

А прикрепляем как файл и пишем

> Выдели из events.csv события, которые относятся к категориям 1. Пожары, катастрофы, стихийные бедствия. 2. Войны, вооруженные конфликты, 3. Национально-освободительная борьба 4. Эпидемии. 0. Ни одно из вышеперечисленных.
>Так же для каждого типа события подбери машстаб - от 1 лёгкий, до 5 экстремальный.

Начинает писать код для тупого поиска по ключевым словам, без всякого интеллекта. Останавливаю.

> Эу. Сделай классификацию при помощи себя. Ты вполне можешь проглотить этот текст в несколько приёмов. Событие -> класс (0-4), масштаб (None, 1-5)
> Спасибо, конечно. Но ты маешься дурью. Сними с них эмбеддинги, посмотри как они откликаются на запрашиваемые категории. Будет быстрее и лучше в тысячу раз.

Как я его не уговаривал, он всё-равно скатывался к поиску по ключевым словам.

А что с базой делать дальше? (GPT o3)

> Тогда хотя бы лемматизируй текст сперва. Ищи по токенам а не по тупому поиску по словам.

Лемматизировать — это значит разбить текст на частички (слова, знаки препинания, части сложных слов) и привести их к нормальной форме — к первому лицу в единственном числе. Лёгкие библиотеки типа nastasha работает даже на русском; А nltk — на английском так вообще песня.

С третьей попытки запускает nltk и делает анализ текста. Раньше приходилось править эти ошибки самостоятельно, на что могло уходить несколько вечеров.

Код, который он сгенерировал и который у него запустился.
Результат: events_classified_tokens.csv

Теперь у нас есть база событий, где можно фильтровать событие по дате и по типу.

Оставить комментарий

Архив записей в блогах:
Мне plennizasvobodi сделала предложение. Не знаю как быть. Что делать. Бросить всё и ...
В почтовых ящиках литовского Вильнюса местные жители обнаружили брошюры, которые призывают переезжать в Калининградскую область. Аналогичные брошюры (правда, впечатляют?!) распространяются и в других прибалтийских государствах. Листовки с флагом России, изданные российским ...
МОСКВА, 9 янв — РИА Новости. Комиссар Совета Европы по правам человека Нильс Муйжниекс назвал незаконными новые российские правила, согласно которым людям с расстройством сексуального предпочтения и половой идентификации противопоказано управлять транспортом. Правительство России ранее утв ...
Посмотрел пост "Мисс Интерент ДВ" . Женя, как всегда, едко весел и ядовит. Но дело не в этом. Я, например, лично ни одной участницы этого конкурса не знаю. Ну как-то так сложилось. Но никогда, ТАК, не позволил бы себе, обливать нечистотами участниц. ...
Понятно, что человек в течение жизни меняется. Портрет мальчика, юноши или мужчины - это "три большие разницы". Хотя есть и исключения. Мне, к примеру, время от времени кидаются на шею разные личности с воплями "Катя!". Ужас в том, что я этих людей ...