уменьшение вероятности

kvisaz — 23.04.2023 я поговорил с GPT4, метод уменьшения ерунды в ответах GPT4 в своей концепции - "уменьшение вероятности" - при программировании доступен и известен давно.

Но поскольку GPT4 никому снаружи OpenAI не доступен таким образом, даже в формате API, где можно управлять "температурой" (накалом или градусом фантазии в генерации), суммирование ответов и отбраковка гипотез таким высокоуровневым образом остается единственным вариантом.


==================

- Допустим, я задаю вопрос для LLM десять раз.
Затем я прошу ее же проанализировать эти десять ответов и написать только общие факты, которые упоминаются во всех или в большинстве ответов.
Есть ли аналог такого метода в машинном обучении, как он называется?

GPt4
- Да, такой подход напоминает метод, называемый "подтверждение ответов" (answer confirmation) или "повторное вопросно-ответное обучение" (iterative question-answering). В общем, эта идея заключается в том, чтобы воспользоваться несколькими ответами от модели и объединить их, чтобы получить более достоверный или консистентный ответ. Это может быть сделано, например, путем извлечения общих фактов, упомянутых в большинстве ответов, или агрегирования информации из разных ответов.

Вот пример того, как можно реализовать такой подход в Python: (... код не привожу, так как не проверял...)

Такой подход может помочь улучшить качество ответов, так как модель будет генерировать ответы несколько раз, и вы будете использовать только общую и консистентную информацию из этих ответов. Это может снизить вероятность предоставления некорректной или неточной информации.

==================

pS: ну и собственно, зачем нам писать код на Python, если для такой суммаризации общих фактов можно просто организовать нейронку-редактора. Только для случаев, в которых такая нейронка недоступна.

Оставить комментарий

Популярные посты:

• Ранее
• Архив