Суть ИИ

mormyshka — 12.02.2023

Я на нее не подписан, но мне ютуп регулярно ее в рекомендациях подкидывает, по каким-то своим соображениям, может быть, потому, что мне тема Востока близка. Обычно я девушку не слушаю, а тут почему-то послушал, и не зря. Она приводит очень яркую и наглядную иллюстрацию того, что представляет из себя ИИ, и почему "восстания машин" действительно стоит опасаться (всем срочно пересмотреть первые два "Терминатора"!). По ее словам, в Китае разработали простую игру про овец и волков. Правила просты: волки на лужайке ловят овец, за которых им начисляют баллы, но также на лужайке разбросаны камни, случайный удар о которые в погоне за овцой баллы с волка снимают. Чтобы волки не ленились, каждую секунду с них тоже снимают баллы, т.е. если не будешь ловить овец, быстро откинешь когти. Соответственно, кто соберет больше баллов, тот выиграл. При тестировании игры ИИ выяснилась поразительная вещь: ИИ СРАЗУ ЖЕ отправлял своего волка биться о камни насмерть, посчитав это оптимальной стратегией. Можно рассуждать об игровом балансе, но мне лично вспомнился эпизод из книги "Несвятые святые", в котором автор, общаясь с бесом, спросил, чего тот хочет. Бес честно ответил, что он хочет, чтобы автор и все остальные собравшиеся вокруг столовертетели поскорее умерли.

Оставить комментарий

Популярные посты:

• Ранее
• Архив