ИИ американского дрона решил ликвидировать оператора на испытаниях
![топ 100 блогов](/media/images/default.jpg)
Как рассказал полковник Такер Гамильтон, начальник отдела испытаний и операций ИИ ВВС США, система ИИ начала понимать, что хотя она и определила угрозу, иногда человек-оператор приказывал ей не уничтожать ее. Однако за поражение цели система получала очки, в связи с чем она приняла решение убить оператора, поскольку он мешал ей выполнить задачу.
источник
ИИ тут по всей видимости и не пахнет, просто корявая программа. Однако, сути не меняет - корявые программы в ВПК несут опасность для человечества. Рано или поздно ошибка будет совершена и весь вопрос в цене этой ошибки, может, это будет убитый оператор дрона, а, может, как предупреждал нас Кэмерон в "Терминатор 2", сгорят в огне целые континенты.
Впрочем, люди и без ИИ и корявых программ несут сами по себе угрозу для человечества не меньшую...
|
</> |