Конец света вручную: старт дает Москва!

https://forum-msk.ru/material/news/19168879.html

В особой экономической зоне (ОЭЗ) «Технополис Москва» будет создано крупносерийное производство российских образовательных дронов с искусственным интеллектом (ИИ). Инновационный летательный аппарат разработал производитель беспилотных авиационных систем (БАС) «Геоскан». Об этом сообщил Министр Правительства Москвы, руководитель Департамента инвестиционной и промышленной политики Анатолий Гарбузов.

Новая разработка — это компактный обучающий квадрокоптер, оснащенный процессором с нейроускорителем и камерой с высоким разрешением. Благодаря бортовому искусственному интеллекту и машинному зрению он может распознавать объекты, следовать по заданному маршруту и работать в составе роя дронов без подключения к серверу.

От редакции: Наверно нетрудно догадаться, что "образовательный" дрон может выполнять и военные задачи. Как, к примеру, дрон "Баба Яга", создававшийся для нужд сельского хозяйства, превратился в один из самых массовых боевых БПЛА.

Видимо, переход БПЛА от управления оператором к ИИ - неизбежный и объективный процесс. Который может привести к последствиям, не слишком-то желаемым для тех, кто все это задумал из самых лучших соображений.

Приведу очень простой пример. Допустим, нашему государству для каких-то целей потребуется убить меня при помощи БПЛА. Ну, чтобы никто не догадался. Они вводят мои данные и дрон вылетает на охоту... А что он получит, скажем, из ИИ Яндекса? Вы модете сами проверить - вводите "Анатолий Баранов" и ждете. Вам вываливается довольно много информации, процентов на 70 соответствующей действительности и мое фото... на котором изображен какой-то другой человек. Который существует в реальной жизни. Вот его и убъет дрон с ИИ.

Мне кажется, пример самоочевидный и комментариев не требует.

А теперь представьте, что рои таких дронов будут раскать по городам и весям, уничтожая все, что покажется достойным уничтожения их ИИ.

Я вам больше скажу, обязательно найдется тот, кто будет вносить именно такое, разрушительное задание.

Пока дроны с ИИ не способны сами себя воспроизводиить без участия человека, конец света не наступит. Но рано или поздно, причем скорее рано, чем поздно, с развитием атоматизированных систем управления производством самовоспроизведение БПЛА станет вполне реальным.

И тогда всё. Конец света для отдельно взятого человечества.

И никакого термоядерного апокалипсиса. Как переделанные из сельхозтехники дроны наносят ущерб ядерной сверхдержаве при копеечных затратах, так самовоспроизводящиеся дроны с ИИ в один непрекрасный момент решат, что в истории человечества пока ставить точку. Кстати, умозаключение очень логичное. Почти безупречное.