Группа экспертов призвала приостановить гигантские эксперименты с ИИ
specnaz777 — 02.04.2023
Генеральный директор Twitter Илон Маск и группа экспертов по искусственному интеллекту (ШИ) и руководителей отрасли призывают к шестимесячной паузе в разработке систем, мощнее недавно запущенного GPT-4 от OpenAI, из-за возможных рисков для общества. Компания OpenAI, поддерживаемая Microsoft, в этом месяце представила четвертое обновление своего сервиса искусственного интеллекта GPT, поразившую пользователей своим широким спектром применений — от привлечения пользователей к разговору, похожему на человеческое, до написания песен и обобщения объемных документов.
В письме, выданном некоммерческой организацией Future of Life Institute, которое подписали более тысячи человек, включая Маска, содержится призыв приостановить разработку передового ИИ, пока не будут разработаны, внедрены и проверены независимыми экспертами общие протоколы безопасности для таких разработок.
“Мощные системы искусственного интеллекта следует разрабатывать только тогда, когда мы будем уверены, что их последствия будут положительными, а риски — управляемыми”, — указывается в письме.
Также в нем описаны потенциальные риски для общества и цивилизации, несущие системы ИИ, конкурирующие с человеком, в виде экономических и политических потрясений, а также содержится призыв к разработчикам сотрудничать с политиками в вопросах управления и регуляторных органов.
Письмо опубликовано после того, как к группе обеспокоенных развитием искусственного интеллекта присоединился Европол, который предупредил о возможности злоупотребления злоумышленниками системами на вроде ChatGPT — их можно использовать для фишинга, дезинформации и совершения киберпреступлений.
Маск, чья компания Tesla довольно давно использует элементы искусственного интеллекта в своих системах автопилота, открыто и неоднократно выражал обеспокоенность опасностью АИ-систем.
Сбой в работе искусственного интеллекта ChatGPT позволил некоторым пользователям видеть отрывки разговоров других пользователей.
Pause Giant AI Experiments: An Open Letter
Маск, Возняк та Харарі просять припинити дослідження та навчання штучного інтелекту: він несе надто велику загрозу
Можно ли доверять искусственному интеллекту?
Недавний опрос Pew показал, что 82% американцев относятся к использованию искусственного интеллекта (ИИ) скорее настороженно, чем с радостью. Такие настроения неудивительны – поп-культура изобилует историями об агрессивном или опасном ИИ. Фильмы от "2001: Космическая одиссея" до "Терминатора" предупреждают о последствиях излишнего доверия к ИИ.
Военные самолеты будут летать без GPS и пилотов
ИИ-система компании Shield AI умеет управлять не только роем дронов, но и несколькими самолетами одновременно. Компания Boeing объявила о сотрудничестве с американским стартапом в области обороны Shield AI для интеграции автономных возможностей и искусственного интеллекта (ИИ) в существующие и будущие оборонные платформы, пишет Defense Post. Меморандум о партнерстве был подписан во время Симпозиума по воздушной обороне Ассоциации ВВС США.
Искусстенный Интеллект на службе в армии и на флоте
:quality(70)/cloudfront-us-east-1.images.arcpublishing.com/archetype/IM3EAQPTONFF7PBHKJUV4VYFPA.jpg "Группа экспертов призвала приостановить гигантские эксперименты с ИИ")
В условиях цифровых войн это стало настоящей необходимостью для всех родов войск, в том числе и для подлодок, считают в ВМС США. В данный момент ВМС США ведет консультации по поводу интеграции в командный состав подводных лодок военного флота США экспертов, которые будут отвечать за различные информационные угрозы, кибератаки, и заниматься настройкой ИИ в случае, если нейросети будут использоваться в боевых системах подводных кораблей.
Оставить комментарий
Популярные посты:
Открываем интернет-магазин: как организовать доставку товаров 
День в истории. Луначарский 
Хотели как лучше... - 6 
Война на Украине (02.12.24): Обзор ситуации на фронте... 
Авиапром России. Разработка российских беспилотных дирижаблей ведётся в Москве 
В 215 году до РХ в разгар Пунической войны в Риме был принят Закон Оппия (lex 
Немцы - сентиментальный народ, тяжело расстающийся с традициями 
Пермь. Сибирская улица и Компрос 
День в истории. «Безобразное отношение к богатым» Предыдущие записи блогера :
Архив записей в блогах:
В ночь с 9 на 10 марта в моей квартире загорелась электропроводка и начался пожар. ...
День выгуливания настроения Автор рисунка: Ефремова Елена (Zzorik) Вы когда-нибудь выгуливали свое настроение? Навряд ли. Думаю, что скорее, вы пытались, и вполне вероятно, даже успешно, его нагулять. А вы попробуйте его выгулять! ...
Когда читал данное интервью, возникло ощущение, что это интервью не донбасского экс-олигарха Сергея Таруты, а политического эмигранта Андрея Ваджры. Оно вдруг, сука, прозрело и начало говорить публично о том, что 25 лет бывшую УССР методично уничтожали. Типа он не при делах и тихо в это ...
Интересная фотография, если разобрать. Например, чашки. На вид - как у всех у нас дома есть. Бутылка какая-то. У детей. Надеюсь, что там у них молоко было. ...
Имеется у меня подруга.Не то, чтоб очень близкая, но вполне.Так вот, она абсолютный идеал.Блондинка.Не просто, а супер.Вся из себя ухоженная.И всегда при прическе-макияже и на каблуках.И даже ресницы у неё нарощенные и держатся.Представляете , ...
