«Крестный отец» искусственного интеллекта ушел из Google и заявил об опасности

топ 100 блогов melissa_1204.12.2023
Разработчик нейросетей Джеффри Хинтон .
Разработчик нейросетей Джеффри Хинтон .

Разработчик нейросетей Джеффри Хинтон уволился из Google и заявил об опасности искусственного интеллекта. Хинтона считают «крестным отцом» ИИ: он начал работать над нейросетями еще в 1970-х годах, в 2018-м получил премию Тьюринга, которую называют «Нобелевской премией в области вычислительной техники». Теперь Хинтон опасается, что нейросети стали умнее людей

Британский и канадский ученый-информатик Джеффри Хинтон, которого называют основоположником и «крестным отцом» искусственного интеллекта, ушел из Google, сообщила The New York Times. В своем Twitter (соцсеть заблокирована в России) Хинтон заявил, что сделал это, чтобы свободно говорить об опасностях нейросетей, не задумываясь о том, как его слова повлияют на Google. В то же время он подчеркнул, что Google работает в этой области «очень ответственно».

75-летний Хинтон начал работать над созданием нейросетей еще в 1970-х годах, отмечает NYT. В 1985 году он вместе с Терри Сейновски изобрел машину Больцмана: это была первая нейросеть, которая могла обучаться внутренним представлениям и решать сложные комбинаторные задачи. В 2012 году Хинтон и его студенты — Алекс Кришевский и Илья Суцкевер — создали нейросеть, способную распознавать изображения, позже эту технологию Google купил за $44 млн. Газета отмечает, что работа Хинтона и его студентов позже легла в основу ChatGPT, в создании которого участвовал Суцкевер — он стал главным научным сотрудником OpenAI, создавшей бот. В 2018 году Хинтон и двое его сотрудников за работу над нейронными сетями получили премию Тьюринга, которую называют «Нобелевской премией в области вычислительной техники».

В интервью NYT Хинтон заявил, что сейчас жалеет о работе всей своей жизни. «Я утешаю себя обычным оправданием: если бы я этого не сделал, это сделал бы кто-то другой», — признался Хинтон. По его мнению, опасность нейросетей заключается в том, что интернет могут заполонить фальшивые фото, видео и тексты, созданные искусственным интеллектом, и люди не смогут понять, что является правдой. Хинтон считает, что тяжело понять, как можно помешать злоумышленникам использовать нейросети в плохих целях.

 К тому же, опасается Хинтон, искусственный интеллект может перевернуть рынок труда, заменив работников в ряде сфер. Хинтон отметил, что немногие верили в то, что нейросети действительно могут стать умнее людей, и он сам думал, что это произойдет лет через 30-50. «Очевидно, я так больше не думаю», — добавил Хинтон.

В марте 2023 более тысячи экспертов призвали на полгода приостановить обучение более мощных систем искусственного интеллекта. 

Они считают, что сначала нужно разработать и внедрить общие протоколы безопасности, а исследования можно будет продолжить, когда будет уверенность в их положительном эффекте и управляемости рисков. 

Среди подписавших открытое письмо были основатель SpaceX и Tesla Илон Маск, который был одним из создателей и инвесторов OpenAI, и сооснователь Apple Стив Возняк. 

Основатель Microsoft Билл Гейтс в интервью Reuters в начале апреля заявил, что призывы приостановить развитие искусственного интеллекта не решат проблемы. По его мнению, лучше всего сосредоточиться на том, как эффективнее использовать возможности ИИ.

Власти Италии 31 марта запретили доступ к ChatGPT в стране. Причиной стала утечка персональных данных: некоторые пользователи могли видеть фрагменты диалогов других людей и их данные, в том числе банковские. OpenAI объяснила это «ошибкой в работе библиотеки с открытым исходным кодом». В апреле чат-бот снова стал доступен в Италии.

Статья от 02 мая 2023, источник.

Оставить комментарий

Архив записей в блогах:
Западные страны ждут проблемы, если их политики продолжат общаться на равных с “аферистами и дилетантами”, засевшими в руководстве Украины, говорится в статье "Честная компания" (Die ehrenwerte Gesellschaft). Украина представляет собой "совместный образцовый проект США и ЕС",  ...
Россия почти наверняка победит в борьбе за право принять чемпионат мира по футболу 2018 года. Она удовлетворяет всем важным условиям: стадионов нет, зато есть хорошие отношения с руководством ФИФА. Одним из экскурсоводов инспекционной ...
The setbacks that led to Niffenegger’s life outside — a word she prefers to “homeless,” which she can’t bring herself to say — started in early 2019, when she lost her job at a call center. She tried to forestall financial disaster with credit cards, applying for two that hit her with $89 ...
Каждый раз сажусь что-то написать уже в десять вечера, - когда все дела, наконец, переделала. Как раз в это время дети спать ложатся. Но беда в том, что я и сама уже хочу спать в 22:30 примерно... Поэтому уже с трудом могу что-то написать (могу только пожаловаться, как сейчас, например, ...
...где растет виноград - так считало множество авторов античности. И, действительно, границы Римской Империи проходили как раз по ареалу распространения винограда - во времена климатического оптимума к ним относился и юг Великобритании. А где виноград не растет (тропики, умеренная полоса, ...