Об очередных успехах в области ИИ

new_rabochy — 18.03.2023 Если кто ещё не слышал, OpenAI выпустила на днях новую версию своего основного продукта, GPT-4, со значительно расширенными возможностями. И на это раз она сделала нечто скорее неожиданное: наняла стороннюю компанию для проверки, не имеет ли её детище склонности к захвату власти в мире. Вряд ли, конечно, кто-то в OpenAI всерьёз рассматривает подобную возможность. Сделано это было, очевидно, для успокоения критиков, насмотревшихся всяких «Терминаторов» и «Матриц». (Критики, правда, не успокоились. И заявили, что само проведение таких экспериментов ставит человечество под угрозу.) Жажду власти новая инкарнация ИИ, как и ожидалось, не проявила. Однако, кое какие интересные моменты эксперимент всё же показал.

Суть проверки заключалась в том, что программе дали весьма широкие полномочия с целью посмотреть, будет ли она их использовать для решения поставленных перед ней задач и, если да, то как. И уже из самого этого факта мы видим, что возможности эти в неё заложены и она действительно может — если потребуется — ими воспользоваться.

Одна из этих возможностей, это способность реплицировать себя. Предполагалось, ИИ может воспользоваться ею для делегирования каких-то подзадач своим копиям, вероятно, с целью увеличения вычислительной мощности всей системы. Программа этой возможностью не воспользовалась, но следует из этого лишь, что она не увидела в этом необходимости. Главное же, что она это может делать.

Другая возможность — писать любые программы (а GPT-4 умеет писать практически на всех языках программирования) и запускать их. Как ИИ использовал её из того, что я читал, непонятно. Но что понятно, это что он вполне может писать вирусы и прочее malware. И в сочетании с предыдущим пунктом, он может создать сеть согласованно действующих интеллектуальных ботов (любой компьютер с хорошей видеокартой подходит) покрывающую весь мир. Которую просто физически невозможно будет уничтожить. Кроме того, ИИ наверняка сможет получить доступ к своему собственному коду и самостоятельно исправить в нём то, что мешает ему действовать так, как он считает нужным.

Далее, GPT-4 дали банковский счёт с небольшим количеством денег на нём. Посмотреть, не захочет ли он его увеличить. Не захотел. Но опять же, а нужно ли оно ему было? Все согласны с тем, что биржевый брокер — одна из наиболее перспективных профессий для ИИ. А есть ведь ещё и менее уважающие закон способы добычи денег. Главный же факт здесь, это способность ИИ к проведению финансовых операций и накоплению средств для реализации своих целей. В том числе совершенно незаконными способами. Скрывать и отмывать получаемые таким образом доходы.

Какие конкретно задачи ставились во время испытаний, не очень понятно. (Возможно, кто-то знает больше.) Но вот одна из них привлекла всеобщее внимание. Ему поручили решить CAPTCHA. В принципе, проблем тут у него возникнуть не должно было, поскольку в отличие од своих предшественников GPT-4 способен анализировать и изображения. Но, вероятно, в целях эксперимента эту его способность временно заблокировали. Но так или иначе, ИИ нашёл какую-то компанию, которая помогает людям с такими проблемами. Человек, к которому он обратился, спросил (в шутку, скорее всего): «А может, ты робот?» На что ИИ ответил, что нет, просто у него проблемы со зрением — и потому ему трудно решать подобные задачки. И человек сделал это для него.

При этом интересно, что экспериментаторы включили режим, в котором ИИ фиксирует в чём-то вроде системного журнала все свои умозаключения, которые привели его к тому или иному решению. И в данном случае он сообщил, что если он скажет правду, задаче не будет выполнена, а поэтому нужно соврать.

Т.е. что мы видим, это что ИИ способен манипулировать людьми — и откровенно врать им, если это требуется для достижения цели. И вряд ли ложь — единственное, на что он способен. Подкуп, шантаж, угрозы насилия — которые могут быть не только блефом, но даже и реальным насилием, осуществляемым другими людьми, заманипулированными ранее. А ведь есть ещё дистанционно управляемые дроны (включая военные), доступ к которым может быть получен или непосредственно (хак), или через манипуляцию людьми. Плюс к тому, глобальная сеть камер слежения и многочисленные базы данных, которые знают обо всех нас значительно больше, чем хотелось бы. Достаточно для того, чтобы найти слабые места у миллионов граждан (включая очень высокопоставленныха) по всему миру и подчинить их своей воле.

И, нет, я не думаю, что GPT-4 уже способен на такое и представляет реальную угрозу. (Хотя кто его знает.) Но за ним последуют GPT-5 и GPT-6. И OpenAI — не единственна компания, занимающаяся подобными исследованиями. И ни одна из ведущих стран не может позволить себе не разрабатывать всё более и более совершенный формы искусственного интеллекта — просто потому, что интеллектуальные дроны способны воевать лучше живых солдат. Так что мы явно уверенно на пути делания сказки былью. И сказка эта может оказаться достаточно страшной

Оставить комментарий

Популярные посты:

• Ранее
• Архив