Конвергенция

catpad — 17.05.2024

В свете последних презентаций GPT-4o и примерно того же от Гугла, становится всё более и более понятно, что LLM постепенно теряют смысл своего среднего L и становятся не просто языковыми моделями, а моделями мира. То есть, они становятся универсальными трансформерами по преобразованию потока токенов языка, аудио, видео, эмоций, элементов физического мира и действий в другой поток таких же токенов. Постепенно теряются различия между разными типами токенов: они просто сливаются в один поток, где каждый из контекстов (attention в их терминологии) может в равной мере влиять на любой другой. 

Когда это слияние окончательно произойдёт (включая неограниченную память), тогда, я думаю, мы и получим настоящий AGI. И произойдёт это если не в этом, то, скорее всего, в следующем году. 

Тут возникает два интересных этических вопроса (гораздо больше, чем два, конечно, просто я сейчас подумал о двух).

Вопрос первый: можно ли считать этот AGI полноценной личностью? С одной стороны вроде бы понятно, что это «философский зомби», то есть не личность. С другой стороны — а кто поручится, что у этого существа нет сознания и самосознания? На любой контраргумент можно ответить довольно просто: а что, наш мозг разве не делает того же самого? Ах, у нас чувства и эмоции! А разве чувства и эмоции это не определённые состояния нейронов нашей внутренней сети? Ну и так далее.
В-общем, это обычный философский вопрос, ответа на который не существует. 

И второй вопрос, довольно практический. И этот вопрос, скорее всего, один из самых спорных и вызовет бурю эмоций.
Можно ли создавать дигитальные копии настоящих людей? Почти вся технология для этого уже есть. Пусть пока это будет не физическое воплощение (как в известном эпизоде Black Mirror), а просто копия человека на экране. 

Чтобы немного снять спорность и проблематичность вопроса, возьмём кого-то сильно удалённого от нас по времени. Многие люди, я уверен, хотели бы побеседовать с Пушкиным. Единственная проблема здесь в том, что мы не можем воссоздать его голос и интонации, но в остальном — что же нам помешает? Огромное количество текстов, писем, да даже и фактов биографии позволяют натренировать сеть так, что она будет имитировать пушкинские особенности речи, мысли, юмор, ход мысли и поведение в тех или иных обстоятельствах.
Здесь опять можно возразить: но это же всё равно имитация. И тут мы снова упираемся в философию. Перефразируем: если некто реагирует как Пушкин, думает как Пушкин, разговаривает и шутит как Пушкин — то кто это? Вот именно.
Так что же нам мешает воссоздать Пушкина, посмотреть на его реакции на современный мир, а может даже попросить написать новые стихи? Кроме этических проблем — ничего. 

Хуже обстоит дело с современниками. (Я сейчас пущусь в сильно спорное рассуждение — кому противно, не читайте).
Тысячи людей почувствовали огромную потерю после гибели Навального. И вот тут, в отличие от Пушкина, у нас есть возможность воссоздать его практически полную копию. У нас есть тысячи часов видео с ним. Мы можем со стопроцентной точностью воссоздать все его интонации (очень, кстати, характерные), выражения лица в самых разных ситуациях, реакции на любые внешние обстоятельства и т. д. Есть километры его текстов, шуток, идей и решений. Я думаю, дигитальный Навальный на экране будет практически неотличим от настоящего.
Профанация ли это? В настоящее время, скорее всего, да.
Но кто поручится, что через 10-20 лет, когда технология достигнет невероятных высот (а в этом нет никаких сомнений), мы не сможет создавать точные копии людей, которые будут настоящими личностями?

Насколько это правильно и хорошо, я не знаю. Но не могу однозначно сказать, что это как-то совершенно ужасно и неприемлемо. 

Оставить комментарий

Популярные посты:

thurinus

Тихий и чистый город: как EV-революция изменит улицы, парковки и энергосистему

sladkowa

Шокирующее видео: "Отец года" спустил сына с 7-ого этажа на веревке...

your_food_today

Мясо и гарнир.

colonelcassad

О работе Starlink в Иране

sergeytsvetkov

Завоевание Испании маврами

staryiy

Трамп в восторге – Моди предал Путина

tasha_jardinier

Выходные: мороз и солнце

your_food_today

Язык под соусом

foto_history

Крым. Инкерманский монастырь, 1905-2014 гг.

• Ранее
• Архив