Виртуальный мир имитаций

В Science пишут, что по набору ходов из шахматных партий обученный ИИ может указать, кто их делал. То есть деанонимизировать игрока. Каждый шахматист, даже любитель, имеет свой уникальный почерк игры, и нейросеть способна его выявить. В более общем виде, личность идентифицируется по присущему ей стилю принятия решений.

Следствия тут ожидаются глубокие. Если, чтобы запутать следы, можно еще исказить почерк или голос, то изменить стиль принятия решений это все равно что изменить свою психику. Так что, если вы проявляете себя в мире как мыслящий субъект, машина поймает тончайшие паттерны вашего мышления и по ним вас вычислит.

Автор заметки в Science здесь останавливается и не развивает тему дальше. Но тема достойна, чтобы ее развить. Ведь если ИИ считывает стиль, то он же и способен его имитировать. Генеративные сети уже говорят голосом известных людей, воспроизводя их мимику. Например, вот как Сальвадор Дали приглашает на свою выставку наших дней:

Воспроизвести стиль принятия решений – задача того же класса, и она будет решена.

Здесь весьма кстати недавняя статья в Nature Machine Intelligence про “персонажей, создаваемых ИИ”. Речь в статье о том, что синтезированные лица и голоса становятся все более реалистичными, и “мы предвидим, что генеративные медиа станут важной частью постоянно растущего ландшафта взаимодействия человека и ИИ”.

Все это полезно проецировать на метавселенную, рассматривая возможные сценарии. С одной стороны, чем больше времени пользователь проводит в сети, тем проще его идентифицировать по цифровому следу, и никакие vpn не помогут. С другой, боты-имитаторы могут “наследить” в стиле конкретного пользователя, и такая услуга может пользоваться спросом.

Однако куда важнее факт заселения цифровых миров синтезированными персонажами. Это не только имитации, но и заново сгенерированные “пользователи”, уникальные по набору качеств. Поскольку их можно генерировать почти в неограниченных объемах, сложиться может так, что живые люди чаще будут взаимодействовать не с живыми людьми, а с ИИ. Гораздо чаще.

Как это повлияет на психику, включая стиль принятия решений? – сказать из сегодня нельзя. Но, возвращаясь к шахматам, оставлю вас с одним наблюдением Гарри Каспарова. Я уже упоминал: он замечает, что теперь дети учатся игре не по книгам, а во взаимодействии с шахматными движками, и от этого страдает глубина понимания игры. Как следствие “сегодня игра человека все больше похожа на игру компьютера”.