Риски при работе с нейросетями. Чего стоит опасаться?
ecworld — 29.08.2025
Все думают, что компании создают нейросети только для того, чтобы помогать людям быстрее решать задачи и заодно немного заработать на "ответах" / такой помощи.
На самом же деле, нейросети собирают не просто все данные пользователей, а его самые сокровенные мечты и фоном проплывающие и самые странные и порой опасные мысли, которыми человек прямо или косвенно делится через свои запросы (промты).
Чем больше АИ-агенты будут входить в нашу жизнь, тем больше нейросети (БД) будут знать о нас.
И это уже не поисковик гугл / яндекс / сбер с его контекстной рекламой. Это намного больше. Потому что человек, плотно общающийся с нейронкой, спрашивает у нее абсолютно личные вещи: от психологических проблем и отношений с женой, коллегами и собственным членом (а при правильном дыхании - с маткой) … до планов, как именно завоевать мир (финансово или физически), ну, или хотя бы соседский земельный участок или квартиру нерадивого родственника.
Выиграет тот, кто накопит таких данных больше других:
1️⃣ по количеству людей;
2️⃣ по сферам жизни одного человека.
То есть это будут владельцы текстовых нейронок (OpenAI / Microsoft, Google и так далее).
Так что, поосторожнее там с "родными нейронками". Чтобы не получилось, как со слухами про очередную "подслушивающую алису". А то вон оно, какие истории приходится публиковать, чтобы на твою колонку юзеры не косились:
Компания «Яндекс» была оштрафована на 10 тыс. руб. за невыполнение предписания о предоставлении ФСБ доступа к системе умного дома «Алиса», говорится в постановлении мирового судьи судебного участка № 425 района Хамовники Москвы. (c) РБК
"Реклама честности", рассчитанная любителя смузи и инвестора Алёшу.
Ну, и корпклиентам (компаниям), всё-таки, важно как никому другому пользоваться локальными нейронками (теми, что на серверах у вас в офисе):
Иначе то, что уходит по API, вы потом случайно обнаружите у конкурента (или у товарища майора). Не важно, по какой причине:
▪️ по причине нерадивого поведения "настройщика работы с нейронкой" / провайдера услуг (если вы вдруг додумались купить доступ к иностранной нейронке за рубли у неизвестного вам дяди васи в интернете, типа сэкономили на доступе сразу к 10 нейронкам);
▪️ по причине некачественной работы "настройщика работы с нейронкой";
▪️ по причине нерадивого поведения владельца / поставщика нейросети (как это было с одной известной HRtech-компанией в России, которая сливала данные массово и системно работодателям об их действующих сотрудниках, которые только заходили на сайт в поисках работы и регистрировались / размещали резюме).
P.S. Когда-то, глядя на то, что происходит в "некоторых странах" в части политики, некоторые свободные души мечтали о том, что в далеком будущем руководить государствами будет справедливый искусственный интеллект (эта идея отлично отработала в "Капитал Marvel"). На самом деле, это произойдет не в далеком будущем, а уже очень скоро:
▪️ управлять буквально всем на планете будут нейросети - просто это будет происходить через сбор крайне глубокой информации о человеке и через рекомендательные функции. Что-то вроде сегодняшнего таргетинга, только намноооого шире и максимально точно (в сотни и тысячи раз шире и точнее) понимая, что из себя представляет человек или группа людей, которая читает тот или иной текст или слушает / смотрит тот или иной эфир / монолог, живет в той или иной стране.
Потому что нейросети видят то, что не видят про вас другие. Тем более - стареющий яндекс или всегда молодой товарищ майор.
Продолжение в (с) Источник
Корзина с 51 и 101 розой: кому и когда дарят 
