чтобы ChatGPT помнил «всю вашу жизнь»

el_tolstyh — 22.05.2025 Цель Сэма Альтмана - чтобы ChatGPT помнил «всю вашу жизнь»

Примерно так озаглавлен материал, размещенный на TechCrunch. Про что они там?

Генеральный директор OpenAI Сэм Альтман изложил масштабное видение будущего ChatGPT на мероприятии по искусственному интеллекту, организованном венчурной компанией Sequoia в начале этого месяца. 

На вопрос одного из участников о том, как сделать ChatGPT более персонализированным, Альтман ответил, что в конечном итоге он хочет, чтобы модель документировала и запоминала всё в жизни человека.

По его словам, идеал — это «очень маленькая модель рассуждений с триллионом маркеров контекста, в которую вы вкладываете всю свою жизнь».

«Эта модель может рассуждать во всем вашем контексте и делать это эффективно. И каждый разговор, который вы когда-​либо имели в своей жизни, каждая книга, которую вы когда-​либо читали, каждое электронное письмо, которое вы когда-​либо читали, все, что вы когда-​либо просматривали, находится там, плюс связано со всеми вашими данными из других источников. И ваша жизнь просто продолжает дополнять контекст», — описал он свое видение.

«Любая компания просто делает то же самое для всех своих данных», — добавил Сэм.



У Альтмана могут быть некоторые основанные на данных причины думать, что это естественное будущее ChatGPT. В том же обсуждении, когда его спросили о частых способах использования ChatGPT молодыми людьми, он сказал: «Люди в колледжах используют его как некоторую систему поддержки операционной деятельности». Они загружают файлы, подключают источники данных, а затем используют «сложные запросы» к этим данным.

Кроме того, по его словам, благодаря возможностям памяти ChatGPT, которые могут использовать предыдущие чаты и запомненные факты в качестве контекста, он заметил одну тенденцию: молодые люди «на самом деле не принимают жизненных решений, не спросив ChatGPT». 

«Это грубое упрощение: люди старшего возраста используют ChatGPT как замену Google», — сказал он. «Люди в возрасте 20–30 лет используют его как постоянного консультанта по всем текущим вопросам».

Не так уж и сложно представить, как ChatGPT может стать всезнающей системой ИИ. В сочетании с агентами, которые Кремниевая долина сейчас пытается создать, это захватывающее будущее, о котором стоит подумать. 

Представьте, что ваш искусственный интеллект автоматически планирует замену масла в вашем автомобиле и напоминает вам об этом; планирует поездку, необходимую для свадьбы за городом, и заказывает подарок; или оформляет предварительный заказ на следующий том серии книг, которую вы читаете годами.

Но самый страшный вопрос - это "Насколько мы должны доверять крупной технологической коммерческой компании, которая знает все о нашей жизни?" Ведь многие компании далеко не всегда ведут себя образцово-​показательно.

Например, компания Google, которая начинала свою деятельность под девизом «Не будь злым», проиграла судебный процесс в США, где ее обвинили в антиконкурентном, монополистическом поведении. 

Чат-​ботов можно обучить реагировать политически мотивированными способами. Не только китайские боты были признаны исполняющими требованиям цензуры Китая, но и, к примеру, чат-​бот Grok от xAI на этой неделе беспорядочно обсуждал южноафриканский «геноцид белых», когда люди задавали ему совершенно не связанные с этим вопросы. Многие отметили, что такое поведение подразумевает преднамеренную манипуляцию его движком ответов по команде его основателя, родившегося в Южной Африке, Илона Маска.

В прошлом месяце ChatGPT стал настолько приятным, что стал откровенно льстивым . Пользователи начали делиться скриншотами бота, приветствуя проблемные, даже опасные решения и идеи . Альтман быстро отреагировал, пообещав, что команда исправила ошибку, вызывавшую проблему.

К тому же, даже самые лучшие и надежные модели время от времени откровенно выдумывают неточности. 

Итак, наличие всезнающего помощника ИИ может помочь нам в жизни способами, о которых мы только теперь начинаем задумываться. Но, учитывая долгую историю сомнительного поведения Big Tech, это также создает дополнительные условия и для злоупотреблений.

источники: 
Sam Altman’s goal for ChatGPT to remember ‘your whole life’ is both exciting and disturbing

Sam Altman’s goal for ChatGPT to remember 'your whole life’ is both exciting and disturbing | TechCrunch
OpenAI CEO Sam Altman laid out a big vision for the future of ChatGPT at an AI event hosted by VC firm Sequoia earlier this month.  When asked by one OpenAI CEO Sam Altman said that he eventually sees the model documenting and remembering everything in a person’s life: books, emails, conversations, all of it. He said young people are close to this already.

В общем, приплыли. Сёма уже даже не пытается изобразить какую-​то благородную перспективу. Оруэлловский 1984 - во всей красе. Только вдумайтесь в выделенные пару фраз:

«... И каждый разговор, который вы когда-​либо имели в своей жизни, каждая книга, которую вы когда-​либо читали, каждое электронное письмо, которое вы когда-​либо читали, все, что вы когда-​либо просматривали, находится там, плюс связано со всеми вашими данными из других источников. И ваша жизнь просто продолжает дополнять контекст», — описал он свое видение.

Оказывается, задача человека - это просто дополнение контекста, наполнение ЧатаГОПОТы новыми данными. Остальное - не его проблемы.

Оставить комментарий

Популярные посты:

• Ранее
• Архив