Мысли о проблеме использования нейросетей

think-of-anth — 14.01.2025

Всем привет.

ChatGPT, gigachat, midjourney и далее по списку сейчас у многих на слуху. Про их полезность не говорил разве только немой, но есть ли ложка дегтя в этой бочке меда и полезности? Мне кажется да, есть и прям не ложка, а поварёшка дёгтя. Давайте я попробую это объяснить.

Использование алгоритмов искусственного интеллекта в качестве дополнительного инструмента в работе, учебе, чтобы уменьшить или облегчить рутину - это нормально, полезно и тут вопросов нет. Но люди ленивы по своей натуре и многие начинают использовать данные инструменты не как дополнение, а как замещение своей мыслительной или творческой деятельности.

Лично встречал человека, технического специалиста, который за свои знания получает хорошие деньги и которого спрашиваешь что-то базовое по его специальности, а он не думая перепечатывает твой вопрос в ChatGPT и тебе дает ответ который он ему выдал. Он не задумывается насколько он верен и нет, а если этот ответ не сработал, или сработал, но не так как надо, он просто переформулирует вопрос к ИИ и опять пересылает тебе ответ. Вопрос, а нужен ли такой технический специалист? И специалист он? Ведь ответ, который выдал ИИ может навредить, уничтожить информацию, убить сервер или внести в него какие-то изменения, а такой "специалист" не сможет даже понять, что что-то пошло не так и как это исправить.

Или творческие специальности? Еще в 2022 году картина «Theatre D’opera Spatial» полностью сгенерированная нейросетью победила в категории «Цифровое искусство/Цифровая обработки фотографии» на Ярмарке штата Колорадо, а в 2023 году другая «нейрокартина» победила в конкурсе фотографий Sony World Photography Awards. Нередки уже случаи, когда журналисты или блогеры полностью генерируют контент нейросетью.

Но такие "спецы" – это полбеды. У них по идее все-таки что-то в голове еще с учебы должно остаться. Страшнее, то что школьники, студенты, все чаще делают домашнюю работу или отвечают на вопросы преподавателя с помощью нейросетей. На reddit-е была опубликована одна интересная история про то, как у одного из пользователей сестра 11 лет ничего не могла сделать без ChatGPT, она все задания домашней работы решала с помощью нейросети, даже самые простые к примеру: «Сколько часов в 1 дне и 7 часах?»
Или вот цитата: «И это ещё не все. Потом она просит ChatGPT сделать её домашнее задание по литературе. Она заставляет его написать очень простой пересказ на 150 слов, который ей задали, а затем просто копирует вопросы из задания. При этом она даже не копирует длинный, хорошо структурированный ответ, который даёт ChatGPT. Она просит его сделать ответ короче, а когда бот сокращает его до одного предложения, состоящего из 7 слов, уровня первого класса, просто копирует это, не понимая ни ответа, ни стихотворения и даже не читая его».

И это только один пример, а что с такими детьми будет дальше, а со следующим поколением? Если сейчас люди используют нейросети из-за лени, то следующее поколение будут их использовать как единственный способ решить проблему, так как им никто не сможет помочь.

А что вы думаете на этот счет? Надо ли ограничивать возможности нейросетей чтобы человечество не отупело?

Жду ваши мысли в комментариях, а пока я пошел дальше формулировать новые мысли Starого.

Делитесь с друзьями если вам интересен контент и подписывайтесь на все мои ресурсы:

ЖЖ

Teletype

Дзен

Телеграмм

Если у вас есть мысли, факты, истории, которыми вы хотели бы поделиться, присылайте на почту: [email protected] или [email protected]

#мыслиstarого #нейросети #chatgpt #gigachat #midjourney #мыслио #на_подумать

Оставить комментарий

Популярные посты:

verus

QR-код на столе: как сократить время расчёта и повысить комфорт гостей

maysuryan

65 лет «году Африки»

picturehistory

Семейный ужин

grigoriyz

Митя Чех 7 (продолжение)

a_nalgin

О причине повышенной борзости С чего хамит Ильхам Алиев?

photo_discovery

По западу Канады. Йохо. Природный мост (Natural Bridge)

yamaha373

27 июня 1826 года родился Фердинанд Гейльбют

padolski

Цветение водорослей и БАС: смертельная близость, которую наука игнорирует?

dz4ngrizalosaur

Из поездки

• Архив