Интеллект искусственный и естественный

zendala — 09.04.2025 сидит старуха у корыта
и взгляд у бабушки тяжёл
старик за рыбой с нейросетью
пошел (c)

Статью писала по работе в феврале - о том, как ИИ изобретает якобы "научные" статьи по теме запроса. В медицине эта тема уже пару лет известна, но сейчас просто на каждом шагу возникает, вот прям в рабочем порядке.




Наша медицинская библиотека обеспечивает доступ к статьям как сотрудникам, так и пациентам. Нам часто присылают референсы с просьбой найти полный текст. И все чаще такие референсы оказываются не существующими в природе. Хоть и выглядят очень достоверно: название, авторы, научный журнал, все круто отформатировано. Иногда даже с аннотацией, где тоже все прекрасно выглядит. Только вот нет нигде такой статьи - и никогда не было. Такие "статьи" мы называем галлюцинациями ИИ и уже подзадолбались с ними возиться.

ИИ сейчас многие используют в медицине и около. Обзоры всякие удобно делать, быстрые ответы искать. С недавнего времени даже гугл ставит ответ ИИ в начале любого запроса, в чат ГПТ ходить не обязательно. Но с медициной фишка в том, что ИИ имеет доступ только к открытой информации. А медицинские базы данных, в остовном, закрыты, с доступом по подписке. Даже открытый Пабмед очень мало бесплатных полноформатных статей дает, с большинством только аннотацию показывает.

Вот и получается: ответ ИИ на околомедицинские вопросы составлен исключительно по информации из открытого доступа. А поскольку в доказательной медицине считается правилом сопровождать ответ референсами, то ИИ начинает эти референсы придумывать. Так как настоящие референсы он добыть не может, а признать это ИИ западло.

Поэтому выдается список литературы, якобы подтверждающей ответ - “peer-reviewed references”. Заголовок статьи всегда будет подробным и охватывающим тему, иногда с прямым ответом на вопрос. Название журнала может быть как реальным, так и придуманным. Авторы часто бывают придуманные, хоть и настоящие фамилии ученых, работающих с темой, тоже встречаются. Но если видишь в статьях имена типа Smith, Lee, J Doe - уже нужно насторожиться и проверить. Ну и вообще - сейчас просто все нужно проверять.

Буквально вчера прислали на проверку информационный листок для пациентов, а в нем ВЕСЬ список литературы фейковый. Кто-то решил сэкономить время и составил листок в чате ГПТ - шикарно вообще. Одно дело, когда люди идут спрашивать "доктора Гугл" - и совсем другое, если эта хрень идет от профессионалов.

Этот листок не из нашей организации, какая-то небольшая клиника его составила для своих пациентов. Хорошо, что они решили подстраховаться и попросили нас проверить - но ведь не все будут проверять.

Кстати, тема информационного листка любопытная: ivermectin и fenbendazole в онкологии. И, разумеется, листок говорил о том, что эти лекарства совершенно левые и использовать их опасно. В то время, как имеется достаточно исследований, подтверждающих, что оба лекарства могут быть рабочими. Я такие запросы тоже от пациентов получала, и находила отличные многообещающие статьи. Пока что публиковали исследования на клеточном материале (in vitro) и на животных (in vivo), клинических исследований на людях я не видела еще. Надеюсь, они скоро появятся.

Короче. Проверять сейчас нужно все. И с научными статьями это не так сложно, как, к примеру, с фотографиями или видео. Пабмед или Гугл Сколар доступны всем, и там вполне можно посмотреть и авторов, и название журнала, и название статьи.

А искусственным интеллектом очень даже можно и нужно пользоваться. Только не забывать еще и свой естественный интеллект включать.

Чтобы не быть голословной - вот пара ссылочек:
Artificial Hallucinations in ChatGPT: Implications in Scientific Writing

AI-Generated Junk Science Is a Big Problem on Google Scholar, Research Suggests

А это тот самый журнал, куда я статьи пишу два раза в год, весной и осенью. Не очень интересно его читать, формальный язык, специфичная тематика. Но положу тут, если вдруг кому прикольно глянуть. Моя статья на 15 странице (фотография там совершенно дурацкая, видеть ее не могу и давно хочу заменить)
BC Cancer Journal of Family Practice Oncology. Spring 2025. Page 15.

Оставить комментарий

Популярные посты:

• Ранее
• Архив