Созданные с помощью ИИ исследования вводят общественность в заблуждение
- Пятница Сентябрь 26th, 2025 16:31
Риск: существуют опасения, что надежность научной литературы может быть подорвана быстрорастущим потоком ложных исследований, созданных с помощью ИИ, поступающих в базы данных научных исследований. Фото freepik.com
«Проведённые исследования показывают, что поддельные статьи, имитирующие научный стиль, трудно отличить от подлинных научных работ. Существует риск того, что статьи, созданные с помощью искусственного интеллекта (ИИ), которые часто выглядят как научные, специально разработаны для легкого поиска через академические поисковые системы, такие как «Google Scholar», что ещё больше затрудняет выявление и блокировку ложной информации. Поддельные исследования могут использоваться для влияния на дискуссии по деликатным темам. Всё это создаёт риск снижения общественного доверия к науке», – считает д-р Аушрине Пасвенскене, доцент юридического факультета Университета Витаутаса Великого (УВВ).
Значительные последствия
Юрист совместно с доцентом юридического факультета Университета Вильгельма-Вермонта, доктором Томом Беркманом, представит свой доклад «Академическая свобода в эпоху искусственного интеллекта и образовательных технологий» 9–10 октября на совместной научной конференции Литвы и MIT «Будущее человека и не только человека: технологические инновации для создания сотрудничества». Конференция организована консорциумом из двенадцати крупных литовских университетов, исследовательских центров и компаний, координируемым Университетом Вильгельма-Вермонта.
По словам доцента, д-ра А. Пасвенскене, широкой публике может быть сложно отличить контент, созданный с помощью ИИ, от рецензируемых публикаций, в связи с чем существуют опасения, что быстро растущий поток фальшивых исследований, созданных с помощью ИИ, в базы данных научных исследований может представлять угрозу для всей системы научной коммуникации, ставя под сомнение достоверность научной литературы.
«Роль университетского сообщества крайне важна в информировании общественности о необходимости быть бдительными и критически настроенными при выборе, чтении и оценке научной литературы. Нынешнее чрезвычайно популярное использование больших языковых моделей (LLM) может иметь чрезвычайно важные последствия как для науки, так и для общества, и особенно для их взаимодействия», – говорит доцент.
Однако, по мнению доцента, д-ра Т. Беркмана, не университеты должны выполнять основную работу в области защиты академического контента, связанных с ним данных и прав собственности на них. Это, прежде всего, должно быть в рамках общего национального или европейского регулирования. «Все основные ответы на вопрос о том, как работает право интеллектуальной собственности в сфере ИИ при использовании различных научных и художественных результатов (или данных), должны быть даны в рамках общего регулирования, и университеты могут более подробно проработать этот вопрос, не нарушая общих принципов», – говорит ученый.
Две стороны вопроса
Так сколько же академической свободы осталось у ученых в мире, созданном ИИ? По словам доктора Т. Беркмана, конкуренция между несколькими интеллектами, в данном случае человеком и ИИ, может развиваться как в лучшую, так и в худшую сторону.
«Конкуренция в плохом смысле – это когда ИИ может так или иначе диктовать ход исследования или преподавания. Учёный или преподаватель может даже не заметить, что это уже не свободный процесс, а управляемый ИИ со всеми его проблемами (предвзятостью, галлюцинациями, склонностями и т. д.). С другой стороны, конкуренция между ИИ и человеческим интеллектом может ускорить инновационность и продуктивность человека (его интеллекта), особенно если учёный или преподаватель не теряет бдительности и сохраняет контроль над ИИ. ИИ остаётся лишь инструментом в академической деятельности», – отмечает он.
Однако, по словам доцента, д-ра наук А. Пасвенскене, использование ИИ и образовательных технологий в образовательном процессе привело к появлению новых вызовов академической свободе. «Некоторые учёные отмечают, что до цифровой эпохи каждая лекция была уникальной – выступлением, которое менялось в зависимости от аудитории и контекста, – подобно джазу. Это происходило потому, что каждый профессор выступал в роли мастера, и не было места для вмешательства между ним и его творчеством», – говорит она.
По её словам, растущая роль стандартизированных систем обучения и использование технологий в образовании, возможно, привели к унификации дизайна и проведения лекций: «Создание цифровых материалов требует много времени и усилий, не только на их подготовку, но и на последующее обновление. Обучение использованию и управлению инструментами образовательных технологий (EdTech) занимает много времени, а постоянное развитие EdTech требует значительных усилий, чтобы идти в ногу со временем. Вся эта цифровая среда может отвлекать от исследований, самого содержания или качества преподавания. Однако это не означает, что академическая свобода допускает отсутствие интереса к инновационным методам обучения. Напротив, она обязывает нас искать наиболее подходящие способы передачи знаний студентам».
Ценность – аутентичность
«Чрезмерное использование инструментов ИИ для таких задач, как подготовка, редактирование или цитирование текстов, может снизить критическое отношение исследователей к собственному вкладу и ослабить интеллектуальную автономию. Исследования показали, что регулярное использование диалоговых систем приводит к снижению когнитивных способностей, ухудшению способности запоминать информацию и усилению зависимости от этих систем», – говорит доц., д-р наук А. Пасвенскене.
По словам доцента, исследования показывают значительный рост использования ИИ в академической работе – эти инструменты, при ответственном и этичном использовании, могут помочь преподавателям и исследователям в различных рабочих задачах и сократить время, затрачиваемое на них: «Однако очень важно поощрять самостоятельное, оригинальное академическое мышление и его выражение. Мне понравилась фраза, услышанная мной на одной конференции: «Когда-нибудь мы будем платить тем, кто умеет писать сам».
Партнеры
MRF
Projektui „Mano Lietuva“ 2025 m. skirtas 15 000 Eur dalinis finansavimas.