В последние годы искусственный интеллект (ИИ) занимает свою значимую нишу в различных областях регистрации информации, особенно в научной деятельности. Проблема подделки научных работ и генерации текстов с помощью нейросетей стала одной из наиболее актуальных задач, стоящих перед научным сообществом. На фоне этого российские исследователи из НИУ ВШЭ разработали две новаторские системы ИИ, которые могут выявлять фрагменты текстов, сгенерированных нейросетями, такими как ChatGPT или GigaChat.
Команда под руководством стажера-исследователя Александра Ширнина разработала две модели, каждая из которых обладает уникальными методами выявления AI-сгенерированного контента. Первая система, названная AIpom, сочетает в себе два типа моделей — декодер и энкодер. Это обеспечивает ей большую эффективность в распознавании вставок, созданных ИИ. Вторая система, Papilusion, специфицирована для обнаружения синонимов и кратких пересказов, сгенерированных нейросетями, и опирается на модели одного типа — энкодеры.
Эти системы стремятся решить важную задачу, связанную с борьбой с генерацией текстов, которая становится все более распространенной. С ростом доступности мощных языковых моделей появляются новые вызовы: студенты все чаще используют ИИ для написания курсовых работ, дипломов и даже научных работ, которые иногда оказываются в высококлассных журналах. Это создает потребность в надежных инструментах для проверки оригинальности и достоверности научных публикаций.
Важно отметить, что разработанные системы уже получили признание на международной арене. На конкурсе SemEval-2024, который сосредоточен на создании алгоритмов для выявления текстов, сгенерированных ИИ, работы Ширнина и его коллег заняли второе место (AIpom) и шестое место (Papilusion). Участники конкурса должны были продемонстрировать возможность четкого различения текстов, написанных людьми, и контента, созданного искусственным интеллектом, что в условиях современных технологий представляется крайне сложной задачей.
Ранее «ЭкоПравда» информировала о том, что фиолетовая кукуруза сохраняет окружающий мир.
Президент России Владимир Путин выразил солидарность с позицией лидера США Дональда Трампа непосредственно о злоупотреблении…
Палеоклиматологи обнаружили недавно, что средневековая "черная смерть", то есть эпидемия чумы, была в том числе…
Палеогенетики из ЮАР и Европы в ходе исследований открыли неизвестную доселе популяцию древних людей, которая,…
Новый метод специального поиска атмосферных загрязнителей применили накануне в Северном Арктическом федеральном университете (САФУ). Он…
Если неподалеку перерабатывают мусор, страх за окружающую среду растет, а любой неприятный запах, стоит ему…
Российские исследователи разработали специальную комплексную методику непосредственно для оценки пластикового загрязнения прибрежных зон, которая будет…