[ad_1]
Научный журнал открытого доступа, Границы клеточной биологии и биологии развитиябыл открыто раскритикован и высмеян исследователями в социальных сетях на этой неделе после того, как они заметили, что издание недавно опубликовало статью, включающую изображения с бессмысленными описаниями и диаграммами анатомически неправильных яичек и сперматозоидов млекопитающих, которые имели признаки того, что были созданы изображением ИИ. генератор.
После этого издание ответило одному из своих критиков в социальной сети X, разместив сообщение со своего проверенного аккаунта: «Мы благодарим читателей за внимательное отношение к нашим статьям: когда мы ошибаемся, динамика краудсорсинга открытой науки означает, что отзывы сообщества помогают нам быстро исправить ситуацию». Он также удалил статью под названием «Клеточные функции сперматогониальных стволовых клеток в отношении сигнального пути JAK/STATсо своего веб-сайта и опубликовал уведомление об отзыве, в котором говорилось:
«После публикации были высказаны опасения относительно характера цифр, сгенерированных ИИ. Статья не соответствует стандартам редакционной и научной строгости журнала Frontiers in Cell and Development Biology; поэтому статья была отозвана.
Это опровержение было одобрено главным исполнительным редактором Frontiers. Frontiers благодарит неравнодушных читателей, которые обратились к нам по поводу опубликованной статьи.«
Слова с ошибками и анатомически неправильные иллюстрации.
Тем не менее, VentureBeat получил копию и переиздал оригинальную статью ниже в интересах сохранения ее публичного учета.
Как вы можете заметить, он содержит несколько графиков и иллюстраций, выполненных в, казалось бы, ясном и красочном научном стиле, но при увеличении можно увидеть много слов с ошибками и деформированных букв, таких как, например, «протемены» вместо «белки»: и слово, написанное «zxpens».
Возможно, наиболее проблематичным является изображение «крысы» (написанное правильно), которое появляется первым в статье и демонстрирует значительный рост в паховой области.
Взорван на X
Вскоре после публикации статьи 13 февраля 2024 года исследователи обратились к X, чтобы рассказать о ней и задаться вопросом, как она прошла через рецензирование.
Авторами статьи являются Синьюй Го и Динцзюнь Хао из отделения хирургии позвоночника больницы Хун Хуэй при Сианьском университете Цзяотун; а также Лян Донг из отделения хирургии позвоночника Сианьской больницы Хунхуэй в Сиане, Китай.
Его рецензировали Бинсила Б. Кришнан из Национального института питания и физиологии животных (ICAR) в Индии и Цзинбо Дай из Северо-Западной медицины в США. Редактировал его Арумугам Кумаресан из Национального научно-исследовательского института молочной промышленности (ICAR) в Индии.
VentureBeat обратился ко всем авторам и редакторам статьи, а также к Аманде Гей Фишер, главному редактору журнала и профессору биохимии престижного Оксфордского университета в Великобритании, чтобы задать дополнительные вопросы о том, как была опубликована статья. и обновим, когда получим ответ.
Тревожные более широкие последствия влияния ИИ на науку, исследования и медицину
ИИ рекламировался как ценный инструмент для продвижения научных исследований и открытий некоторыми из его создателей, в том числе Google с его предсказателем структуры белка AlphaFold и ИИ GNoME для материаловедения, недавно положительно освещенным в прессе (включая VentureBeat) за открытие 2 миллионов новых материалов. .
Однако эти инструменты ориентированы на исследовательскую сторону. Когда дело доходит до издательский В результате этого исследования становится ясно, что генераторы изображений ИИ могут представлять серьезную угрозу научной точности, особенно если исследователи используют их без разбора, чтобы срезать углы и быстрее публиковать, или потому, что они являются вредоносными или просто им все равно.
Переход к использованию ИИ для создания научных иллюстраций и диаграмм вызывает тревогу, поскольку он подрывает точность и доверие научного сообщества и широкой общественности к тому, что работа, проводимая в важных областях, влияющих на нашу жизнь и здоровье, таких как медицина и биология, является точной. безопасный и проверенный.
Тем не менее, это также может быть продуктом более широкого климата «публикуй или погибни», который возник в науке за последние несколько десятилетий, когда исследователи подтвердили, что они чувствуют необходимость срочно выпускать малоценные статьи, чтобы показать, что они вносят какой-то вклад. что-либов своей области, и увеличить количество цитирований, приписываемых им другими, дополняя свои резюме для будущих вакансий.
Но давайте будем честными — некоторые из этих исследователей, занимающихся документацией по хирургии позвоночника в больнице для людей: доверили бы вы им операцию на позвоночнике или помощь со здоровьем спины?
Имея более 114 000 цитирований своего названия, журнал Границы клеточной биологии и биологии развития теперь его целостность поставлена под сомнение из-за этого упущения: сколько еще опубликованных им статей содержат диаграммы, иллюстрированные ИИ, которые не прошли через процесс рецензирования?
Интригующе, Границы клеточной биологии и биологии развития является частью более широкого Границы компания из более чем 230 различных научных изданий, основанная в 2007 году нейробиологами Камилой Маркрам и Генри Маркрамом, первый из которых до сих пор числится генеральным директором.
Компания заявляет, что ее «видение состоит в том, чтобы сделать науку открытой, строгой, прозрачной и эффективной для экспертной оценки и использовать возможности технологий для действительного удовлетворения потребностей исследователей». экспертная оценка.
Как Границы объявлено в пресс-релизе 2020 года:
«Впервые в отрасли искусственный интеллект (ИИ) используется для проверки исследовательских работ и оказания помощи в процессе рецензирования. Современный помощник по рецензированию на основе искусственного интеллекта (AIRA), разработанный издательством открытого доступа Frontiers, помогает редакторам, рецензентам и авторам оценивать качество рукописей. AIRA читает каждую статью и в настоящее время может за считанные секунды дать до 20 рекомендаций, включая оценку качества языка, целостности цифр, выявление плагиата, а также выявление потенциальных конфликтов интересов.«
На сайте компании отмечается, что AIRA дебютировала в 2018 году как «Следующее поколение экспертной оценки, в которой искусственный интеллект и машинное обучение обеспечивают более строгий контроль качества и эффективность экспертной оценки.».
И только прошлым летом появились статья и видео с участием Мирьям Эккерт, главного издательства Границызаявил:
«В Frontiers мы применяем искусственный интеллект, чтобы укрепить это доверие. Наш помощник по проверке искусственного интеллекта (AIRA) проверяет точность и честность представления научных знаний еще до того, как наши сотрудники решат, рецензировать, одобрить или опубликовать содержащую их исследовательскую работу.
AIRA читает каждую полученную нами исследовательскую рукопись и выполняет до 20 проверок в секунду. Эти проверки охватывают, среди прочего, качество языка, целостность рисунков и изображений, плагиат и конфликты интересов. Результаты дают редакторам и рецензентам другую точку зрения, поскольку они решают, проводить ли исследовательскую работу через наше строгое и прозрачное рецензирование.«
Границы также получила положительную оценку своего помощника по обзору статей об искусственном интеллекте AIRA в таких известных публикациях, как Нью-Йорк Таймс и Файнэншл Таймс.
Очевидно, что инструмент не смог эффективно уловить эти бессмысленные изображения в статье, что привело к ее отзыву (если в данном случае он вообще использовался). Но это также поднимает вопросы о способности таких инструментов ИИ обнаруживать, отмечать и, в конечном итоге, прекращать публикацию неточной научной информации, а также о растущей распространенности ее использования в Границы и в других местах издательской экосистемы. Возможно, в этом и заключается опасность оказаться на «переднем крае» нового технологического движения, такого как искусственный интеллект — риск того, что оно пойдет не так, выше, чем при «проверенном и верном», ориентированном только на человека или аналоговом подходе.
VentureBeat также использует инструменты искусственного интеллекта для создания изображений и некоторого текста, но все статьи перед публикацией проверяются журналистами. VentureBeat не использовал искусственный интеллект при написании, составлении отчетов, иллюстрировании или публикации этой статьи.
[ad_2]
Источник
