Сайт компанії Research Gold рекламує послуги медичних дослідників, як написання рукописів, готових до рецензування, системні огляди, метааналізи тощо, та стверджує, що усі роботи “на 100% виконуються людьми, а не штучним інтелектом”. Опис перелічує багатьох Ph. D. та професійних методологів. Проте більшість з них не існує або не знає, що працює у Research Gold, йдеться у розслідуванні 404 Media.
Видання називає перелік рецензентів згенерованим ШІ, оскільки здебільшого таких людей не існує. Ті, хто виявилися реальними, не знають, що Research Gold використовує їхню особу. Коли журналіст Емануель Майберг зателефонував у компанію, за його словами, йому довелося розмовляти з агентом ШІ, “який відмовився визнати, що це ШІ” та намагався продати йому послуги Research Gold. Спілкування з компанією електронною поштою та чатом також, за його словами, проводив ШІ.
На сторінці “Про нас” Research Gold представляє свою “команду”. До неї входять засновниця та провідна методистка докторка Єлена Васкес, яка нібито “має дванадцятирічний досвід синтезу доказів у кардіології та інфекційних захворюваннях”, а також спеціалістка з огляду досліджень докторка Мей-Лін Чен, яка “створює огляди обсягів досліджень та карти доказів для заявок на гранти та аналітичних записок”. Васкес, Чен та інші шість членів цієї команди не існують. Пошук за їхніми іменами не видає жодного онлайн-сліду, який би відповідав опису на сайті або історії публікацій статей. Їхні фотографії профілів також явно згенеровані штучним інтелектом.
В іншому розділі сайту перелічена група методологів із зображеннями профілів, які здавалися справжніми. Пошук за цими іменами виявив їхні акаунти в LinkedIn, які включали відповідний досвід роботи. Усі вони є або були позаштатними методологами чи науковцями. Дженні Берріо, науковиця з синтезу доказів, яка була вказана як одна з методисток Research Gold, сказала, що не має нічого спільного з компанією і не знала, що її особа використовується на сайті.
Усі зображення профілів справжніх методологів, перелічені на сайті, ідентичні зображенням, які ці люди використовують у своїх справжніх профілях LinkedIn. Схоже на те, що дані фахівців були взяті безпосередньо з LinkedIn. Research Gold видалила сторінку, на якій Берріо та інші реальні люди були вказані як їхні методисти, невдовзі після звернення журналіста.
На сайті перелічені кілька статей, опублікованих в академічних журналах, над якими компанія нібито працювала. Майберг звернувся до провідних авторів цих статей, але відповіді не отримав.
“Використовуючи онлайн-форму сайту, я запросив цінову пропозицію на системний огляд мого дослідницького проєкту, який я визначив як “Вплив ведення блогу на дітей віком від 0 до 5 років”. Форма давала мені можливість надіслати додаткові матеріали та нотатки щодо проєкту, але я їх не надав. Я одразу отримав відповідь електронною поштою від “методолога з докторським ступенем” (за словами Research Gold), але це, здається, була відповідь згенерована штучним інтелектом”, – пише Емануель Майберг про свій експеримент.
Після деяких уточнень щодо цієї вочевидь безглуздої теми ШІ-“методолог” сформував рахунок на $1900 та перелічив роботи, що виконуватимуться. Електронний лист містив посилання на портал для сплати рахунку.
Увагу Майберга до Research Gold привернув кандидат у Ph. D. Себастьян Роуен, з кафедри цивільного та екологічного будівництва Університету Нью-Гемпшира. Він натрапив на компанію під час підготовки до захисту дисертації. На думку науковця, ШІ може бути корисний для виснажливого історичного огляду тематичної літератури, але на нього важко покладатися.
“Фундаментальною проблемою використання штучного інтелекту, навіть спеціалізованих інструментів, для будь-чого є їхня схильність до галюцинацій, що, наскільки мені відомо, вважається проблемою без розв’язання. Я особисто прочитав понад 250 статей від початку до кінця для свого метааналізу, і для кожного висновку в моїй статті я можу навести конкретні посилання на ці статті, і я розумію нюанси обговорень того, як мої результати стосуються практики”, – пояснює проблему науковець.
Журналіст не знайшов конкретних доказів використання саме результатів Research Gold авторитетними дослідниками, але звертає увагу на те, що загалом генеративний штучний інтелект вже вплинув на академічні публікації. Спираючись на попередні публікації видання, він стверджує: “Науковим журналам доводиться фільтрувати потік статей із цитатами, згенерованими штучним інтелектом, а деякі статті, згенеровані штучним інтелектом, публікуються академічними журналами. У 2024 році я розмовляв з дослідником, який вважав, що сам процес рецензування може бути скомпрометований текстом, згенерованим штучним інтелектом”.
Читайте також: Тиха революція: як ШІ допомагає лікарям та науковцям
