За автора: Ейми Бранд е директор и издател на MIT Press, позиция, която заема от 2015 г. Когнитивен учен по образование, тя получава докторска степен от MIT и е заемала ръководни позиции в CrossRef, Harvard и Digital Science. Тя е съ-създател на таксономията CRediT, член-основател на борда на ORCID и продуцент на документалния филм „Представете си учен“. Бранд е широко призната за приноса си към изследователската инфраструктура, научната комуникация и равенството в науката. Сред отличията ѝ са наградата на Съвета на научните редактори и златната награда Kavli за научна журналистика на AAAS.
Науката е от съществено значение за човешкия прогрес. Също така жизненоважно, макар и не толкова очевидно, е как разпространяваме науката. Като система, чрез която знанието става откриваемо и достоверно, публикуването е основен компонент на изследователската инфраструктура.
Как трябва да се адаптира издателската дейност, за да обслужва нуждите на изследователската общност, изправена пред цензура, намалено финансиране и бързия възход на генеративни системи с изкуствен интелект, които източват знания, като същевременно подкопават тяхната цялост? Като човек, който е работил десетилетия в областта на научните изследвания, университетската администрация и издателската дейност, никога не съм виждал залозите толкова високи, колкото са днес за бъдещето както на науката... намлява научна комуникация.
С разпадането на социално-политическите системи около нас е изкушаващо да разглеждаме генеративния изкуствен интелект като алхимично решение на световните проблеми. Моделите с големи езикови модели (LLM) се очертават като съблазнителни портали към открития, предоставяйки незабавни отговори, безпроблемен синтез, привидната демократизация на знанието. И все пак тяхната привлекателност прикрива потенциала им като системи, които също така ускоряват дезинформацията, измамите и пропагандата. По замисъл те произвеждат съдържание, което изглежда много правдоподобно, но често е подвеждащо или просто грешно. Опасно е за науката, когато валидирането е трудно и скъпо, докато „истинността“ е евтина и печеливша, особено като се има предвид колко лесно е да се заблуди човешкият ум.
Да, искаме да ускорим откритията и решаването на проблеми в лицето на мъчителните глобални предизвикателства. Искаме да вярваме в машини, които могат да решават проблеми по-бързо от човешката когнитивна архитектура или нашите нефункционални институции. Но когато поддръжниците на неограниченото обучение на ИИ твърдят, че е морален императив да се направи достъпно цялото научно съдържание и данни, за да се ускорят иновациите, историята ни съветва за предпазливост.
Виждали сме това и преди. Ранният интернет беше приветстван като демократизираща сила за изразяване и универсално знание. В крайна сметка липсата на регулация позволи на масивни търговски платформи да доминират пространството, подкопавайки доверието и сривайки икономическите модели както за новинарско, така и за изследователско съдържание. Сега знаем също, че недостатъчно добре разработените политики за отворен достъп ускориха консолидацията в издателския сектор и създадоха икономически стимули за публикуване на повече материали с по-малък контрол на качеството.
Нека спрем и помислим кое е най-добро за човешкото разбиране, учене и напредъка на знанието. Когато търсенето води само до обобщения, създадени с изкуствен интелект, а потребителите не кликват върху оригинални източници, и когато простият акт на четене за удоволствие рязко намалява, как да избегнем бъдеще, в което създаваме и публикуваме съдържание само за машинна консумация?
Вярвам, че жизненоважната роля, която издателите играят в подкрепа на въздействието и почтеността на научните изследвания, си струва да бъде запазена и защитена. особено сега. Разбирам разочарованието от високите такси за публикуване и абонаментните платени стени, особено от страна на по-големите издатели, които са се възползвали от пазар за академичен престиж, който исторически не е бил чувствителен към цените. Но нашата индустрия не е едно монолитно образувание, търсещо печалба. Издателите с нестопанска цел, като MIT Press и много научни дружества, работят с различни ценности и по-малки маржове.
Всъщност, ние сме по-застрашени от заграбването на земя, основана на изкуствен интелект, а понякога дори и от самите движения за отворена наука, които отдавна подкрепяме. Следователно, трябва да се съпротивляваме на моралните позьорства, които игнорират динамиката на властта. Около идеята за „отвореност“ се вие ореол, който може да замъгли реалните сложни аспекти като икономиката и стимулите. В крайна сметка, не всяка откритост е добродетелна; не всяка съпротива срещу откритостта е обструкционистка.
Друго погрешно схващане е, че интересите на издателите не съвпадат с тези на изследователите. Наскоро проведохме голямо проучване на автори в STEM областите относно неоторизирано използване на тяхната работа за обучение по магистърска степен по право (LLM). По-голямата част от тях възразяват срещу тази практика, дори когато вярват, че изкуственият интелект обещава трансформативни пътища за откриване и учене. Те очакват да могат да дадат съгласие или не за подобно използване и да посочат авторството, когато работата им е от значение за резултатите от LLM. Те не отъждествяват отвореното за четене с отвореното за обучение.
Също така мнозина са скептични към почтеността на големите компании за изкуствен интелект и се притесняват как LLM ще повлияе на публикуването, четенето, писането, критичното мислене и креативността; ще изравни различните гледни точки; и ще затвърди предразсъдъците и културните хегемонии. Те са дълбоко загрижени за това какво се губи, когато разделяме произведенията, написани от хора, на токенизирани данни за обучение и ги захранваме с модели, които не могат да запазят техния контекст или аргументация.
Въпросът как и при какви условия публикуваните научни трудове се използват за обучение на магистри по право (LLM) не е само въпрос на авторско право. Става въпрос за това кой контролира бъдещето на знанието. Дали отстъпваме властта на непрозрачни, добивни индустрии с малка отчетност пред изследователската общност? Или да изградим системи, които запазват атрибуцията, почтеността и устойчивостта? Ако сме сериозни по отношение на човешкия просперитет, на науката, основана на доказателства, и на защитата на условията, при които расте знанието, тогава изследователската общност и нейните институции трябва да действат разумно.
Чии интереси обслужва да се предоставят публикувани научни трудове и изследвания на силно добивен, непрозрачен технологичен сектор? Следвайте логиката: цялата стойност от таксите за отворено публикуване, плащани от автори, институции и спонсори, в крайна сметка се предава на компании като OpenAI и Anthropic. Що се отнася до добивните индустрии, нека бъдем честни и в оценката как стойностите на сектора на ИИ се сравняват с тези на академичните издатели.
Аз самият оставам оптимист, че с внимателно планиране и политика, основана на доказателства, ще използваме изкуствен интелект, за да подобрим експертната оценка, да подобрим възпроизводимостта и да рационализираме работните процеси и разходите за публикуване. Може дори да успеем да изградим решения, които да помогнат за поддържането на добрите страни на научното публикуване.
Но настоящата парадигма, при която публикуваните записи се извличат без съгласие и се монетизират от частни технологични гиганти, е неетична и разрушителна за науката и научните изследвания. Тя също така отразява магическо мислене за това как работи нашият сложен свят и как ще постигнем реален напредък в решаването на екзистенциалните проблеми, пред които сме изправени.
Отказ от отговорност
Информацията, мненията и препоръките, представени в нашите гост-блогове, са на отделните участници и не е задължително да отразяват ценностите и убежденията на Международния научен съвет.
Получавайте бъдещи обзори на отворената наука директно във вашата пощенска кутия – Абонирай се сега.
Снимка от Мартин Адамс on Unsplash
Прочетете повече за форума на ISC за публикуване и оценка на научни изследвания 
Прочетете повече за напредъка в координираната реформа в издателската дейност и оценката на научните изследвания 
Прочетете повече за обобщението на „Отворена наука“: Преосмисляне на оценката на научните изследвания и подновяване на глобалните ангажименти за отвореност 
Прочетете повече за позицията на ISC относно прозрачността на финансирането на научни изследвания 
