Учените и изследователите все повече ценят научната фантастика заради нейния принос за предвиждане на бъдещи сценарии. Като част от своята мисия да изследва посоките, в които ни водят промените в науката и научните системи, the Център за бъдещето на науката седна с шестима водещи автори на научна фантастика, за да събере техните гледни точки за това как науката може да се справи с многото обществени предизвикателства, пред които ще се изправим през следващите десетилетия. Подкастът е в партньорство с природа.
В нашия шести и последен епизод Кори Доктороу се присъединява към нас, за да обсъдим въпроса за доверието в науката и какво можем да направим, за да го укрепим. Той обхваща проблемите с изкуствения интелект и относно алгоритмите и моделите за обучение. За Doctorow той иска да види как координиращата сила на цифровите технологии може да бъде използвана за по-устойчиво бъдеще.
Кори Доктороу
Автор е на много книги, най-новата Загубената кауза, слънчев пънк научно-фантастичен роман за надежда сред извънредната климатична ситуация и Интернет измамата: Как да се възползваме от средствата за изчисление и Червен отбор Блус. През 2020 г. той беше въведен в Залата на славата на канадската научна фантастика и фентъзи. Роден в Торонто, сега живее в Лос Анджелис.
Пол Шривастава (00:03):
Здравейте, аз съм Пол Шривастава от Държавния университет на Пенсилвания. В тази поредица от подкасти говоря с някои от водещите световни писатели на научна фантастика. Искам да чуя от тях как науката може да ни помогне да се справим с предстоящите многостранни предизвикателства. В крайна сметка те си изкарват прехраната от мислене за бъдещето и как то би могло или трябва да бъде.
В този епизод разговарям с Кори Доктороу, писател на научна фантастика, журналист и технологичен активист. През последните две десетилетия той публикува много трудове за технологични монополи и цифрово наблюдение. Разговорът ни засегна управлението на цифровите права и социалната справедливост и устойчивостта в дигиталния свят. Надявам се да ти хареса.
Добре дошъл, Кори, и ти благодаря, че си част от този подкаст. Можете ли да започнете, като ни кажете малко повече за връзката си с науката, като цяло, и с писането на научна фантастика?
Кори Доктороу (01:05):
Е, израснах при изключително щастливи обстоятелства за човек, който се интересува от научна фантастика. Израснах специално в Торонто през 1980-те години. И там имаше една жена, която беше доста вихрушка в областта, жена на име Джудит Мерил, страхотен писател, редактор и критик. Тя беше доайенът на британската нова вълна научна фантастика. И така, Джуди би позволила на всеки да извади своите истории и да ги обучи с нея, тя щеше да ги критикува. Така че това беше като... не знам. Това е като да получите помощ за домашното по физика от Айнщайн. И тогава тя започна тези писателски семинари, където обещаващите писатели, които идваха при нея, ги събираше на седмични срещи. И така бях в един от тях в продължение на много години и просто имах възможно най-близко до официално чиракуване в научната фантастика.
По отношение на науката, знаете ли, аз съм дилетант. Най-близо до това да бъда учен е да имам почетна степен по компютърни науки от Open University, където съм гост-професор по CS. И по-специално, имах страхотни политически взаимоотношения с компютърните науки, защото вече повече от 20 години работя в област, която можем да наречем широко цифрови човешки права, свързана с достъпа до информация, цензурата, поверителността и справедливостта на линия.
Пол Шривастава (02:17):
Така че нека се задълбочим малко в някои от тези проблеми. Вие сте се занимавали с набор от тези теми, свързани с технологичния напредък и върху чии интереси и полза те работят. Говорихте за технологията за наблюдение в Малък брат, законите за авторското право в Пиратско кино, към криптовалута в Червен отбор Блус. Много често разказите изобразяват негативните последици от неконтролирания технологичен растеж или технологичния растеж в услуга на капитализма, ако желаете. И така, как възприемате ролята на науката в този все по-дигитален пейзаж, в който навлизаме?
Кори Доктороу (02:57):
Мисля, че не можете да имате наука без капитал. В смисъл, че нещото, което отличава науката от формите на създаване на знания, които предхождат просветлението, е достъпът, което е предпоставката за състезателна партньорска проверка. И така, оставяйки настрана едно морално задължение – за което мисля, че можем да кажем, че всички имаме морални задължения един към друг – мисля, че има просто инструментален случай да се каже, че ако на други хора не е позволено да проверяват вашите данни и вашите методи, и се опитват да копират вашата работа и да ви критикуват свободно, тогава не се занимавате с наука. Алхимиците направиха нещо, което много приличаше на наука, нали? Те наблюдаваха света, формулираха хипотеза, направиха експеримент, проведоха експеримента и след това всички умряха от пиене на живак. Защото се оказва, че можете да се заблуждавате, че експериментът е бил успешен до момента, в който отравянето с живак ви убива.
Кори Доктороу (04:05):
И разликата между алхимията и науката не е, че учените, които дойдоха след това, бяха по-умни или по-малко склонни към самозаблуди. Това е, че те са били подложени на строгостта на състезателна партньорска проверка, която като предварително условие изисква публикуване и достъп. И мисля, че когато имате концентрация на власт в търговския сектор, тоест монопол, за регулаторите е много трудно да останат независими. Тези фирми стават твърде големи, за да фалират, и твърде големи, за да бъдат вкарани в затвора. Тогава всъщност създавате условия хората да отричат науката, което има катастрофални последици за тях самите, но и за всички нас.
Пол Шривастава (04:39):
Е, съгласен съм с теб, че има нужда. Мисля, че улавянето, за което говорите от силите на корпорациите и правителствата, които са двата основни източника на финансиране за науката, това улавяне е завършено. И сега гледаме на изкуствения интелект като на широко разпространено научно начинание, което ще промени всичко. Какъв вид политически препоръки бихте могли да предложите за цялата тази арена?
Кори Доктороу (05:09):
Е, бих искал да започна, като кажа, че като първият човек, който споменава AI, дължите питие на всички останали в този разговор. Това е правилото сега с AI. Позволете ми да започна с едно предупреждение, което е, че не съм убеден, че ИИ е това, което казвате, дали това широко разпространено научно начинание ще промени всичко по много причини. Скептичен съм, че без строг надзор AI ще може да произведе надеждни... неща, които са достатъчно надеждни, за да се използват в среди с високи залози. И ако надзорът изисква същото старание, което сме имали преди, тогава не знам дали има случай за това. Мисля, че ако сме благоразумни по отношение на нашата регулация и кажем: „Вижте, ако изкуственият интелект може да халюцинира и ако халюцинацията води до смъртоносни последици, изкуственият интелект може да бъде наблюдаван само при съотношение едно към- един.” Ако самоуправляващата се кола се движи безопасно 90% от времето и 10% от времето ускорява в насрещния трафик, тогава броят на водачите-надзорници, от които се нуждаете за всяка самоуправляваща се кола, е един, което означава, че не уволнете един шофьор. Така че сега просто имате по-скъпа кола.
Кори Доктороу (06:14):
И мисля, че всеки балон, който зависи от продължаващото привличане на инвестиционен капитал, който най-често се запалва, преди да се генерира каквато и да е възвръщаемост, трябва наистина да работи с много шум. И виждаме този шум около нас в огромна степен. Вместо да се тревожите за действителните манифестни притеснения за AI, който е алгоритъмът за подпомагане на вземането на решения, който ви отказва ипотека поради вашата раса или който изпраща детето ви в защитни услуги поради вашето икономическо състояние, или който ви отказва освобождаване под гаранция или влизане в страна, ние се фокусираме върху — честно казано, в професионалното ми качество — лоша научна фантастика за автоматичното довършване на стероиди, събуждане и превръщането ни всички в кламери. Това оставя настрана реалните материални неща, които се случват с AI.
Пол Шривастава (07:08):
И така, каква е ролята на комуникаторите в науката за спукването на този балон, шума, който се натрупа около AI? Искам да кажа, общият разказ там е, че това ще промени всичко. И това, което чувам от вас, че има някои реални основни фундаментални проблеми, които стоят в основата му.
Кори Доктороу (07:26):
Мисля, че има някои пропуски в основната линия на научна комуникация относно ИИ, които биха били плодотворно запълнени. Така че никога не съм чувал научно-популярна програма да описва потенциалните граници на федеративното обучение. напр. Какво ще стане, ако изключим големите сървъри? Ами ако инвеститорите просто продължат напред? Как изглежда AI, ако никога не обучаваме друг основен модел и всичко, което правим, е да настройваме съществуващите модели, които могат да работят на стандартен хардуер? И след това таксономия на приложения, които не са чувствителни към общоприетите проблеми с AI, така че тези с ниски залози или тези устойчиви приложения. Какви са тези приложения? Ако вземем всички приложения, при които се нуждаете от лично наблюдение, кои са тези? И ние ги изваждаме и тогава какво остава?
Пол Шривастава (08:15):
Нека да продължим да говорим за периода на антропоцена. Процесите, които поддържат живота, сега се променят, ако не се сриват напълно. Как можем да използваме напредъка в дигиталния свят, който сте обхванали по толкова много различни начини, за да смекчим човешкото въздействие върху околната среда и да осигурим устойчиво бъдеще?
Кори Доктороу (08:38):
Последният ми роман е роман за това, така се казва Загубената кауза. И това, което се случи в този роман, не е бог бивш. Не сме измислили как да уловим въглерода със скорост, която противоречи на всички съвременни съвременни технологии. Но това, което направихме, е, че го приехме сериозно. Ето ни, нали знаете, в капан в този автобус, който се носи към скала. А хората от първите редове и първа класа продължават да казват, че няма скала. И ако има скала, ние просто ще продължим да ускоряваме, докато не я преодолеем. И едно нещо, което знаем със сигурност е, че не можем да се отклоним. Ако завием, автобусът може да се претърколи и някой да си счупи ръката, а никой не иска счупена ръка. И това е книга, в която хората хващат волана и се отклоняват. Където милиони хора са ангажирани в много сериозни дългосрочни проекти за извършване на неща като преместване на всеки крайбрежен град на няколко километра навътре.
Кори Доктороу (09:32):
И тази адаптация към климата, когато я обмислите, е доста главозамайваща. Може да се почувства малко деморализиращо да си помислим, добре, предполагам, че целият свободен труд, който всеки има за следващите 300 години, ще отиде в поправянето на тези глупави грешки, които направихме преди. И така, това е книга, която е за този проект. И става въпрос за преследване на този проект според прозренията на мой скъп приятел, който наскоро написа много добра книга, Деби Чакра, чиято книга се казва Как работи инфраструктурата. А Деб е учен по материали и тя посочва, че енергията всъщност е безкрайно изобилна, но материалите са много оскъдни. И все пак през по-голямата част от човешката история ние се отнасяхме към материалите като към изобилие, използвахме ги веднъж и ги изхвърлихме. И ние третирахме енергията като оскъдна. И има техническа преориентация, която е скрита в тази книга и която Деб прави много ясно в книгата си, в която ние правим неща като използваме повече енергия, за да произвеждаме неща, така че те да бъдат по-лесно разложени обратно в материалния поток.
Пол Шривастава (10:38):
Изглежда сме заети да поглъщаме планетата с безпрецедентна скорост. И може ли научната фантастика да бъде помощ по някакъв начин в подпомагането на хората да преформулират светогледа си, така че да е по-съвместим с това, което се случва тук – нашите предизвикателства на тази планета?
Кори Доктороу (10:54):
Е, и това е нещо, за което пиша след романа си Тръгвам си, през 2017 г. Тази идея, че изобилието произтича от достъпа до материал, но също и от социалното конструиране на това, което искаме. И накрая, ефективността на дистрибуцията на стоки. Така че аз съм собственик на жилище и това означава, че три пъти в годината трябва да направя дупка в стената. И така, притежавам бормашина и на шега я наричам минималната жизнеспособна бормашина. Това е бормашина, която е икономически рационална за притежаване от някой, който прави три дупки годишно. И трябва да отделя цяло чекмедже за съхранение на тази ужасна бормашина. И това, което осъзнавате, е, че плащате огромен данък, както за калибъра на стоките, които имате, така и за наличието на пространство в дома ви, за да поддържате достъп до неща, от които рядко се нуждаете. Има друг вид тренировка, понякога я наричам тренировка на библиотечния социализъм, където има просто стохастичен облак от тренировки във вашия квартал, които знаят къде се намират, които поддържат телеметрия за тяхното използване, за да подобрят бъдещото производство. Те лесно се разлагат обратно в материалния поток. И винаги можете да хванете бормашина, когато имате нужда от нея, и това е най-великата бормашина, правена някога.
Кори Доктороу (12:08):
Умножете това по косачките и допълнителните чинии, които държите за Коледа или вечери, както и всички други неща, които са в къщата ви и които не ви трябват през цялото време. И това е свят на огромно изобилие. Това е повече лукс. И когато комбинирате тези три неща, ефективността на използването на материали и енергия, координиращия характер на технологията и инженерството на нашето желание, има бъдеще, в което живеем с много по-малък материален и енергиен отпечатък и имаме много повече луксозен живот. Живот на огромно изобилие.
Пол Шривастава (12:42):
На това обнадеждаващо съобщение ще ви задам един последен въпрос. И това е, ако имаше един урок, който науката да научи от научната фантастика, какъв би бил той в съзнанието ви?
Кори Доктороу (12:56):
Бих казал, че най-важното нещо, което научната фантастика прави по отношение на науката, е да предизвика социалните отношения на технологията и на научните открития и научните знания. Най-важният въпрос за технологията рядко е какво прави това? Но по-скоро за кого го прави и на кого го прави? И тази технология под демократичен контрол е много различна от технологията, която се налага на хората.
Идеята, че технология, проектирана със смирението да разбере, че не можете да предвидите обстоятелствата, при които тази технология ще бъде използвана – и така оставяте пространство за самите потребители да я адаптират – това е най-добрият от всички технически светове. И всеки език има име за това. Бихте могли да го наречете бодж, което понякога е малко пейоративно. Но мисля, че всички харесваме добър бодж. На френски това е bricolage. На хинди това е джугаад.
Пол Шривастава (14:00):
Джугаад!
Кори Доктороу (14:02):
Всеки език има дума за това и ние я обичаме. И само чрез смирението да предвидим неочакваното, ние сме достойните предци на нашите интелектуални потомци, които ще дойдат след нас.
Пол Шривастава (14:22):
Благодарим ви, че изслушахте този подкаст от Центъра за бъдещето на науката на Международния научен съвет, направен в партньорство с Центъра за човешко въображение на Артър К. Кларк в Калифорнийския университет в Сан Диего. Посетете futures.council.science, за да откриете повече работа от Центъра за бъдещето на науката. Той се фокусира върху нововъзникващите тенденции в научните и изследователските системи и предоставя опции и инструменти за вземане на по-добре информирани решения.
Пол Шривастава, професор по мениджмънт и организации в Пенсилванския държавен университет, беше домакин на серията подкасти. Специализирал е в изпълнението на Целите за устойчиво развитие. Подкастът също е направен в сътрудничество с Центъра за човешко въображение Артър С. Кларк към Калифорнийския университет в Сан Диего.
Проектът беше наблюдаван от Матийо Денис и носени от Донг Лю, от Център за бъдещето на науката, мозъчният тръст на ISC.
снимка от Елименде Инагела on Unsplash.
Отказ от отговорност
Информацията, мненията и препоръките, представени в нашите гост-блогове, са на отделните участници и не е задължително да отразяват ценностите и убежденията на Международния научен съвет.
Прочетете повече за „Наука без граници: Международно сътрудничество за следващото поколение изследователи“ 
Прочетете повече за преосмислянето на растежа и устойчивостта в изследователската екосистема 
Прочетете повече за Трансдисциплинарната наука: Ранните и средните кариери оформят бъдещето на науката 