Връзки за достъпност

Извънредни новини

Моралът на един робот. Защо се страхуваме от технологиите и те ли са лошите


Думата "робот" е употребена за първи път в пиесата “R.U.R.” на Карел Чапек.

Може ли роботът да има свободна воля? Има автори на научна фантастика, които повдигат често този въпрос, той не е толкова "отвлечен".

Робот чупи пръста на 7-годишно момче по време на шахматен турнир. Такава "новина" плъзна преди дни в медии по целия свят, включително и български. Не защото събитието е значимо само по себе си, а защото изгражда образ на агресивния, а на всичкото отгоре и умен робот, нападнал дете. Умен, защото умее да играе шах, а не защото е съзнателен.

Бунтът на машините

Неедин популярен сюжет се занимава с идеята за човешко унищожение, причинено от машини, създадени пак от хора.

Преди да тръгне да убива астронавти, HAL 9000 от “Одисея в космоса” на Стенли Кубрик също играе шах. Самата дума робот е употребена за първи път в пиесата “R.U.R.” на Карел Чапек, която разказва за умни машини, въстанали срещу човешкото потисничество. Репликантите в култовия “Блейд Рънър” на Ридли Скот не се спират пред нищо в търсене на начин да удължат живота си.

Сред популярните по-скорошни и параноични примери е сериалът “Черно огледало”, който разглежда най-лошите сценарии за бъдещето ни редом с високите технологии. Поради факта, че е своеобразен отговор на слепия технооптимизъм на Силициевата долина, сериалът се занимава с нашумели понятия и приложения, които всички често използваме.

Доколко “истински” са обрисуваните в сериала сюжети? Приблизително наполовина – във всяка серия е представена повече актуална реалност, отколкото средният зрител може да предположи, както и употреби на технологиите, които надали ще са възможни толкова скоро.

Ролята на фантастичните сюжети

Има един съвременен фантаст, който е силно повлиян от автора на литературната “Одисея в космоса”. Той се вглежда в изкуствения интелект поне толкова хуманно, колкото Филип Дик и Карел Чапек, и твърди малко по-умерени неща за технологиите и за страха от тях.

Според американския писател от китайски произход Тед Чанг, чиито разкази вече четем и на български език в превод на Владимир Полеганов, ролята на научната фантастика не е толкова да алармира, а да отваря ума и да ни показва, че светът може да е по-различен.

Жанрът прави това, като спекулира около приложението на дадена идея и възможните последващи развития. Важното не е какво точно ще бъде бъдещето, а как е построено настоящето, доколко внимателни сме към нещата, които ни заобикалят сега и ще предпоставят следващите. В този смисъл история за летящи коли например не е нужно да предвижда, че ще конструираме тъкмо такива автомобили. Като разглежда възможните ефекти на летящите коли върху транспорта, трафика, шумовото замърсяване, една такава история може да ни накара да се замислим как обикновените днешни коли са променили света и колко неусетно е станало това.

Моралната отговорност на робота

Една от постоянно завръщащите се теми в разказите на Тед Чанг е понятието за свободна воля.

В новелата “Историята на твоя живот”, екранизирана от Дени Вилньов под заглавието Arrival или "Първи контакт", лингвистката Луиз разбира, че няма как да промени бъдещето. Но това не я лишава от воля, просто ѝ дава ново понятие за това какво всъщност представлява свободната воля.

Темата е засегната и в другата особено известна новела на Чанг – Lifecycle of Software Objects – разликата между обработването на информация и интелигентността се състои именно в свободата на избора. Да можеш, независимо дали си човек, или друго същество, да използваш получената информация и да действаш различно въз основа на нея.

Що се отнася до волята на машините и възможността един ден да носят морална отговорност, пред нас стоят три въпроса:

  • можем ли да създадем машини, които да са морални агенти;
  • ще го направим ли;
  • трябва ли да го правим.

Според Тед Чанг отговорът на първия въпрос е да. Можем да заключим, че няма физични пречки, доколкото самите ние сме много сложни машини и сме морални агенти. Следвателно, макар да не се знае колко време ще отнеме, не е невъзможно. Дали ще го направим? От една страна, би било нерентабилно – подобно начинание би струвало колкото цялата програма “Аполо” или повече. От друга страна, днес има неприлично богати хора, които хвърлят купища пари за каквото поискат. Възможно е някой от тях да реши, че иска това.

Дали трябва да създаваме машини, способни да действат морално? Според Чанг категорично не. Аргументите му са следните: много преди да имаме машини, чиито действия имат морално измерение, ще сме създали машини, които са способни да страдат. А в стълбицата на развитието страданието сякаш предхожда моралната действеност. Кучетата например не са морални агенти, но страдат. Бебетата могат да страдат, преди да имат морална действеност. В процеса на създаване на съзнателни машни ще създадем милиони или милиарди единици, способни да изпитват страдание. И със сигурност ще им го причиняваме.

По-вероятно е ние да третираме машините зле, отколкото те нас

Но защо бихме причинявали страдание на машините? Не непременно умишлено. Защото относително бързо след гръмкия анонс на новооткритата технология, тя ще заизглежда банално, както се е случило дори с телевизията. Машините няма да ни приличат достатъчно на живи същества и ние ще им причиняваме страдание, без да забелязваме. Добре знаем например, че животните страдат. Отглеждаме някои като домашни любимци, обичаме ги и въпреки това третираме животните зле. А какво остава за софтуера, който все още не сме обикнали и който стои по-ниско в йерархията.

Ювал Ноа Харари си представя, че ще създадем изкуствен интелект, който ще е много по-умен от нас, но Чанг е по-скептичен и не смята, че това ще се случи достатъчно бързо. В редица интервюта обаче той защитава теза, всъщност сходна с някои от тезите на Харари: че се страхуваме не от напредъка на технологиите, а от тяхната употреба.

Защо все пак се страхуваме от технологиите?

От една страна, в съзнанието ни технологиите са дълбоко свързани с капитализма, т.е. с идеята за непрестанна оптимизация с цел натрупване. Но, както настоява Чанг, ако изгубиш работата си, защото си бил заменен с робот, това няма да е заради същностна характеристика на технологията, а заради същността на системата, която я е произвела, разпространила и наложила. Следователно страхът от технологиите е всъщност страх от начина, по който се развива глобалната ни икономика. А също и страх от изпадане и унищожение не в ръцете на роботите, а в бездушната логика на Вселената.

Автори като Тед Чанг са необходими, доколкото защитават, подобно на споменатите вече Филип Дик, Карел Чапек, а защо не дори Мери Шели, създадените същества, които биват пренебрегвани подобно на много хора по света. Става дума за умерена и много добре промислена покана да си представим не много по-различен свят, но по-хуманно отношение към самите нас.

* Становищата, изказани в рубриката „Мнение“, могат да не отразяват позицията на Свободна Европа.

  • 16x9 Image

    Надежда Московска

    Надежда Московска води предавания за литература по Програма "Христо Ботев" на БНР. Тя отговаря и за комуникациите на издателство "Колибри". Вълнува се от проблемите на превода и тълкуването и ги търси в литература, кино, музика, медии, а често и в съвсем ежедневен контекст.

Facebook форум

XS
SM
MD
LG