Изкуственият интелект: краят на човешката ера?

Автор: проф. Сергий Теодоридис

Би било банално да  повтаряме, че нашата епоха се характеризира исторически като начало на четвъртата индустриална революция. Първата индустриална революция се свързва с използването на парата за задвижване на машините, а нейното начало се поставя някъде в края на 18 век. Втората индустриална революция започва с използването на електричество, от една страна, и с научно организирано масово производство, от друга. Третата индустриална революция се основава на автоматизацията на машините, използването на електроника и транзистори и обработката на информацията, съдържаща се в данните. Четвъртата индустриална революция е развитие на третата и е резултат от сближаването на компютърните и комуникационните технологии (интернет). Основната разлика от предишните три е, че при четвъртата революция освен ръчния труд интелектуалният труд, който преди това е бил извършван от хората, е заменен от „машини (апарати)“. Това е качествено важна разлика, която не ограничава използването на „машините“ само в областта на индустриалното производство (фабрики), а разширява използването на „машините“ в целия спектър на нашия икономически живот (търговия, услуги) и същевременно включва „машините“ в начина, по който се забавляваме (музика, филми), в начина, по който осъзнаваме социалното си съществуване като социални същества (социални мрежи), в начина, по който функционираме и се информираме като граждани (медии), в начина, по който интегрираме новите поколения в обществото (образование), и в начина, по който създаваме нашето бъдеще (изследвания, идеологии, култура). С други думи, динамиката на четвъртата индустриална революция създава и оформя, пряко, а не косвено, нова среда, в която човекът, като социално същество, е призван да живее и твори. Тази нова среда се характеризира с конвергенция и обединение на сферите на реалния, цифровия и биологичния „свят“.

Написани са десетки книги, стотици статии в печатната и електронната преса, проведени са много дебати по телевизията, на конференции и в интернет има множество видеоклипове. По-голямата част от съответните изказвания обаче се отнасят до въздействието на новите технологии върху пазара на труда и трудовите отношения, опасенията, свързани с безработицата, от една страна, и възможностите за нови работни места, от друга. Дискутират се опасностите, които тази нова среда крие за функционирането на демокрацията и институциите, за неприкосновеността на личния живот, за сигурността, за потенциала за ограничаване на общественото мнение, от една страна, но и за новите възможности за по-пряка демокрация и по-информирани граждани чрез по-свободен поток от идеи, но и за риска от фалшифициране на събития чрез социалните мрежи. Дискутират се (техно)фобийните чувства, които се пораждат в зората на тази нова ера и се използват от „идеологическите“ търговци, които благовестят комфорт чрез крайни идеологически/религиозни системи, от една страна, но в същото време и освобождаващия импулс и възможностите, които предлагат новите технологии, като например намаляването на работното време, гарантираният минимален доход и възможностите за удължаване на продължителността на живота чрез развитието на медицината и възможностите на така наречената „персонализирана“ медицина.

Много по-малко обаче е писано и обсъждано за самата технология, която движи това развитие, а именно технологията на изкуствения интелект и дълбоките невронни мрежи. В тази статия ще се спрем на този аспект и на някои „философски“ последици, произтичащи от него, с прости, много прости думи. Нашата цел е да „демитологизираме“ тези технологии. Подобна демитологизация е предпоставка за посрещане на предизвикателствата на новата епоха. Нека не забравяме, че политическите теории, идеологиите, а оттам и самата човешка цивилизация, както и теченията, които я оформят с течение на времето, представляват „наративи“. Те са съвкупност от ценности, възприятия и поведения, чрез които възприемаме съществуващия свят и се свързваме с него. А „митовете“ играят доминираща роля при формирането им.

„Митовете“ имат множество прочити. Те могат да активират и да създават визии, от една страна, но могат и да фанатизират и да дезактивират, от друга. Често и двете едновременно.

В зависимост от епохата доминиращият „мит“ може да подхранва чувството за малоценност, чувството за незначителност и склонността да се приемат събитията като неизбежни. Той може да подкопава самочувствието на гражданите и съответно техния оптимизъм – предпоставка за бъдещето им – и по този начин да ги лиши от способността за критично отношение и намеса. И още по-лошо – може дори да  засили в тях чувството на страх. От друга страна, същият този „мит“ може да действа и като оръжие в ръцете на силните представители на съществуващата или на новата възникваща управляваща класа във времена на големи сътресения като нашите. Новият „мит“, който винаги се създава в нови „епохи“, съзнателно или несъзнателно, умишлено или неумишлено, може да действа като пречка и като препятствие за социалните интервенции, необходими за постигане на нови баланси и институционални щитове… И, разбира се, тези митове се използват от съответните нововъзникващи „жреци “ и съответните лидери на „системата“, които понастоящем са представени – показно  – от Силициевата долина в САЩ и Шънджън в Китай. Всяка нова епоха съдържа семената на един „фундаментализъм“, който често предопределя развитието.

Настощият „мит“ или, ако искате, един от аспектите на новия „мит“ насърчава възгледа, че гореспоменатите машини имат „интелект“. Настоящият мит „пропагандира“, че тези машини ще изместят човека, защото ще станат по-висши. Настоящият мит предвижда, че тези машини ще се наложат над човека заради своето превъзходство и интелигентността, която произвеждат. Настоящият мит благовести, че скоро научните постижения на изкуствения интелект (ИИ) ще създадат „машини“ със свръхчовешки интелект и че епохата на човека  приключва. Да, всички тези възгледи са изразени от така наречените „гурута“ на новото време. Така, имплицитно, човекът се оприличава на друга „машина“ и дори отстъпва на тези, които сам е създал. Не знаем какво може да се случи в бъдеще и тази статия не е научна фантастика. Статията е написана от университетски преподавател, който се занимава с тази тема от няколко десетилетия, а коментарите ни се отнасят до това, което може да се предвиди въз основа на научното настояще и технологичните събития днес. И ако перифразирам думите на Витгенщайн, пиша за това, за което мога да пиша. За останалите ще замълча.

Твърдим, че терминът „изкуствен интелект“ не е изпитан и вероятно е подвеждащ. Интелигентността на днешните компютри може да се сравни само с интелигентността на човешкия вид преди няколко милиона години. Днес „машините“ с изкуствен интелект не могат да правят нищо повече от това да „предвиждат“ въз основа на предишния си опит, заложен в данните, събрани и използвани за така нареченото им обучение; т.е. както котката „предвижда“ какво ще се случи, когато види куче, и въз основа на предишния си опит си бяга, както  човекът в древността е можел да предвиди, че слънцето ще изгрее, защото е изгряло вчера и по-предния ден и т.н, но в деня на слънчевото затъмнение той ще се паникьоса и ще призове духовете. Интелектът на машините днес е ограничен до т.нар. дедуктивно мислене. Това е типът интелигентност, който доминира в животинското царство.

Но това, което отличава човешкия интелект от тази на животните, е способността за разсъждение, способността да се правят логически асоциации и най-вече способността на човека да тълкува и обяснява; да създава хипотези и да ги проверява или отхвърля. Човешкият интелект се характеризира най-вече със способността на ума да създава понятия и идеи, които съдържат обобщения, и да ги обработва. Светът, който ни заобикаля, е особено сложен, за да можем да го възприемем във всичките му детайли. В продължение на милиони години еволюция човешката интелигентност е придобила способността да обработва абстрактни понятия/идеи – представи в ума, които не произтичат директно от сетивния ни опит. В света не съществува математическа „права линия“. Този свят на идеите събудил любопитството на Платон и той стига до една  хипотеза. Тези абстрактни понятия дават на човека възможност да опростява и същевременно да „кодира“ квинтесенцията на предметта на мисълта. Както казваме в машинното обучение, човешкият ум има способността да обобщава и представя „класове“ от обекти и същности. С други думи, идеята/класът „котка“ представлява всички котки, независимо от размера, цвета, възрастта и всички особености, свързани с всяка конкретна котка. И преди всичко, това е способността на ума, с помощта на езика, да възприема света около себе си, да му „вложи“ значения/смисли и да твори.

Творчеството е квинтесенцията на човешкия интелект. Не само в смисъл на създаване на произведения на изкуството или научни открития, но и в ежедневието ни. Всяко човешко същество създава себе си всеки ден. Решенията ни за каквото и да било не са предопределени/предвидими. Никой не може да предвиди, започвайки една връзка, каква ще бъде тя след един месец. Никой не може да предвиди бъдещето на работата си след една година и какви решения ще трябва да вземе тогава. Човешкият ум се учи и взема решения в постоянно променяща се среда. И най-вече, решенията му се основават на непълно и неясно знание. Защото човешкият ум, в продължение на милиони години еволюция, е развил механизми за интелигентност/интелект, които използват не само неговата логика, но също така, едновременно и чрез процес, който все още не сме разбрали напълно научно, неговите емоции и чувства (в допълнение към инстинктите, разбира се). Защото човек използва тялото си (т.е. сетивата си), за да учи. Защото човекът не е „мозък“ в бутилка, а живее в света.

Картезианският дуализъм „ум-тяло“ отстъпва място на нови теории, водени от философите Мерло-Понти, Полани, Драйфус, потвърдени от откритията в неврологията. Движението ни в триизмерния (т.е. този, който възприемаме пряко) свят, който ни заобикаля, инструментите, които използваме, и съответните умения, които „научаваме“ и се запечатват в съзнанието, са резултат от сътрудничеството между ума, тялото и чувствата. Преди всичко, ние не усвояваме умения чрез просто подражание, както правят маймуните. Не научаваме специфични движения и не изолираме стимули. По-скоро от един контекст, от цялото и с помощта на съдействието на различните ни сетива научаваме общ тип решение, което съответства на общ тип проблем. По този начин, благодарение на тази всеобхватност на ученето, човек може да се сблъсква и да решава проблеми, различни от тези, които са част от неговия предишен опит. Той може да създава и пренася знания в нови ситуации. Тези ситуации могат да бъдат много различни една от друга и дори да се различават в отделните си детайли, стига да имат обща критична точка, която ги прави част от общото третиране. С други думи, основната характеристика на човешкия интелект не е (дедуктивното) прогнозиране въз основа на предишен опит, а творчеството, което използва предишни знания, но не като имитация, а като трамплин за обобщаване, концептуализиране и обяснение.

За разлика от човешкия интелект, бихме казали, че „машините“, които понастоящем прилагат техники за машинно обучение, са екзистенциално „глупави“. По същество техниките за машинно обучение представляват статистика. Чрез данните от наблюденията те научават статистическите свойства и след това прогнозират. Например, ако много пъти сме виждали сиви облаци и сме чували гръмотевици, прогнозираме, че ще вали. Подобно на птиците. Точно това правят статистическите модели и на това учим нашите ученици от десетилетия. Какво се е променило? Първо, обемът на данните, които използваме за „обучение“ на „машините“, обемът на данните, които използваме, за да научим съответните статистически свойства, е несравнимо по-голям от този, с който разполагахме, да речем, преди 10-15 години. Второ, изчислителната мощ е много по-голяма от тази, която имахме преди 10-15 години. Така че сега можем да използваме някои по-сложни модели за моделиране на статистическите свойства на данните. Но основната методология остава непроменена от десетилетия. Т.нар. невронни мрежи, за които сме вдъхновени от структурата, по която работи мозъкът (между другото, тяхната функция има много малко общо с работата на мозъка), са математически модели, които ни позволяват ефективно да кодираме информацията в данните. С други думи, тези модели, чрез йерархия от представяния  и математически трансформации на информацията, улесняват извличането на статистически свойства в сравнение с по-старите модели, които използвахме.

След като сме обучили статистическия модел, т.е. научили сме статистическите свойства на данните, когато имаме нови данни, можем да правим прогнози с определени вероятности. Тъй като тези модели са мощни и доста общи, грешките в прогнозите са много малко. Тези прогнози имат впечатляващ процент на успеваемост.

Това, разбира се, е при условие, че статистическата структура и информация в новите данни, за които правим прогнозите, са много сходни с тези в данните, върху които е обучена мрежата. Когато една мрежа предсказва, че обектът в изображението е например котка, мрежата не е създала „понятието“ за котка по време на обучението си. Тя просто разчита на статистическите характеристики, които е „научила“ за котката. За по-голяма простота нека кажем, че тези характеристики са дължината, цветът, структурата на козината, четирите лапи, опашката, формата на носа и т.н. За да се обучи една мрежа, са необходими хиляди данни за обучение, т.е. изображения на котки в различни цветове, в различни пози, с различни размери и т.н. За разлика от тях, детето се научава да разпознава котките веднага щом види една, а може би и две. То веднага създава „понятието“ за котка и това е всичко. Нещо подобно се случва и при превода от един език на друг. Чрез милиони текстове, преведени от един език на друг, „машината“ научава възможността следващата дума да е, да речем, „вода“, когато предишните думи са били „чашата е пълна“. За разлика от това, човекът, от една страна, разбира „смисъла“ на всяка дума, а от друга, има способността да се съсредоточава върху най-важните части на изречението, след като първо е разбрал „целия“ смисъл, т.е. за какво се отнася изречението.

С други думи, технологията за машинно обучение днес ни напомня за ученика, който не е разбрал нищо, но е запомнил всичко благодарение на много добрата си памет. Така, ако му се зададе въпрос за нещо, което е запомнил, или нещо много близко до него, той отговаря правилно (прогноза въз основа на статистиката). Ако въпросът е малко по-различен или думите, с които е формулиран, са различни от думите, които е запомнил, той дава грешен отговор. Същото важи и за техниките за машинно обучение. Може да разпознават обекти на снимки и лица с удивителен успех, но в същото време, ако променим малко данните по начин, по който никой човек не би могъл да забележи такава промяна, вместо „котка“ машината може да направи прогноза, например, „жилищна сграда“ (това са т. нар. в машинното обучение „противоположни примери“). Хората обработват  понятия и значения, а машините обработват статистически данни като безсъзнателен процес.

Исторически погледнато, областта на изкуствения интелект започна амбициозно някъде около 50-те години на миналия век. Тогава Тюринг поставя въпроса: „Могат ли машините да мислят?“. Тогава започват да си представят и конструират машини, които да могат да мислят – машини, основани на синтактични правила и логическа обработка на символи. Въпреки че тласъкът е даден от първите компютри, създадени по онова време, и теориите на Тюринг, тази визия и цел е продължение на многовековна философска традиция в западната философия от Платон насам. Това е тенденцията „умът“ да се тълкува като алгоритмичен процес, който обработва символи, теорията, че всяка мисъл не е нищо друго освен операции върху добре дефинирани символи/понятия в рамките на правилно дефиниран математически формализъм. Донякъде аналогично на законите на физиката, които могат да бъдат изразени чрез математически модели и символи, човешката мисъл може да бъде изразена чрез синтактични логически правила. Характерно за Хобс е, че „мисълта (разумът) не е нищо друго освен пресмятане  (reckoning)“. По-късно Лайбниц се опитва да разработи система на символен език, в която всяко понятие би имало пълно определение и символ и би могло да се изрази като функция на някои основни понятия, като по този начин цялото знание би могло да бъде представено „обективно“. Тази философска линия достига своята кулминация с логическия индивидуализъм на Ръсел и ранния Витгенщайн, който в своя класически труд „Трактат“ твърди, че знанието се състои от „отделни“ факти, които могат да бъдат изразени чрез независими логически пропозиции. Според тази философска тенденция мозъкът не е нищо друго освен алгоритъм. Мински, един от пионерите на изкуствения интелект, оприличава мозъка на „машина за месо“.

Въпреки първоначалните впечатляващи успехи през 50-те и 60-те години на миналия век, областта на изкуствения интелект не се развива. Тя вдигаше ръце, когато проблемите ставаха по-сложни. Има две основни причини:

Първо, дори ако мисловният процес може да бъде формализиран и сведен до управление на логически синтактични правила в контекста на формален език, броят на комбинациите и логическите връзки, необходими за вземане на решение, е извън възможностите на цифровите компютри.

Могат да се решат само малки проблеми. Това се дължи на сложността на реалността и на големия брой възможни непредвидени ситуации в живота. Това е все едно да поискате от шахматист да изчисли всички възможни комбинации на всички бъдещи ходове. Но това е невъзможно. Шахматистът може да изчисли само сравнително малка комбинация от бъдещи ходове; добрите шахматисти – повече, а по-малко опитните/добри шахматисти – по-малко. Освен това дори компютрите, които играят шах, далеч не следват този комбинаторен метод. Много скоро, след сравнително малък брой бъдещи ходове, необходимият брой изчисления ще отнеме толкова време, колкото е животът на нашата Вселена!

Второ, понятията не могат да бъдат описани чрез различими символи. Всяко понятие придобива значението си чрез своя контекст. То няма обективна същност. Няма точни определения. От философска гледна точка това озадачило Платон и Аристотел и е известно още от онези времена.

Човешкият ум се сблъсква с първата трудност, свързана с управлението на голям брой възможни непредвидени ситуации, като решава кое е „важно“ или не във всяка една конкретна ситуация. Механизмът на вниманието/фокуса се задейства, за да освети най-важната информация. От множеството възможни непредвидени обстоятелства голям брой от тях се изключват, както съзнателно, така и несъзнателно. Изключването на непредвидени обстоятелства е резултат от невробиологични процеси, които се развиват в мозъка, стимулирайки или дезактивирайки неврони в различни области на мозъка, и където усещанията, емоциите, чувствата, ценностните системи, преживяванията, запечатани в активната памет и в подсъзнанието, и всичко останало, което наричаме сегашно състояние на ума, работят заедно, стимулирайки съответните физически представи в невроните на мозъка, от които се определя сегашното състояние на ума. С други думи, еволюционно по-висшата част на мозъка (неокортексът), която се стимулира от процесите на мислене и възприятие (рационална), е в пълно сътрудничество с по-примитивната, ирационална част (хипоталамус, мозъчен ствол и лимбична система), за да се изключат непредвидени ситуации и по този начин да се разсъждава върху подмножество от възможни непредвидени ситуации, така че да се стигне до окончателно решение за кратко време. Често говорим за „интуиция“, за да изразим съвкупността от всички тези несъзнателни процеси, които помагат на мисленето да стигне до решения, което е основната цел на мисленето.

Както посочва Дамазио в книгата си по темата, след унищожаването на части от мозъка, свързани с емоциите, пациентите губят способността си да вземат решения. Намаляването на емоционалните способности се свързва и с прояви на нелогично интерпретируемо поведение. В крайна сметка всички знаем това от личен опит. Когато сме емоционално натоварени, логическите асоциации и решенията, които следват, не следват същия „път“, както ако бяхме в друго психическо състояние. Освен това опитът, личните ценности и социалните стереотипи на всеки човек до голяма степен определят начина, по който реагираме, и решенията, които вземаме във всеки отделен случай. Това, което се случва в мозъка, е, че всичко това автоматично (несъзнателно) регулира мрежите на взаимодействие на невроните, така че да ограничават пространството/броя на възможните непредвидени ситуации, които потенциално би трябвало да разгледаме, за да можем да вземем решение.

Нито едно от горепосочените неща не прилича на „алгоритъм“. Алгоритъмът се състои от предварително определени логически стъпки, действащи върху точно определени символи. Онези, които казват, че мозъкът е алгоритъм, или не знаят какво е алгоритъм и/или как работи мозъкът. Физико-химичните процеси, които протичат в мозъка, не са алгоритмични. И разбира се, когато говорим за физико-химични процеси, нямаме предвид ума, а физическия субстрат, съставен от неврони. Умът е потокът от субективни преживявания, той е начатакът наа творчеството и въображението. Мозъкът се състои от милиарди неврони, синапси и електрохимични процеси. Умът е съзнание. През последните двадесет години бяха проведени значителни изследвания на функционирането на мозъка и днес знаем много повече, отколкото преди няколко години. Но досега нямаме и най-малка представа как мозъкът и умът си взаимодействат. Според философа Чалмърс изучаването на мозъка е „лесният“ проблем. „Трудният“ проблем е да разберем как този комплекс от взаимодействащи си неврони и йонен обмен е свързан с това, което наричаме ум и съзнание. Науката все още не е дала отговори, а философите спорят относно тълкуването.

Вторият аспект, който отличава човешката мисъл от философския възглед, който „вижда“ ума като алгоритъм, е, че човешкият ум не борави ясно и добре с определени символи, а с неясни понятия. Кой може да дефинира понятията „щастие“, „свобода“ или „благочестие“? Последното понятие и неговата дефиниция занимава Сократ в Платоновия „Евтифрон“. В продължение на милиони години еволюция мозъкът/умът е разработил стратегии за справяне с неяснотите. „Цялото“ осмисля индивида и не е структурирано от отделни независими части. Според философа Хусерл и неговия феноменологичен подход начинът за възприемане на сложни модели е чрез създаването на първоначално неясно и неточно определено „цяло“, което след това постепенно се попълва с детайли, извлечени от предишния ни опит и спомени. Думата (частта) придобива значението си в контекста на фразата (цялото) и нашия по-общ предишен опит. Лингвистите знаят това много добре. В музиката всяка нота придобива своята музикална стойност чрез цялата мелодия. И както казва Витгенщайн, „устата се усмихва само в рамките на лицето“. С други думи, тълкуването на „частта“ зависи от „цялото“, в което тя съществува. За разлика от тях, в един цифров компютър, чието функциониране се основава на използването на формални езици, „цялото“ се изгражда от отделните елементи чрез комбинация от логически операции и синтактични правила.

С предходната дискусия се опитахме да изясним, че това, което наричаме човешки интелект, засега няма нищо общо с това, което наричаме изкуствен интелект, още по-малко с клона на изкуствения интелект, известен като машинно обучение, който в момента е движеща сила на развитието, въпреки че те могат да изглеждат сходни и да изпълняват сходни функции. Машинното обучение заимства силата си от компютърните технологии за съхраняване на огромни количества данни и много бързо извършване на числени изчисления. Тук човекът изостава, както  изостава да се справи със силата на ръката си в сравнение с булдозера. От друга страна, човешкият интелект се гради върху абстрактната сила на понятията и смисли и на съгласуваността, осигурена от вродения еволюционно творчески стремеж. Компютрите са неинтелигентни обекти. Акцентът в компютрите е върху конкретното, подробното, специфичното, конкретните данни, въз основа на които те оптимизират работата си. Компютрите се основават на алгоритми, които оптимизират с акцент върху съществуващите данни, т.е. „миналото“. Те се основават на „факти“. При човешкия интелект акцентът е върху постоянно променящото се „цяло“. Както ни казва Хайдегер, „крайната цел на едно решение в човека не е да постигне една цел, която бележи края на един път. Във всеки един момент ние пренастройваме съвкупността от преживявания и планираме действията си, като се фокусираме и избираме според настоящата ситуация и нуждите си в момента.“ Човекът не е събитие или съвкупност от събития. Човекът създава събитията и себе си, като живее в света. Както казва Пиаже, нашият интелект се създава чрез „концептуални революции“.

Разликата между човешкото творение и компютърния модел е, че това, което сме „днес“, не би могло да се предвиди  от това, което сме били „вчера“. За разлика от моделите за машинно обучение, „днес“ може да се предскаже от „вчера“. Това е мястото, където компютърът изостава. Бихме могли да кажем, че понятието „настояще“ има съвсем различно значение при човека и машината. В „машините“ настоящето придобива огромно значение, защото оптимизираме моделите си, сега и тогава, за конкретна цел. Човек, както ни казва и Паскал, забравя „настоящето“ и когато си спомня за него, то е, за да види лъча светлина, който то оставя, за да освети плановете ни за бъдещето.

Един от въпросите, които възникват, е доколко „машините“ биха могли да придобият интелект като тази на човека. Нашият отговор е: може би. И в момента се провеждат изследвания и инвестиции в тази посока, която на малко по-технически език се нарича силен изкуствен интелект. Предпоставка за това, разбира се, е да  разберем как всъщност работи човешкият интелект. Знаем някои от неговите характеристики и предпоставки. А именно памет, съзнание, смисъл. Но не знаем как точно се създават и как работят. Тоест как от физическите неврони и биохимичните процеси, протичащи в мозъка, се изгражда съзнанието в ума, как се създават понятия, идеи и значения, как се създава това, което наричаме разбиране.

Ако си позволим аналогия, ние познаваме много добре химията на ДНК и гените, които изграждат елементите на живота. Но не ние сме създали живота. Засега интелектът, който съществува в машините, е разработен от човека. Част от човешкия интелект и творчество са „имплантирани“ в „машината“, която просто извършва аритметичните действия – ако искате да го кажем така. Според нас бихме могли да говорим за „машини“ с интелект само ако те могат да генерират нови знания по време на изпълнението на програмата, а не само в процеса на разработване на програмата от програмиста. В същото време „машината“ трябва да може да „обясни“ защо и как. Самото прогнозиране не е интелект, ако не е придружено от обяснение. Усъвършенстването на „машините“, за да се преструват, че мислят, не е същото като мисленето.

От всичко казано дотук някой може да предположи, че се опитваме да омаловажим постиженията на технологията. Не е така. Постиженията са огромни и достойни за удивление, не само по отношение на приложенията, но и на научното творчество. Това, което искаме да подчертаем, е, че тази технология е – или поне трябва да бъде – това, което са били предишните, т.е. още един „инструмент“ в услуга на човека и неговите нужди. Тя е допълнителен инструмент в историческото му творческо пътуване, наречено „цивилизация“. И както всяка нова технология, тя създава нова среда, в която човекът трябва да функционира и да живее. В тази нова среда ще създадем своите нови ценности и „значения“, своя нов разказ, своята екзистенциална сфера, както би казал Киркегор.

Това, което се опитахме да подчертаем в казаното по-горе, е, че опасността не е от това, че интелектът на „машините“ ще надмине нашия. Опасността е да сведем собствения си интелект до алгоритмичното/статистическото ниво на изкуствения интелект и машинното обучение. Някои от нашите предци са вярвали, че тотемите имат жива енергия и свръхчовешки способности, и се молели на тях. Ако приписваме на „машините“, които създаваме, характеристики на свръхчовешки интелект, това ще се дължи на факта, че сме принизили достойнството на собственото си „съществуване“. С други думи, опасността е, че от творящи „същества“ ще се превърнем в „алгоритми“ или подпрограми на някакви алгоритми. Опасността е да повярваме, че сме „машини за месо“ и да отъждествим „ума“ с милиарди неврони и трилиони синапси, стимулирани от електрохимични процеси, т.е. това, което е „мозъкът“, и да  оставим да се парализира това, което умът наистина е, а именно потокът от субективни преживявания, гняв, тъга, любов, страх, радост, удоволствие, възторг, завист – да, всички те едновременно – и същевременно съзнание, осъзнаване и замисъл за сътворяване и въображение.

Изразяваме опасения, че тенденцията през последните десет години е към алгоритмизиране; превръщането ни от програмисти в програмируеми „мозъци“. От потребители, които контролират технологиите, ние все повече се превръщаме в обекти, използвани от технологиите в новата среда, в която съществуваме, свързани сме (онлайн) 365 дни в годината и постоянно предоставяме данни/информация за навиците и личния си живот. Тези данни се използват, за да ни оформят според картината, която данните и алгоритмите предвиждат за нас. Информацията, която получаваме, новините, които гледаме, и музиката, която ни препоръчват, са различни за всеки от нас. Ние се индивидуализираме, десоциализираме и по този начин по-лесно ни поставят юзди. Обучават ни да бъдем пасивни потребители, а не активни граждани.

Ако изхождаме от гореизложеното, силата и предимството на човека пред машините са неговата креативност и способността му да обяснява и обозначава света със значения. Не да реагира предсказуемо и глупаво. Именно тези елементи трябва да създадат новия „мит“ на новото време. А творчеството има две страни: способността да критикуваш и да мислиш свободно, от една страна, и общителността, от друга. Картезианците казват: „Мисля, следователно съм“ („Cogito ergo sum“). Тази сентенция за момент е изместена от друга сентенция, тази на Витгенщайн: „Разсъждението предполага език, а езикът – общество“. Затова, ако можем, бихме казали: „Мисля, следователно съществувам в обществото“. Ние не казваме „не“ на „машините“, а изтъкваме превъзходството на човека над машините и искаме общество, в което ще боравим с тях, а не те с нас,  и в което сме свободни да изразяваме своята креативност и общителност. Новите знания сами по себе си не предполагат ценностна система.

Съществува това, което знаем, но съществува и посоката, в която искаме да вървим – това, към което се стремим. Ценностите не съществуват в природата, те се създават  в нашето въображение.

През последните години се наблюдава тенденция технологиите, компютрите, кодирането и роботиката да се преподават възможно най-рано в училищата. Да, очевидно не казваме „не“. Но тази тенденция съществува в рамките подготовката за бъдещия пазар на труда; за нашата конкурентоспособност. Не се настройваме негативно по този въпрос. Това е важен аспект на образованието. Но има и друг, по-важен параметър на образованието, а именно възпитанието на граждани. От тази втора гледна точка преподаването на тези важни предмети трябва да се извършва и от другата им страна, в контекста на социалните науки, които, наред със софтуерните инженери, ще подготвят граждани, които ще живеят в новата среда; граждани с критични способности, които ще имат повишена чувствителност към фалшивото и реалното; граждани с творческо въображение, тъй като в това се състои тяхното предимство пред „машините“; граждани, които, преживявайки и живеейки в цифровата реалност (социалните мрежи и тяхната реалност са тук), в същото време няма да отслабят активното си присъствие и контакт с „реалната“ реалност; граждани, чиято цифрова реалност ще действа като допълнение към реалната реалност на „външния свят“, която няма да им предоставя дребни заместители за отдушник на техните желания и очаквания.

А „външният свят“ е неговото собствено общество, неговата собствена среда, с неговите ангажименти, зависимости, задължения, т.е. неговото социално съществуване. А социалната ипостас (съществуване) означава състрадателност, толерантност и уважение към различните. За разлика от цифровата реалност, която, както понастоящем е структуриран  моделът, по който функционират съответните платформи, е особено уязвима за насърчаване на фанатизъм, разпалване на страсти, издигане на бариери, разделяне и ограничаване. Защото алгоритмите й не са разработени, за да служат на демокрацията и откритото общество, а за да обслужват интереси, да създават клиенти и да приравняват, доколкото могат, човека с „машината“.

Тази статия песимистична ли е? Дали това е статия, от която лъха неолудизъм, която напомня за лудитите от 19-и век, които чупят машините? Точно обратното, и затова предоставяме тази статия. Да споделим с читателите нашите възгледи, които не са страх от технологиите, а, напротив, вътрешна сила на оптимизма за човека, който ще управлява,  а няма да бъде  управляван от технологиите. Оптимизмът не е пророкуване на розово бъдеще, което обещава щастие (това сме го чели и от „гурутата“ в жанра, които предвиждат имплантиране на чипове за щастие в мозъка – един вид електронен опиум). Оптимизмът означава, че приемам технологията, но боравя с нея, а не тя с мене; оптимизмът означава, че имам критично отношение към потенциално погрешни избори и най-вече оптимизмът ми произтича от моето убеждение, моето дълбоко убеждение, че „злото“ се дължи на изкривена или непълна информация. И ние сме оптимисти, защото не вярваме в решения от магьосници и вълшебни пръчици и в „готови“ решения, изкопани от миналото, а в общества, които са отворени и свободни, които се учат от грешките си, обсъждат, преосмислят целите си и създават бъдещето си, точно както функционира човешкото познание.

При това историята е творческа еволюция, както ни казва Бергсон.

*Авторът е почетен професор по машинно обучение и обработка на данни в Университета в Олборг (Дания) и член на Националната комисия по биоетика и техноетика

подготвил: Константин Константинов

Вашият коментар

Попълнете полетата по-долу или кликнете върху икона, за да влезете:

WordPress.com лого

В момента коментирате, използвайки вашия профил WordPress.com. Излизане /  Промяна )

Twitter picture

В момента коментирате, използвайки вашия профил Twitter. Излизане /  Промяна )

Facebook photo

В момента коментирате, използвайки вашия профил Facebook. Излизане /  Промяна )

Connecting to %s

%d блогъра харесват това: