Због вештачке интелигенције, стварност 2030. ће бити непрепознатљива

У свом кратком предавању „До 2030. свет ће бити непрепознатљив“, Јувал Ноа Харари износи своје виђење начина на који ће експлозивни развој вештачке интелигенције утицати на наше животе, и то тако јасно и сажето да његово предавање само по себи представља погодан предмет за критичку анализу.

Он пружа прилично детаљну визију нашег света 2030. године, коју описује као „непрепознатљиву“ за оне од нас који су још увек укорењени у традиционалном схватању човека — међутим, да бих своју поенту изнео крајње директно, сматрам да ће стварност 2030. године бити непрепознатљива чак и онима који прихватају Хараријеву визију 2030. године.

Хараријева полазна претпоставка (са којом се слажем) јесте да се данас догађа нешто чега већина нас није у потпуности свесна – крај човечанства какво познајемо, које је постојало отприлике 10.000 година, од тренутка када су племена каменог доба почела да користе језик.

Са наглим успоном вештачке интелигенције, језик више није само средство које људи користе за међусобну комуникацију и интеракцију; он стиче потпуну самосталност и почиње да функционише као засебан актер, прекидајући пупчану врпцу која га је повезивала са рањивим мајмуноликим бићима које називамо људима.

(Овде наилазим на први проблем – да ли језик без субјекта/субјеката, језик који делује као самосталан актер, још увек функционише као језик? Надаље, може ли се језик заиста свести на његове две функције — интелектуалну калкулацију и изражавање емоција? Али тиме сам се већ бавио на другом месту.)

Харари разрађује три велика прекида који означавају крај човечанства какво смо познавали:

Прво, постоји огроман систем вештачке интелигенције – он садржи знање које далеко надмашује људско памћење и које је тренутно доступно.

То знање обухвата и информације о појединцима који бораве унутар система вештачке интелигенције — у том смислу, како се често каже, АИ нас познаје боље него што познајемо сами себе.

Поред тога, АИ не само да прикупља знање и обавља когнитивне операције (закључивање) над њим – она више није само алат, машина која прати наређења и ради оно што јој се каже; она је већ актер спреман да доноси аутономне одлуке, одлуке за које није била програмирана.

Она не само да учи и мења саму себе како би извршавала своје задатке, него је већ способна да изнова дефинише саме те задатке…

Моја реакција је овде двострука. Као прво, наравно да себе не познајемо добро зато што имамо Несвесно, односно зато што сама наша субјективност подразумева да себи нисмо у потпуности спознатљиви.

Када је реч о одлучивању, људско одлучивање је слободно управо у том смислу што је његова најосновнија димензија оно што је Фројд називао нагоном смрти, избором ничега.

У оба случаја остаје отворено питање у којој мери АИ показује ове димензије – субјективност, нагон смрти и несвесно.

Друго, АИ, заједно са технолошком применом увида до којих су дошле науке о мозгу, брише границу између стварности и фикције. Наше опажање спољашње стварности и наша интеракција са њом одувек су били посредовани социоисторијским симболичким контекстом, тако да је оно што видимо заправо „контролисана халуцинација“ (Анил Сет) – наша перцепција стварности није непосредан прозор у свет, већ најбоља могућа интерна симулација коју мозак активно ствара и коју непрестано коригују чулни подаци.

Данас „интерна симулација“ више није само спонтани процес који регулишу наш мозак и заједничка идеологија; она се све више генерише свесно планираном технолошком манипулацијом.

Није реч само о томе да је оно што изван себе видимо као стварност лажно попут позадине насликане на великом зиду у филмској сцени, како не би било потребно изградити стварне куће или у позадину сцене поставити право дрвеће.

Наш перцептивни апарат се непосредно манипулише, тако да оно што мислимо да тамо споља видимо заправо није тамо — чак ни као насликана лажна позадина или симулирани звук – директно се делује на наше нерве.

Као што већина нас зна, не само бол или задовољство већ чак и оргазам већ могу бити изазвани без визуелних представа у нашем уму, једноставном директном стимулацијом наших нерава.

Када непосредне интервенције у наш мозак постану стварност, постаће могуће да се у наш мозак убаце лажна сећања, па чак и трауме које никада нисмо доживели у стварности

Када непосредне интервенције у наш мозак постану стварност, постаће могуће да се у наш мозак убаце лажна сећања, па чак и трауме које никада нисмо доживели у стварности…

Мој одговор на ово јесте инсистирање на кључној лакановској разлици између Реалног и стварности, која се ни на који начин не поклапа са разликом између стварности-по-себи и начина на који нам се стварност појављује, прожета фикцијама и фантазијама.

Није довољно жалити се на то што развој вештачке интелигенције подрива раздвајање чињеница и фикција, али није довољно ни славити нашу способност да се без потешкоћа крећемо између чињеница и фикција као неку нову врсту слободе — катастрофу такве „слободе“ јасно видимо у великом делу данашње политике (Трамп, Путин, Израел), где се појављује нови дискурс који чак ни не тежи томе да буде истинит у традиционалном смислу.

На онтичком нивоу стварности, требало би више него икада да инсистирамо на чињеничној истини, али истовремено морамо бити свесни да се на фундаменталнијем, онтолошком нивоу, разлика између истине и фикције замагљује.

И на крају, али не најмање важно, Свети грал читавог овог развоја јесте могућност Неуралинка, односно „умреженог мозга“ – комбинација АИ-ја, неурохирургије и технологије засноване на наукама о мозгу отвара пут ка непосредној комуникацији између тока наших мисли и дигиталног актера.

Више нам није потребан екран да бисмо комуницирали са вештачком интелигенцијом; АИ агент може директно да чита оно што се одвија у нашем уму и да на основу тога делује.

Када компаније представљају прве, још увек скромне импланте који омогућавају дигиталној машини да чита наше мисли, готово увек наводе добронамерни сценарио – на пример, како такав имплант омогућава потпуно парализованој особи да саопштава своје мисли (она мисли, а АИ машина их изговара) или да делује без физичког покрета (АИ агент прочита њену мисао и помери јој столицу, укључи телевизор и слично).

Много се ређе помиње да комуникација може да иде и у супротном смеру – наше мисли могу бити контролисане од стране АИ агента, а, наравно, и од стране другог човека који контролише тог АИ агента

Много се ређе помиње да комуникација може да иде и у супротном смеру – наше мисли могу бити контролисане од стране АИ агента, а, наравно, и од стране другог човека који контролише тог АИ агента. Могућност која се овде отвара јесте потпуна транспарентност унутрашњег тока мојих мисли за спољашњу АИ машину — и за оне који том машином управљају.

Иако је Харари познат по својим сталним упозорењима да је ера човека завршена, он је овде превише оптимистичан јер слика блиску будућност (2030. годину) у којој ће појединци моћи да ступају у емоционалне односе са стварним и дигиталним особама.

То се већ сада догађа, када људи проводе сате разговарајући са Чет ГПТ-ом — али замислимо много развијенији систем у којем ставим дигиталне наочаре и започнем разговор са својим преминулим оцем, чија је виртуелна личност реконструисана на основу мојих и туђих сећања, као и других трагова из прошлости (снимака и слично).

Али ко контролише ту игру? Шта ако је могуће да будемо контролисани изнутра, тако што нам се у ум усађују мисли и лажна сећања, а да тога уопште нисмо свесни? Замислимо да ми се у ум усади сећање да ме је отац силовао, које доживљавам као аутентично сећање.

И шта ако се појави нова класа господара који могу да читају наше мисли и интервенишу у њих, али сами нису подвргнути Неуралинку? Шта ако они искључени не буду само маргинализовани инфериорни слојеви, већ елита господара која контролише и манипулише становницима сингуларности?

Што се тиче Неуралинка, Харари замишља да ће појединац моћи слободно да бира којој ће се колективној свести придружити (научницима? песницима?) — заиста?

Хоће ли моја индивидуалност преживети урањање у оно што се назива „сингуларношћу“? Пошто је имплант који регулише мој контакт са Неуралинком механички уређај, очигледно је да контролу врши онај ко те импланте повезује или искључује.

Нисам наивни левичар који сматра да је АИ неутрална машина чије друштвене последице зависе искључиво од друштвених околности у којима функционише – у самој формалној структури АИ-ја уписана је тенденција ка технолошкој контроли и доминацији.

Зато је тешко замислити срећну, еманциповану заједницу људских појединаца који заједно обитавају у сингуларности – у сингуларности нема секса, нема шала, нема комуникације у којој други остаје недефинисан.

Закључак који се намеће јесте да сваки велики технолошки пробој отвара пут ка новом варварству – његов квази-ослобађајући ефекат на крају се претвара у оно што је Херберт Маркузе назвао „репресивном десублимацијом“

Закључак који се намеће јесте да сваки велики технолошки пробој отвара пут ка новом варварству – његов квази-ослобађајући ефекат на крају се претвара у оно што је Херберт Маркузе назвао „репресивном десублимацијом“ — термин који је увео у својој књизи Човек једне димензије из 1964. године.

Може се тврдити да је Теодор Адорно први указао на овај правац у својој анализи Стравинског и његовог Посвећења пролећа („Стравински и реакција“), другом делу књиге Филозофија нове музике (1949). Адорно је проницљиво приметио како Стравинскијев модернизам, његово музичко опонашање ритма бруталне индустријске производње, за свој садржај узима старе руске варварске и насилне жртвене митове.

Према Маркузеу, „репресија“ у позном капитализму не функционише путем контроле и ускраћивања, већ путем допуштања и изражавања – сва задовољства су дозвољена — у комодификованом облику — што доводи до контролисаног изражавања свих жеља и потреба.

Другим речима, данас репресија функционише кроз десублимацију жеље, при чему се ниједна жеља не потискује у подземље – порнографија, сексуални рад, култура дрога, БДСМ, фури култура, геј култура, раскошан начин живота, транскултура и слично више се не посматрају као негативни или штетни животни стилови.

Њихово практиковање сада је друштвено одобрено и чак слављено – припадност оваквим облицима живота више није субверзивни чин или стил живота — она сада, путем форме вредности, репродукује капитализам.

Данашњи експлозивни развој АИ агената довео је репресивну десублимацију на нови ниво, до сада незамислив у свим њеним димензијама — од универзума постистине до замагљивања разлике између јавног простора као таквог и приватног простора, а да не говоримо о дигиталној контроли онога што радимо и мислимо.

АИ медији такође играју кључну улогу у томе што су током последње деценије бруталност и бестидна опсценост продрле у јавни политички дискурс – не само кроз своје речи већ и кроз своје поступке (јавне изјаве о томе како се затвореници муче), САД и Израел сада практикују репресивну десублимацију.

Трамп и Нетанјаху (а да не помињемо Хегсета и Бена Гвира) често се у јавности изражавају на начин који је донедавно био замислив само у приватним разговорима или приватној размени имејлова.

Њихов говор је дословно говор репресивне десублимације – он је истовремено дефинитивно десублимисан (брутално отворен, без ограничења која штите људско достојанство) и репресиван (најављује ништа мање брутално поступање према онима који су означени као непријатељи, укључујући и уништење читаве цивилизације).

Овде се не бавимо само последицом АИ-ја, већ врло специфичним склопом друштвених околности у којима АИ функционише. Још увек трагамо за правим називом тог новог склопа околности – дигитални неофеудализам, либерални фашизам, нови облик бонапартизма…

Свесни смо да се ови називи врте око феномена који је несумњиво стваран и чију тежину сви осећамо.

Функционисање АИ-ја не може се одвојити од неофеудалне класне борбе, коју на погубан начин симболизује петорка Гејтс–Маск–Тил–Безос–Закерберг.

(Данас)