За различните лица на изкуствения интелект

Във фантастичната новела „Спомен за света“ писателят Агоп Мелконян разказва за раждането, възхода и гибелта на машинен разум, нарекъл себе си с библейското име Исаил. „Спомен за света“ излиза като част от едноименен сборник с разкази през 1980 година; наскоро пак прочетох новелата и се изненадах колко точно покойният ми приятел е предрекъл ключови идеи в ускоряващото се развитие на изкуствения интелект 30 – 40 години по-късно.

Ето как, във въображението на автора, един от учените, работещи по проект на ООН на малък гръцки остров, описва създаването на Исаил в нещо, което днес бихме нарекли суперкомпютър.

„Паметите бяха предварително готови за огромните масиви от знания: енциклопедии, речници…. проза и поезия, живопис, музика, архитектура… Ние само подготвихме информационните системи, останалото той свърши сам. Оставихме го мъртъв, заварихме го жив.“

Днес машинното самообучение (machine learning) е фундаментална концепция в разработването на изкуствен интелект (ИИ), а същността е именно зареждането на машината с „огромни масиви“ от данни, след което тя започва оптимизационен процес по поставената ѝ задача – например да управлява безпилотен автомобил по улиците на Сан Франциско. Това е наистина нов подход, исторически различен от обикновеното програмиране, при което добре платени човеци изписват милиони редове с детайлни, „твърди“ инструкции за изпълнението на даден алгоритъм. ИИ самоусъвършенства и пренаписва алгоритмите си според поставената цел, като със скоростта на светлината сърфира през океаните от достъпното му знание. И действително, някои от специалистите предричат днес, че ИИ ще има възможност (и вътрешен импулс) да прочете всичко, написано някога от хората.

Резултатът от тези процеси, предвиждат експерти, ще е експоненциално, тоест непрекъснато ускоряващо се развитие, все по-стръмна крива нагоре към висини на интелектуалната мощ, които не можем да си представим. А ето как е при Исаил: „[Хората] постигат всичко толкова бавно и никога не виждат върха. Аз се взривих!“

И още една футуристична десятка от 1980 година; Исаил: „Мозъкът ми не е концентриран, а е разпилян върху цялата планета, по-точно – заключен е в дванадесет изчислителни комплекса върху пет континента.“ Помолих един висококвалифициран компютърен специалист да преведе това описание в модерна терминология. Отговорът бе, че най му пасвал изразът „публичен облак“.

Което впрочем е част от проблем, дискутиран днес от дизайнери на ИИ – желателно и възможно ли е изкуственият интелект, базиран на пет континента и в „облака“, да има бутон за изключване. (Или да бъде държан в затворена среда като джин в бутилка.) Къде е „копчето за изключване“ на интернет? Е, разбунтувалия се Исаил все пак го изключват на финала.

Доколкото съм разбрал от разговорите ни или от публикувани интервюта, Агоп Мелконян малко се интересуваше от т.нар. прогностична функция на фантастиката. Той беше изключително добре осведомен и с талантливо перо журналист, популяризатор на науката и техниката, но в художествената си проза, включително в разказите за умни машини, се интересуваше от човешкото. В „Спомен за света“ симпатиите на автора и читателя са на страната на самотния и пренебрегнат Исаил, защото разумът  (дефиниран между редовете като способност да мислиш, чувстваш и страдаш) има права – на внимание от създателите се, на общуване с другите – евентуално себеподобните, дори на живот – независимо дали има биологичен или електронен носител.

Този Агопов възглед вероятно ме кара от години да се опитвам да надникна малко отвъд лесно уж предвидимото, близкото бъдеще. Като какъв ще е развитият изкуствен интелект? Служител на човека или самостоятелен субект със свои си цели? Ще остане ли хомо сапиенс на връхната точка на еволюцията или сме само посредници в прехода към мислещи създания с космическа мощ, които ще гледат на белтъчните си предци, както ние гледаме на нашите предшественици – човекоподобните маймуни?

Добрата новина е, че в началото на XXI век много светли умове работят по тези въпроси. Ограничих любопитството си при писането на това есе главно до десетина видео-лекции на тема изкуствен интелект от портала за нови идеи в науките и технологиите ted.com. Трябва да видите някои от тях, за да се убедите, без непременно да четете биографии, че става дума за блестящи и добронамерени мислители, които събират по правило над един милион, над два милиона гледания! Няма да ги цитирам поименно навсякъде и зад всеки ред нататък, за да не утежнявам текста с обяснения кой кой е; отпратките са накрая, а тук съм се опитал да обобщя най-често споменаваните дилеми и – по моя си преценка – преобладаващите мнения в тази малка, но много авторитетна за мен извадка. След първата чернова изчетох и една дебела, гениална книга, та се убедих, че не съм пропуснал основни концепции.

Ще избързам, за да бъда честен спрямо читателя, с обобщението, че мнозинството разглеждат изкуствения интелект като усилвател на човешките способности – с всичките му рискове, докато въпросът за евентуалното самоосъзнаване на ИИ като при Исаил като че ли заема скромно място в днешния дневен ред.

Изкуствен супер-интелект – ще го има ли и кога?

В прегледаните от мен презентации на ТЕД се цитира скорошна анкета, според която експерти очакват с 50 % вероятност към 2040-2050 г. машината да достигне човешката интелигентност. Зад милиардите доларови инвестиции в тази област стоят силни хуманни и пазарни интереси –  например по-качествена диагностика на рака, справяне с болестта на Алцхаймер, предотвратяването на климатичната катастрофа и светият Граал – да разберем как всъщност работи световната икономика. Или в по-далечна перспектива – заселването на Марс. Все начинания, желани от повечето от нас, но изискващи анализ на непосилни дори за големи екипи количества информация. Най-простичко казано от световния гросмайстор Гари Каспаров – имаме нужда от машините, за да осъществим мечтите си.

Споменават се и вездесъщите механизми на пазарна и геополитическа конкуренция – ако те (другата корпорация, американците, руснаците, китайците) го имат, ние не  бива да изоставаме. Ще вмъкна тук и едно свое съждение. От любителския си поглед върху историята на науката и техниката съм разбрал, че когато в даден момент нещо стане възможно да се направи в лабораториите, то се прави – мистериозна, самостоятелна движеща сила.

И като се добави често срещаният аргумент, че електронните вериги обработват информацията хилядократно по-бързо от биологичните структури на мозъка, заключението по тази тема ми изглежда ясно – създаването на изкуствен интелект, равен на или превъзхождащ човешкия, е неизбежно и ще се случи в рамките на живота на днешните млади или на техните деца и внуци.

Идва ли краят на човешкия род?

Презентаторите в ТЕД нерядко илюстрират тезите си със споменавания – не мрачно сериозни, но не и саркастични – на мрежата Скайнет от филмите „Терминатор“ , „Матрицата“ или супер-компютъра ХАЛ 9000, който в „Космическа одисея 2001“ почти напълно успешно избива екипажа на „Дискавъри 1“ по време на мисия към Юпитер.

„Одисеята“ на Стенли Кубрик излиза на екран през 1968 година. Идеята за бунта на човекоподобното, сътворено от човека, е много по-стара; по-стара от образа на Франкенщайн на Мери Шели, има я и в различните интерпретации на средновековната легенда за Голем.

Мнозинството от светлите умове, които гледах и слушах с удоволствие пред компютъра си, предвиждат мирно и полезно за човека (но не лишено от опасности) съвместно съществуване с ИИ (приятелски ИИ – friendly AI; хуманистичен ИИ – humanistic AI; интелигентни помощници – intelligent assistants и т.н). Един предлага техники за трениране на човешкия ум, за да издържи в надпреварата с ИИ; друг допуска, че супер-ИИ ще ни остави намира да се чудим какво да правим с изобилието от свободно време, когато професиите, свързани с рутинни дейности – от автомеханици  до програмисти, станат излишни. Трети си представя как чипове в мозъка ще ни помогнат да се свързваме за наносекунди с изкуственото му „продължение“ в облака, да засилим паметта си и разширим аналитичните си способности (cloud based brain power). Свободно интерпретирам един от шеговито използваните примери – ето, шефът идва, трябва светкавично да измисля нещо умно да му кажа. Или: познато лице, къде съм го виждал?

Особено симпатично и убедително ми е повтарящото се твърдение, че комбинацията на човешки и изкуствен интелект е по-ефективна и прецизна от всеки от тях поотделно. Например при играта на шах или при диагностиката на рака. Когато докторът ви подозира, че имате рак, той взема проба от съмнителната тъкан и я праща на патолог, който я изследва под микроскоп и търси опасните клетки – рутинна дейност. На различни места по света вече има ИИ системи, които със същата цел анализират изображения на тъканта. Любопитно, човекът се оказал по-добър в отхвърлянето на т.нар. грешни положителни резултати (false positives), докато машината по-често разкривала случаи от сивата зона, пропускани от патолога. Съвместно прецизността на диагностиката достигнала 99.5 на сто.

И пак, като мое си заключение от видяното и чутото – борба за оцеляване на хомо сапиенс и война със Скайнет скоро няма да има. Но като че ли преобладава и мнението, че настоящето бъдеще може да се окаже твърде различно от непредсказуемото бъдещо бъдеще.

Къде е главната опасност все пак?

Защо лекторите цитират (бегло, но с уважение) предупрежденията на други светли умове като Илън Мъск, Стивън Хокинг или Бил Гейтс за „най-голямата екзистенциална заплаха за човешката раса“? Защо обсъждат опасността от т.нар. Run Away Effect – изплъзването от човешкия контрол на системи, не непременно умишлено зловредни като Хал 9000?

Заради допускането високоразвитите ИИ да имат „такава ненаситна жажда за информация, че ще научат как да се учат и евентуално ще открият за себе си цели, противоположни на нуждите на човека“. Точно това се случва с Исаил.

Решението на проблема е в най-вълнуващата за мен и често срещана идея в скромното ми проучване – зареждане на ИИ с човешки ценности (value loading, value alignment).

Не е достатъчно да кажем на машината какво искаме от нея. Първо, трябва да внимаваме какво искаме. Поне двама от лекторите в ТЕД илюстрират тезите си с легендата за крал Минос, който си пожелал всяко нещо, докоснато от ръката му, да се превръща в злато. Умрял от глад и жажда. Второ, трябва да сме сигурни, че задачите, които поставяме на ИИ, включват всичко, което ни е важно. Командата към интелигентния робот „Умирам за кафе, донеси ми голяма чаша“ трябва да бъде допълнена поне с „Но не убивай хора, изпречили ти се на пътя.“ ( За Хал 9000 можем да си мислим, че мотивът на бунта му е да осигури на всяка цена успеха на мисията до Юпитер, за чиято истинска цел всъщност знае само той.)

Тези илюстративни примери ми напомнят за трите закона на роботиката, формулирани от Айзък Азимов през далечната 1942 година – роботът не бива с действие или бездействие да причинява вреда на човека; длъжен е да изпълнява заповедите му, ако не са в противоречие с първото правило; трябва да се грижи за себе си, ако това не е в конфликт с горното. Години по-късно, когато си представял роботи с отговорност за управлението на цели планети, Азимов добавил Нулевия закон: роботът не бива да причинява вреда на човечеството.

„Трябва да сме сигурни, че целите, които влагаме в машината, са целите, които наистина желаем“, казал Норберт Винер през 1960 г., след като наблюдавал как една от най-ранните системи се учи да играе шах по-добре от създателите си. Днешните му колеги разработват вече теоретични подходи как да стане зареждането на ИИ с човешки ценности.

Дотук – подобно на някои ТЕД презентации – произволно използвах като синоними понятията изкуствен интелект, машина, система… ИИ бива определян дори като utility – някакъв ресурс, до който ще имаме достъп и ще ползваме, както днес употребяваме масово доставяните ни електрическа енергия, вода или тв сигнал. А като предимство на бъдещите безпилотни автомобили например, се сочи че те няма по човешки да се разсейват с мисли дали ютията у дома е изключена или защо, по дяволите, трябва да ходя на работа, която не харесвам. Такъв ИИ може би дори щял бъде търговски рекламиран като „несъзнателен“ (consciousness free).

„Последното, което искам от моя ИИ, е да има съзнание“, казва пред ТЕД световен експерт от високотехнологична фирма. И гледа на перспективата за ИИ, избрал да се самоусъвършенства и евентуално разбунтува, като на далечна възможност, защото разработките „на този етап“ са тясно специализирани (domain specific).

А за някой следващ етап? Само бегли споменавания  за „колеги“, които желаят да създадат свръх-интелект и да го държат под контрол „като заробен бог“.

Преобръщам записките си от ТЕД и не намирам нищо по един от въпросите, които си поставих в началото на този текст – дали сме предопределени да останем завинаги на върха на еволюцията или може би сме посредници в прехода към качествено различен разум?

„Действително се намираме в забележителен момент от човешката история, когато, подтиквани от отказа си да приемем ограниченията на нашите тела и умове, строим машини с изтънчена, красива сложност и изящество, които ще разширят човешкия опит отвъд границите на въображението ни.“ Харесах си го и го цитирам това мнение като особено вдъхновено изразено и хуманно.

Тоест – хомоцентрично. За човешкия опит става дума.

Ще изляза към края на този текст отвъд чутото в тези възхитителни за мен лекции, ще си позволя по любителски свободни разсъждения. Това е есе все пак, а не научно-философски трактат.

„Невероятното приключение на съвместна еволюция с нашите машини“, което предрича цитираният малко по-горе автор, няма прецедент в историята на видовете на планетата Земя. За своите 200 хиляди години съществуване човекът не е еволюирал съвместно с шимпанзетата – най-близките ни живи генетични родственици, нито с неандерталците.

Не ми е известен природен или диалектичен закон, който да постулира точка на развитието след хомо сапиенс. Антропоцентризмът в разсъжденията ни е неизбежен заради дълбоко вкоренената от няколко столетия културно-историческа традиция на хуманизма. Философи са си представяли издигането на човека до божествено могъщество и нравственост, докато писатели или безименни първични автори на митове са си представяли изкуствени човеци. Има от всичко в наследството ни.

Обаче не бихме могли да знаем ще останем ли на върха на живото и мислещото, докато не сме си отговорили на вечни въпроси като „Кой съм аз?“, „Защо сме тук?“, „Имаме ли върховна цел?“

Ако животът на планетата изобщо и, в частност, появата на сапиенси са случайности, най-вероятно нямаме запазено място сред елита на съзиданието. А ако имаме някакво вселенско предназначение, едва ли ще го открием скоро, сами и преди да сме изкушени да поискаме помощта на изкуствения интелект. Или преди той да е намерил свои си отговори.

Ето една хипотеза за смисъла на колективното ни съществуване. (Едва ли и  Гугъл би ми помогнал с разумни за целите на едно есе усилия да открия къде ми се е мярнала преди много години.) Хипотезата – функцията на разума е при достигане на способности за космическо инженерство да спаси Вселената от термодинамична смърт.

В което, мисля си, изкуственият, нечовешки мощният, небиологичен разум вероятно би бил по-успешен.

А защо, впрочем, да спасяваме Вселената или вселените? Защото сме „вътре“, тоест заради нас си? Защото светлината и подредеността са по-добри от мрака и хаоса, както забелязал Господ Бог в първия ден на сътворението?

Което е пак хомоцентризъм, наша си гледна точка, ако сме съгласни, че човеци са писали Библията.

Така змията изкусителка, поднесла на Адам и Ева греховния плод на познанието, захапа опашката си.

Обаче не се чувствам самотен в спекулациите си за бъдещето бъдеще, благодарение на “Homo deus”, споменатата гениална книга. Във футуристичните ѝ глави израелският историк и философ Ювал Ноа Харари разглежда две развиващи се нови „идеологии“. Според едната „хората са изпълнили задачата си във Вселената и сега трябва да предадат щафетата на съвсем нов вид субекти“. Другата, наречена технохуманизъм, предпоставя, че хомо сапиенс е „извървял историческия си път и в бъдеще ще е ирелевантен“, но тъкмо заради това трябва да използваме технологиите и да създадем хомо деус по човешки модел, с усъвършенствани физически и умствени способности.

За финал ви предлагам един мисловен експеримент. Представете си, че от високотехнологичната компания „Мефистофел“ ви предложат безплатно всички чудеса на биониката с цел да спре стареенето ви, наноботи да поддържат тялото ви здраво, импланти – да го усилят физически, и, като екстра – онзи чип в мозъка, благодарение на който ще станете невъобразими умни и паметливи… Дайте си няколко минути да фантазирате какво бихте си пожелали.

Сделките с дявола са винаги трудни, Фауст е трябвало повече да се пазари. Аз бих приел изкушението, ако се добави в договора една моя си допълнителна разпоредба. Знам я. Или две още условия. Или, най-добре, няколко страници с гаранции, но това есе още не съм го написал.

Бележки

„Спомен за света“ – дебютната книга на Агоп Мелконян, излиза в издателство „Отечество“ през 1980 година.

Ако сте заинтересовани от цитираните ТЕД лекции, най-лесно е да напишете в търсачката на ted.com „AI“, или да намерите тематичния списък (playlist) „AI“. Моите фаворити по темата са – в случаен ред –  Nick Bostrom , Sam Harris, Ray Kurzweil, Sebastian Thrun, Grady Booch. Много от тези забележителни презентации имат субтитри на български език.

Несръчно преведеният от мен цитат на Норберт Винер от 1960 г. в „оригинала“ от ТЕД е „We had better be quite sure that the purpose put into the machine is the purpose which we really desire.“

Оригиналът на другия по-обширен цитат,  Grady Booch: „Indeed, we stand at a remarkable time in human history, where, driven by refusal to accept the limits of our bodies and our minds, we are building machines of exquisite, beautiful complexity and grace that will extend the human experience in ways beyond our imagining.“

Последните цитати са от „Homo deus. Кратка история на бъдещето“ от Ювал Ноа Харари. Той подчертава накрая, че описаните сценарии на бъдещето са възможности, а не негови си пророчества. На склонните да рискуват с дебели и скъпички книги, но с популярен разказвачески стил, с висока гледна точка върху съдбините на човечеството и силно провокативни идеи препоръчвам първо да прочетат предишната книга на Харари, издадена на български език – „Sapiens. Кратка история на човечеството“.

4 мнения по „За различните лица на изкуствения интелект

  1. Благодаря за размислите, Велко!

    Аз съм доста по-скептичен към възможността ни да видим същински ИИ (Artificial General Intelligence) в следващите 50-100 години – най-вече защото тепърва започваме да си даваме сметка колко малко знаем за функционирането на ЕИ, естествения интелект. 😉 (Добро въведение в темата е „Инкогнито: тайният живот на мозъка“ от Дейвид Ийгълман.)

    Часът обаче е твърде късен за смислени включвания, затова само ще ти оставя един откъс от трилогията The Golden Age на John C. Wright, който за първи път ми предостави убедително обяснение защо един по-умен интелект няма сметка да воюва с един по-тъп. 😉 Ето го:

    https://choveshkata.net/forum/viewtopic.php?p=13394#p13394

    Е, ако се окажем горе-долу равни, може и да имаме проблеми… Горе-долу като днешните. 😉

  2. Калине, аз благодаря за съдържателния коментар.Допускам, че причината за цитираната в ТЕД прогноза за 50% вероятност ИИ с равни на човешките възможности да се случи до 2040-2050, е очакването сред анкетираните специалисти именно машинното самообучение да позволи взривно развитие на ИИ без непременно да сме разбрали как работи естественият.
    Цитатът на линка ти е много интересна логическа конструкция, пак благодаря. Опитът от историята на човешките общества обаче е различен. Никой освен антрополозите няма полза от останките от племена на ловци събирачи. Обратно, по-развити цивилизации често са унищожавали по-малко развитите – умишлено (заради ресурси – малко вероятно е на ИИ да се наложи да се конкурира с хората за едни и същи ресурси) или неволно (с пренесените вируси, с пренасянето на алкохола или с налагането на чужди културни традиции). Друга – междувидова, аналогия е по-интересна за мен. Презентаторите в ТЕД споменават отношението ни към мравките или шимпанзетата. Ние не мразим мравките и не ги унищожаваме (освен ако не налазят сандвичите за пикник), но рядко бихме пожалили някой мравуняк, ако мястото ни трябва за нива, бетонен паркинг или нещо друго. Имах редкия шанс да видя един остров в езерото Виктория – резерват за шимпанзета. Направен е с идеята да се съхранят (от агресията на фермерите например), хранят ги, грижат се за болните – и все пак са зад ограда на по-малката част на острова.

  3. Още няколко „наброски на мисли“ (самите мисли изискват време, което поне до края на март не се очертава да имам… а ще ме е яд да си потънат в сифона на безвремието ;):

    – Не бих бил толкова скептичен, ако вярвах, че хората, пишещи алгоритмите за самообучение (понеже и то става чрез някакъв набор от правила), наистина разбират как работи самообучението на ЕИ. От бая години ровя темата за ИИ… дълга е.

    – В The Golden Age се говори за интелекти, чието IQ надхвърля човешкото с поне един порядък: примерно общопланетарен ИИ. При различните човешки общества това никога не се е случвало: хората в тях влизат в моя случай „горе-долу равни като интелект“.

    За хората и мравките (или примерно хората и делфините) не мога да коментирам каква е разликата в IQ-то, понеже нямам представа по какви критерии можем да ги сравняваме обективно. (Което само по себе си иде да покаже нещо за IQ-то на хората. Или поне за моето. 😀 ) В примера от The Golden Age едно достатъчно умно човечество ще открие как да използва мравуняците за собствените си цели – като същевременно подобри условията на самите мравки.

    (Най-голямото ми прозрение от последните години е една дефиниция за онова, което наричаме „зло“: Злото започва там, където свършват нашите сили. В случая можем да заместим „сили“ с „акъл“. 😉 )

  4. И аз така го разбирам – специалистите действително НЕ разбират как става самообучението нито на ЕИ, нито на ИИ. Ето за пример цитат за machine learning: But then think about the disadvantages, too. If you’re not explicitly teaching the computer, how do you know how it’s making its decisions? Machine learning systems can’t explain their thinking, and that means your algorithm could be performing well for the wrong reasons.
    Другите ти аргументи потвърждават тезата ми, че нямаме еволюционен и исторически опи, който да можем да екстраполираме върху оттношенията хомо сапиенс – ИИ.

Вашият отговор на Кал Отказ

Вашият имейл адрес няма да бъде публикуван. Задължителните полета са отбелязани с *