Ако сте чували термина изкуствен общ интелект (AGI), това вероятно ви кара да мислите за човешката интелигентност като изкуствения интелект (AI) с меден глас във филма „Her” или за суперчовек като Скайнет от „Терминатор“. Във всеки случай мислите за нещо научнофантастично и далечно, пише Гидион Личфилд за Bloomberg.
Но сега нарастващ брой хора от технологичната индустрия и дори извън нея пророкуват, че в много близко бъдеще ще видим AI на „човешко ниво“, или AGI.
Тези хора може и да вярват в това, което казват, но то е поне малка част от рекламата, целяща да накара инвеститорите да вложат милиарди долари в компаниите за изкуствен интелект. Да, почти сигурно предстоят големи промени и трябва да се подготвите за тях. Но за повечето от нас наричането им AGI в най-добрия случай е просто разсейване, а в най-лошия – умишлено погрешно насочване. Бизнес лидерите и политиците се нуждаят от по-добър начин на мислене за това, което се задава. За щастие, такъв има.
След колко години?
Сам Алтман от OpenAI, Дарио Амодей от Anthropic и Илон Мъск от xAI (нещо, с което е най-малко известен) наскоро казаха, че AGI или нещо подобно ще се появи след няколко години. По-умерени гласове като Демис Хасабис от Google Deep Ming и Ян ЛеКун от Meta смятат, че това ще се случи след поне 5 до 10 години. Наскоро журналисти като Езра Клайн и Кевин Руз от New York Times написаха, че обществото трябва да се подготви за нещо като AGI в много близко бъдеще.
„Нещо като“, защото тези хора често флиртуват с термина AGI, а след това се оттеглят към по-двусмислена фраза като „мощен AI”. И това, което може да имат предвид, варира изключително много – от изкуствен интелект, който може да изпълнява почти всякакви индивидуални когнитивни задачи, като човек, но все пак може да е доста специализиран (Клайн, Руз), до работа на ниво Нобелова награда (Амодей, Алтман), до това да мисли като реален човек във всеки един аспект (Хасабис), или просто да бъде „по-умен от най-умния човек“ (Мъск).
Някое от тези наистина ли е AGI
Истината е, че няма значение. Ако дори има нещо като AGI, то няма да е рязък праг, който да преминем. За хората, които го рекламират, в момента AGI е просто стенограма на идеята, че нещо много разрушително е неизбежно: софтуер, който не просто може да програмира приложение, да състави училищна задача, да пише приказки за лека нощ за децата ви или да резервира ваканция, а може да остави много хора без работа, да прави големи научни пробиви и да предостави плашеща сила на хакери, терористи, корпорации и правителства.
Тази прогноза си струва да се вземе на сериозно и определянето ѝ като AGI е начин хората да бъдат накарани да седнат и да слушат. Но вместо да говорим за AGI или изкуствен интелект на човешко ниво, нека да поговорим за различните видове AI и какво те ще могат или какво няма да могат да правят.
Какво не могат да правят големите езикови модели?
Още от началото на AI преди около 70 години надпреварата е за някаква форма на интелект на човешко ниво. В продължение на десетилетия най-доброто, което можеше да се направи, беше „тесен AI” като печелещият на шаха Deep Blue на IBM или AlphaFold на Google, който прогнозира протеинови структури и спечели на създателите си (включително Хасабис) дял от Нобеловата награда за химия миналата година. И двете бяха далеч отвъд човешкото ниво, но могат да извършват само една изключително специфична задача.
Ако сега AGI изведнъж ни изглежда по-близо, то е защото езиковите модели, стоящи в основата на ChatGPT и подобните услуги, изглеждат едновременно по-човешки и са с общо предназначение.
Големите езикови модели взаимодействат с нас на обикновен език. Те могат да дават поне правдоподобни отговори на повечето въпроси. Пишат доста добре, особено в кратки форми. (За по-дълги истории губят представа за героите и детайлите от сюжета). Постигат все по-високи резултати на сравнителни тестове за умения като програмиране, медицински или адвокатски изпити и задачи по математика. Те стават все по-добри в разсъжденията стъпка по стъпка, както и в по-сложни задачи. Когато най-запалените по изкуствения интелект говорят, че AGI вече е зад ъгъла, те говорят предимно за по-напреднала форма на настоящите модели.
Не че големите езикови модели няма да имат голямо въздействие. Някои софтуерни компании вече планират да наемат по-малко инженери. Повечето задачи, които следват един и същ процес всеки път, като поставянето на медицински диагнози, изготвяне на правни документи, писане на кратки изследвания, създаване на маркетингови кампании и други – ще бъдат неща, които човешкият работник може поне частично да възложи на изкуствения интелект. Някои вече е възложил.
Това ще направи тези служители по-продуктивни, което може да доведе до премахването на част от работните места. Макар и не непременно: Джефри Хинтън, компютърният учен с Нобелова награда, известен като кръстника на AI, позорно предсказа, че AI скоро ще направи радиолозите излишни. Днес обаче има недостиг на такива кадри в САЩ.
Важното е, че големите езикови модели все още са нещо като „тесен AI”. Те могат да се справят добре с една работа, но не са достатъчно добри в друга. Например изкуствен интелект може да издържи адвокатски изпит с отличие, но да се провали в превръщането на разговор с клиент в правна справка. Може да отговори перфектно на някои въпроси, но редовно халюцинира за други. Големите езикови модели се справят добре с проблеми, които могат да бъдат разрешени с помощта на ясни правила, но в някои по-нови тестове, където правилата са по-двусмислени, моделите, които са отбелязали 80% или повече по други показатели, тук не успяват дори да достигнат едноцифрено чисто.
Дори големите езикови модели да започнат да се справят добре и с тези тестове, те пак ще бъдат тясно специализирани. Едно е да се справи с определен, ограничен проблем, колкото и да е трудно. Съвсем друго е да се заемеш с това, което хората всъщност правят в един обичаен работен ден.
Дори един математик не прекарва цял ден в решаване на математически задачи. Хората правят безброй неща, които не могат да бъдат сравнени, защото не са ограничени проблеми с правилни и грешни отговори. Претегляме противоречиви приоритети, отказваме се от провалящи се планове, вземаме предвид непълно знание, разработваме заобикалящи решения, действаме въз основа на предчувствия, четем знаците, които ни дават другите, и преди всичко постоянно взаимодействаме с изключително непредсказуемите и ирационални интелигентности – другите човешки същества.
Всъщност един от аргументите срещу възможността големите езикови модели някога да работят на ниво Нобелова награда е, че най-брилянтните учени не са тези, които знаят най-много, а тези, които оспорват общоприетото знание, предлагат невероятни хипотези и задават въпроси, които никой друг не се е сетил да зададе. Това е почти обратното на големите езикови модели, които целят да намерят най-вероятния консенсусен отговор въз основа на цялата налична информация.
Така че един ден може да успеем да изградим голям езиков модел, който може да изпълнява почти всяка индивидуална когнитивна задача като човек. Той може да е в състояние да изпълни цяла поредица от задачи, за да реши по-голям проблем. Според някои дефиниции това би бил изкуствен интелект на човешко ниво. Но все пак би бил изключително глупав, ако го оставите да работи в офис.
Човешкият интелект не е „общ“
Един от основните проблеми с идеята за AGI е, че тя се основава на силно антопоцентричната представа за това както е интелектът.
Повечето изследвания на изкуствения интелект третират интелигентността като повече или по-малко линейна мярка. Предполага се, че в един момент машините ще достигнат човешко ниво или „общ“ интелект, а след това може би „суперинтелект“, в който момент те или стават Скайнет и ни унищожават, или се превръщат в добронамерени богове, които се грижат за всички наши нужди.
Но има силен аргумент, че човешкият интелект всъщност не е „общ“. Умовете ни са еволюирали за изключително специфичното предизвикателство да бъдем ние. Размерът и формата на човешкото тяло, видовете храна, които можем да смиламе, хищниците, с които сме се сблъсквали някога, размерът на нашите роднински групи, начинът, по който общуваме, дори силата на гравитацията и дължините на светлинните вълни, които възприемаме, са част от определянето на това, в което умът ни е добър. Други животни имат много форми на интелект, които на нас ни липсват. Паякът например може да различи хищник от плячка по вибрациите на мрежата си. Слонът може да запомни миграционни маршрути, дълги хиляди мили, а при октопода всяко пипало буквално има свой собствен ум.
В есе от 2017 г. Кевин Кели твърди, че не трябва да мислим за човешкия интелект като за намиращ се на върха на някакво еволюционно дърво, а като само за една точка в група от базирани на Земята интелекти, която сама по себе си е мъничко петно във вселената от всички възможни извънземни и машинни интелигентности. По думите му това разбива „мита за свръхчовешки AI“, който може да прави всичко много по-добре от нас. По-скоро трябва да очакваме „много стотици извънчовешки нови видове мислене, най-различни от хората, като нито едно няма да е с обща цел, и нито едно няма да е бъде мигновен бог, решаващ светкавично големи проблеми“.
Купища агенти
Нищо от това не отхвърля огромните скокове, които можем да очакваме от AI през следващите няколко години.
Един от скоковете, който вече е започнал, са AI агентите. Агентите са базирани на големи езикови модели, но вместо просто да анализират информацията, те могат да извършват действия като правене на покупки или попълване на онлайн формуляри. Zoom например планира скоро да пусне агенти, които могат да разгледат транскрипция от среща, за да създадат елементи като последващи имейли или да планират следваща среща. Засега производителността на AI агентите е смесена, но както при големите езикови модели, очаквайте драстично подобряване до точката, в която доста сложни процеси могат да бъдат автоматизирани.
Някои може да твърдят, че това е AGI. Но това отново е по-скоро объркващо. Агентите няма да бъдат „общи“, а по-скоро ще са лучни асистенти с изключително еднопосочни умове. Може да имате десетки от тях. Дори ако производителността ви скочи рязко, управлението им ще бъде като жонглиране с десетки различни софтуерни приложения, подобно на това, което вече правите. Може би ще получите агент, който да управлява всички ваши агенти, но той също ще бъде ограничен до каквито цели сте му поставили.
А какво ще се случи, когато милиони или милиарди агенти си взаимодействат онлайн, можем само да гадаем. Може би точно както алгоритмите за търговия са предизвикали необясними пазарни „светкавични сривове“, те ще се задействат един друг в неудържими верижни реакции, които парализират половината интернет. По-притеснителното е, че злонамерените участници могат да мобилизират множество агенти, за да предизвикат хаос.
Все пак големите езикови модели и техните агенти са само един вид изкуствен интелект. В рамките на няколко години може да имаме коренно различни видове. Лабораторията на ЛеКун в Meta например е една от няколкото, които се опитват да изградят това, което се нарича въплътен AI.
Теорията е, че чрез вкарването на AI в тяло на робот във физическия свят или в симулация, той може да научи за обектите, местоположението и движенията – градивните елементи на човешкото разбиране, от които могат да произлязат по-висши концепции. За разлика от тях големите езикови модели, обучени само върху огромно количество текст, имитират човешките мисловни процеси на повърхността, но не показват доказателства, че действително ги имат.
Ще доведе ли въплътеният AI до наистина мислещи машини или просто до много сръчни роботи? В момента това е невъзможно да се каже. Дори и да е първото, пак би било подвеждащо да го наречем AGI.
Да се върнем към въпроса за еволюцията. Точно както би било абсурдно да очакваме човек да мисли като паяк или слон, би било абсурдно да очакваме продълговат робот с шест колела и четири ръце, който не спи, не яде или прави секс — камо ли да създава приятелства, да се бори със съвестта си или да обмисля собствената си смъртност — да мисли като човек. Може да успее да пренесе баба от хола до спалнята, но също така ще замисли и ще изпълни задачата съвсем различно от начина, по който ние бихме я направили.
Днес дори не можем да си представим много от нещата, на които AI ще бъде способен. Най-добрият начин да проследите и осмислите този напредък ще бъде да спрете да се опитвате да го сравнявате с хората или с нещо от филмите, а вместо това просто да продължите да питате какво всъщност прави.
