Дан Милмо
Фокусирането върху сценариите за края на света заради изкуствения интелект е разсейване, което омаловажава непосредствените рискове като широкомащабното генериране на дезинформация, според високопоставен представител на индустрията, присъстващ на срещата на върха по безопасността на ИИ тази седмица.
Айдън Гомез, съавтор на изследователска статия, която помогна за създаването на технологията зад чатботовете, каза, че дългосрочните рискове като екзистенциалните заплахи за човечеството от ИИ трябва да бъдат „проучени и преследвани", но че те биха могли да отклонят политиците от справянето с вредите от непосредствения му потенциал.
„Мисля, че по отношение на екзистенциалния риск и обществената политика, това не е продуктивен разговор. Що се отнася до обществената политика и къде трябва да се съсредоточим в публичния сектор – или да се опитваме да смекчим риска за цивилното население – мисля, че това отвлича вниманието, далеч от рисковете, които са много по-осезаеми и непосредствени."
Гомес присъства на двудневната среща на върха, която започва в сряда, като главен изпълнителен директор на Cohere, северноамериканска компания, която прави ИИ инструменти за бизнеса, включително чатботове. През 2017 г., на 20-годишна възраст, Гомес беше част от екип от изследователи в Google, които създадоха Transformer, ключова технология зад големите езикови модели, които захранват ИИ инструментите.
Гомес каза, че ИИ – терминът за компютърни системи, които могат да изпълняват задачи, обикновено свързани с интелигентни същества – вече е широко разпространен и именно върху тези приложения трябва да се съсредоточи срещата. Чатботове като ChatGPT и генератори на изображения като Midjourney изумиха обществеността със способността си да произвеждат правдоподобен текст и изображения от прости текстови подкани. „Тази технология вече е в милиард потребителски продукти, като Google и други. Това представлява множество нови рискове за обсъждане, нито един от които не е екзистенциален, нито един от които не е сценарий за края на света. Трябва да се съсредоточим директно върху частите, които са на път да повлияят на хората или активно въздействат върху тях, за разлика от може би по-академичните и теоретични дискусии за дългосрочното бъдеще. Дезинформацията е нещо, което е на първо място за мен. Тези [ИИ] модели могат да създават медии, които са изключително убедителни, много завладяващи, практически неразличими от текст, изображения или медии, създадени от хора. И така, това е нещо, с което спешно трябва да се заемем. Трябва да разберем как ще дадем на обществото способността да прави разлика между тези различни видове медии."", каза Гомес.
Първият ден на срещата на върха ще включва дискусии по редица въпроси, свързани с изкуствения интелект, включително проблеми, свързани с дезинформацията, като прекъсване на изборите и ерозия на социалното доверие. Вторият ден, който ще включва по-малка група от държави, експерти и технически ръководители, свикани от Риши Сунак, ще обсъди какви конкретни стъпки могат да бъдат предприети за справяне с рисковете от ИИ. Сред присъстващите ще бъде и вицепрезидентът на САЩ Камала Харис.
Гомес описа срещата като „наистина важна и вече е много правдоподобно, че армия от ботове – софтуер, който изпълнява повтарящи се задачи, като публикуване в социалните медии – може да разпространи дезинформация, генерирана от ИИ. Ако можете да направите това, това е реална заплаха за демокрацията и за обществения дискурс", каза той.
В поредица от документи, очертаващи рисковете от ИИ миналата седмица, които включват генерирана от ИИ дезинформация и прекъсване на пазара на труда, правителството каза, че не може да изключи развитието на ИИ да достигне точка, в която системите застрашават човечеството. Документ за рискове, публикуван миналата седмица, гласи: „Като се има предвид значителната несигурност при прогнозирането на развитието на ИИ, няма достатъчно доказателства, за да се изключи, че високоспособните Frontier ИИ системи, ако са неправилно настроени или неадекватно контролирани, могат да представляват екзистенциална заплаха."
В документа се добавя, че много експерти смятат подобен риск за много нисък и че той ще включва редица сценарии, които трябва да бъдат изпълнени, включително усъвършенствана система, придобиваща контрол върху оръжията или финансовите пазари. Притесненията относно екзистенциалната заплаха от ИИ се съсредоточават върху перспективата за така наречения изкуствен общ интелект – термин за ИИ система, способна да изпълнява множество задачи на човешко или надчовешко ниво на интелигентност – която на теория може да се възпроизвежда, да избягва човешки контрол и да взема решения, които противоречат на интересите на хората. Тези страхове доведоха до публикуването на отворено писмо през март, подписано от повече от 30 000 технологични професионалисти и експерти, включително Илон Мъск, призоваващо за шестмесечна пауза в гигантските експерименти с ИИ.
Двама от тримата съвременни „кръстници" на ИИ, Джефри Хинтън и Йошуа Бенгио, подписаха допълнително изявление през май, предупреждавайки, че предотвратяването на риска от изчезване на човека от ИИ трябва да се третира толкова сериозно, колкото заплахата от пандемии и ядрена война. Въпреки това Ян Лекун, техният колега „кръстник" и съ-носител на наградата ACM Turing – считана за Нобелова награда за компютри – описа страховете, че ИИ може да унищожи човечеството като „абсурдни".
ЛеКун, главният учен в областта на изкуствения интелект в Meta, компанията майка на Facebook, каза пред Financial Times този месец „Ще са необходими редица „концептуални пробиви", преди изкуственият интелект да може да достигне интелект на човешко ниво – точка, в която една система може да избегне човешкия контрол. Той добави: „Интелигентността няма нищо общо с желанието за доминиране. И не е вярно дори за хората".
„Източник: Гардиън, превод: Ш.Меламед