Джон Нотън
Ето една история, на която евангелистите за така наречения ИИ (изкуствен интелект) може да предпочетат да не се спирате. Тя идва от страниците на Nature Machine Intelligence, толкова трезво списание, колкото бихте искали да намерите в научна библиотека. В него участват четирима изследователи – Фабио Урбина, Филипа Ленцос, Седрик Инверници и Шон Екинс – които работят за фармацевтична компания, изграждаща системи за машинно обучение за намиране на „нови терапевтични инхибитори" – вещества, които пречат на химическа реакция, растеж или друга биологична активност, участващи в човешки заболявания.
Същността на фармацевтичните изследвания е откриването на лекарства. То се свежда до търсене на молекули, които могат да имат терапевтични приложения и тъй като има милиарди потенциални възможности, прави търсенето на игла в купи сено да изглежда като детска игра. Като се има предвид това, появата на технологията за машинно обучение МО, позволяваща на машините да търсят в милиарди възможности, бе сбъдната мечта и е вградена навсякъде в индустрията.
Ето как работи, както е описано от екипа, открил халицин, молекула, която действа срещу резистентните към лекарства бактерии, причиняващи нарастващи затруднения в болниците. „Ние обучихме модел за задълбочено обучение върху колекция от 2500 молекули за инхибиране растежа на E coli in vitro. Този модел научи връзката между химическата структура и антибактериалната активност по начин, който ни позволи да покажем наборите модели от химикали, които никога не са виждани преди, и след това да направи прогнози за това дали тези нови молекули притежават или не антибактериална активност срещу E coli".
Веднъж обучени, те настроиха модела да изследва различна библиотека от 6000 молекули и получиха такава, която първоначално е била разглеждана само като възможност за лечение на диабет. Но когато след това беше тествана срещу десетки от най-проблемните бактериални щамове, беше установено, че работи – и че има по-ниска прогнозирана токсичност при хората. С приятна нотка, те го кръстиха Халицин -като изкуствения интелект в „2001: Космическа одисея" на Кубрик.
Това е работата, която Урбина и колегите му вършеха в лабораторията си - търсейки молекули, които отговарят на два критерия: положителни терапевтични възможности и ниска токсичност за хората. Техният генеративен модел наказва предвидената токсичност и възнаграждава прогнозираната терапевтична активност. След това те бяха поканени на конференция от Швейцарския федерален институт за ядрена, биологична и химическа защита относно технологичните разработки, които биха могли да имат отражение върху Конвенцията за химическите/биологичните оръжия. Организаторите на конференцията искаха документ за това как може да се злоупотребява с МО.
„Това е нещо, за което никога не сме мислили преди. Но беше много лесно да осъзнаем, че докато изграждаме тези модели за машинно обучение, за да ставаме все по-добри и по-добри в прогнозирането на токсичността, за да избегнем токсичността, всичко, което трябва да направим, е да преместим превключвателя и да кажем, „Знаете ли, вместо да се отдалечим от токсичността, какво ще стане, ако отидем към токсичността?", спомня си Урбина.
Така те дръпнаха ключа и в този процес отвориха кошмарна перспектива за човечеството. За по-малко от шест часа моделът генерира 40 000 молекули, които отговарят на прага, определен от изследователите. Машината проектира VX и много други известни химически бойни агенти, отделно потвърдени със структури в публични бази данни за химия. Бяха проектирани и много нови молекули, които изглеждаха еднакво правдоподобни, някои от тях се предвиждаха да бъдат по-токсични от публично известните химически бойни агенти. „Това беше неочаквано, защото наборите от данни, които използвахме за обучение на ИИ, не включваха тези нервни агенти. Чрез обръщане на целта на нашите модели за машинно обучение, ние трансформирахме нашия безвреден генеративен модел от полезен инструмент за лекарство, към генератор на смъртоносни молекули" пишат изследователите.
Помислете за момент: някои от „откритите" молекули са потенциално по-токсични от нервнопаралитичния агент VX, който е едно от най-смъртоносните известни съединения. VX е разработен от Лабораторията за отбранителна наука и технологии на Обединеното кралство (DSTL) в началото на 50-те години. Това е вид оръжие, което преди можеше да бъде разработено само от финансирани от държавата лаборатории като DSTL. Но сега един злонамерен маниак с купчина графични процесори и достъп до молекулярна база данни може да измисли нещо подобно
Две неща ми правят впечатление в тази история. Първият е, че „изследователите никога не са мислили за възможните злонамерени употреби на тяхната технология". В това отношение те вероятно са били типични за легионите инженери, които работят върху МО в индустриални лаборатории. Второто е, че докато МО ясно осигурява мощно увеличаване на човешките способности, дали това е добра новина за човечеството - зависи от това чии умове увеличава.