Дан Милмо
Съобщава се, че преди уволнението на Сам Алтман, OpenAI е работил върху усъвършенствана система, която е била толкова мощна, че е причинила опасения за безопасността сред персонала на компанията. Моделът на изкуствения интелект е предизвикал такава тревога сред някои изследователи на OpenAI, че те се обърнали към борда на директорите (преди уволнението на Алтман) с предупреждение, че може да застраши човечеството, съобщи Ройтерс.
Моделът, наречен Q* – произнасян като „Q-Star" – е успял да реши основни математически проблеми, които не е виждал досега, според сайта за технологични новини Information. Сайтът добавя, че темпото на развитие зад системата е тревожило някои изследователи на безопасността. Способността за решаване на математически проблеми би се разглеждала като значително развитие в ИИ.
Докладите последваха дните на смут в базираната в Сан Франциско OpenAI, чийто борд уволни Алтман миналия петък, но го върна на работа във вторник вечерта, след като почти всички 750 служители на компанията заплашиха да подадат оставка, ако той не бъде върнат. Алтман имаше и подкрепата на Microsoft - най-големия инвеститор на OpenAI.
Много експерти са загрижени, че компании като OpenAI се движат твърде бързо към разработването на изкуствен общ интелект (AGI). Това е терминът за система, която може да изпълнява голямо разнообразие от задачи на човешки или над човешки нива на интелигентност – и която на теория може да избягва човешкия контрол.
Андрю Рогойски от Института за ИИ ориентиран към хората, в Университета на Съри, каза, че съществуването на голям езиков модел (LLM) за решаване на математика би било пробив. Той каза: „Присъщата способност на LLM да правят математика е голяма стъпка напред, позволяваща да предложат изцяло нова гама от аналитични възможности."
Говорейки миналата седмица, само ден преди изненадващото му уволнение, Алтман посочи, че компанията зад ChatGPT е направила още един пробив. В изява на срещата на върха на Азиатско-тихоокеанското икономическо сътрудничество (APEC) той каза: „Четири пъти в историята на OpenAI - последният път само през последните няколко седмици - трябваше да бъда в стаята, когато някак отместваме булото на невежеството назад и границата на откритието напред. Да направим това е професионалната чест на живота."
OpenAI бе основана като предприятие с нестопанска цел с борд, който управлява търговско дъщерно дружество, управлявано от Алтман. Microsoft е най-големият инвеститор в бизнеса с печалба. Като част от принципното споразумение за завръщането на Алтман, OpenAI ще има нов борд, председателстван от Брет Тейлър, бивш съ-изпълнителен директор на софтуерната компания Salesforce.
Разработчикът на ChatGPT заявява, че е създаден с цел да разработи „безопасен и полезен изкуствен общ интелект в полза на човечеството и компанията с печалба ще бъде законово обвързана да преследва мисията на организацията с нестопанска цел".
Акцентът върху безопасността в организацията с нестопанска цел доведе до спекулации, че Алтман е бил уволнен заради застрашаване на основната мисия на компанията. Въпреки това, неговият кратък наследник като временен главен изпълнителен директор, Емет Шиър, написа тази седмица „Бордът не е отстранил Сам поради каквото и да е конкретно несъгласие относно безопасността".
OpenAI е потърсен за коментар.
Източник: Гардиън, превод: Ш.Меламед