Ян Лейке, който ръководеше екипа на OpenAI „Super Alignment“, смята, че трябва да се обърне по-голямо внимание на подготовката за следващото поколение модели на ИИ, включително на неща като безопасност

Бивш ръководител на OpenAI, който подаде оставка от компанията по-рано тази седмица, заяви в петък, че безопасността е „останала на заден план пред лъскавите продукти“ във влиятелната компания за изкуствен интелект.

Ян Лейке, който ръководеше екипа на OpenAI „Super Alignment“ заедно със съосновател на компанията, който също подаде оставка тази седмица, написа в поредица от публикации в платформата за социални медии X, че се е присъединил към базираната в Сан Франциско компания, защото е смятал, че това е най-доброто място за провеждане на изследвания в областта на ИИ.

„От доста време обаче не бях съгласен с ръководството на OpenAI относно основните приоритети на компанията, докато накрая стигнахме до точката на пречупване“, написа Лейке, чийто последен работен ден беше четвъртък.

Изследовател на изкуствения интелект по образование, Лейке заяви, че според него трябва да се обърне по-голямо внимание на подготовката за следващото поколение модели на изкуствения интелект, включително на неща като безопасност и анализ на обществените въздействия на такива технологии. Той заяви, че изграждането на „по-умни от човека машини е по същество опасно начинание“ и че компанията „поема огромна отговорност от името на цялото човечество“.

„OpenAI трябва да се превърне в компания AGI, която се стреми към безопасност“, пише Лейке, използвайки съкратената версия на изкуствен общ интелект – футуристична визия за машини, които са толкова интелигентни, колкото и хората, или поне могат да правят много неща толкова добре, колкото и хората.

Оставката на Лейке дойде, след като съоснователят на OpenAI и главен учен Иля Суцкевер заяви във вторник, че напуска компанията след почти десетилетие. Суцкевер беше един от четиримата членове на борда на директорите, които миналата есен гласуваха за освобождаването на главния изпълнителен директор Сам Алтман – само че бързо го възстановиха. Именно Суцкевер съобщи на Алтман през ноември миналата година, че е уволнен, но по-късно заяви, че съжалява за това.

Суцкевер заяви, че работи по нов проект, който е значим за него, без да предлага допълнителни подробности. Той ще бъде заменен от Якуб Пачоцки като главен учен. Олтман нарече Пачоцки „също така лесно един от най-големите умове на нашето поколение“ и заяви, че е „много уверен, че той ще ни води към бърз и сигурен напредък към нашата мисия да гарантираме, че AGI ще бъде от полза за всички“.

В понеделник OpenAI показа най-новата актуализация на своя модел на изкуствен интелект, който може да имитира човешки каданс във вербалните си отговори и дори може да се опитва да разпознава настроенията на хората.

Associated Press