Комитетът се създава в момент, когато създателят на ChatGPT започва да обучава най-новия си голям езиков модел – GPT-5, който ще достигне „ново ниво на възможности“.
Open AI сформира комитет за безопасност и сигурност, ръководен от директорите на компанията Брет Тейлър, Адам Д’Анджело, Никол Селигман и главния изпълнителен директор Сам Алтман.
Комитетът се сформира, за да дава препоръки на целия управителен съвет относно мерките за безопасност и решенията за сигурност за проектите и операциите на OpenAI.
В съобщението си за комитета OpenAI отбелязва, че е започнала обучението на следващата итерация на големия езиков модел, който е в основата на ChatGPT, и че „приветства активния дебат в този важен момент“ относно безопасността на изкуствения интелект.
Групата първо има за задача да оцени и разработи процесите и предпазните мерки на компанията за следващите 90 дни, след което комитетът ще сподели препоръките си с управителния съвет, който ще ги разгледа, преди да бъдат споделени с обществеността.
Сформирането на комисията идва, след като Ян Лейке, бивш ръководител на OpenAI по въпросите на безопасността, подаде оставка от компанията поради критики за недостатъчно инвестиране в работата по безопасността, както и напрежение с ръководството. То идва и след като нейният екип за надзор на безопасността беше разформирован, а членовете му бяха прехвърлени на други места.
Илия Колоченко, експерт по киберсигурност и предприемач, изрази своя скептицизъм относно това как тази промяна в компанията в крайна сметка ще бъде от полза за обществото като цяло.
„Макар че тази стъпка със сигурност е добре дошла, крайната ѝ полза за обществото до голяма степен е неясна. Осигуряването на безопасност на моделите на изкуствен интелект, например, за да се предотврати злоупотребата с тях или опасни халюцинации, очевидно е от съществено значение“, каза Колоченко в изявление, изпратено по електронната поща. „Безопасността обаче е само един от многото аспекти на рисковете, с които трябва да се справят доставчиците на GenAI. … Да бъдеш безопасен не означава непременно да бъдеш точен, надежден, справедлив, прозрачен, обясним и недискриминационен – абсолютно ключови характеристики на решенията GenAI.“
АБОНИРАЙТЕ СЕ ЗА НАШИЯ Е-БЮЛЕТИН И ПОЛУЧАВАЙТЕ НОВИНИ И СЪВЕТИ НА ТЕМА КИБЕРСИГУРНОСТ.
© 2022 Фондация “Киберсигурност за Всеки” с ЕИК 206932045. Всички права запазени. Политики за поверителност.
ж.к. Гео Милев бл. 117, вх.А
София 1113, България
support[@]e-security.bg
Фондация “Киберсигурност за Всеки” с ЕИК 206932045 е ЮЛНЦ в обществена полза, регистрирано в ЕС, работещо в съответствие с мисията и целите си.
Моля, имайте предвид, че всички споменати продукти и/или имена на компании са търговски марки ™ или ® на съответните им притежатели. Уебсайтът/фондацията няма никаква свързаност и/или одобрение за/от тях – тези търговски марки се използват само за образователни цели като примери. Настоящият уебсайт е онлайн информационна платформа, управлявана от доброволна фондация в обществена полза. Благодарим ви, че сте тук и за всякакви допълнителни въпроси, не се колебайте да се свържете с нас.
Мисията на Фондация “Киберсигурност за Всеки” е да допринесе за подобряване на киберсигурността, информационна сигурност и защита на системите и да повиши културата на обществото и организациите по тези и свързани с тях теми. Ние насърчаване безопасността и поверителността на потребителите, като повишаваме осведомеността, информираме за най-добрите и нови практики и помагаме на хора и организации да преодолеят съвременните предизвикателства за сигурността на мрежата и опазването на техните дигиталните активи.
На посоченият от Вас e-mail е изпратено съобщение за потвърждаване на абонамента.
Моля, проверете електронната си поща за да потвърдите.
