Търсене
Close this search box.

OpenAI сформира нов комитет за безопасност

Комитетът се създава в момент, когато създателят на ChatGPT започва да обучава най-новия си голям езиков модел – GPT-5, който ще достигне „ново ниво на възможности“.

Open AI сформира комитет за безопасност и сигурност, ръководен от директорите на компанията Брет Тейлър, Адам Д’Анджело, Никол Селигман и главния изпълнителен директор Сам Алтман.

Комитетът се сформира, за да дава препоръки на целия управителен съвет относно мерките за безопасност и решенията за сигурност за проектите и операциите на OpenAI.

В съобщението си за комитета OpenAI отбелязва, че е започнала обучението на следващата итерация на големия езиков модел, който е в основата на ChatGPT, и че „приветства активния дебат в този важен момент“ относно безопасността на изкуствения интелект.

Групата първо има за задача да оцени и разработи процесите и предпазните мерки на компанията за следващите 90 дни, след което комитетът ще сподели препоръките си с управителния съвет, който ще ги разгледа, преди да бъдат споделени с обществеността.

Сформирането на комисията идва, след като Ян Лейке, бивш ръководител на OpenAI по въпросите на безопасността, подаде оставка от компанията поради критики за недостатъчно инвестиране в работата по безопасността, както и напрежение с ръководството. То идва и след като нейният екип за надзор на безопасността беше разформирован, а членовете му бяха прехвърлени на други места.

Илия Колоченко, експерт по киберсигурност и предприемач, изрази своя скептицизъм относно това как тази промяна в компанията в крайна сметка ще бъде от полза за обществото като цяло.

„Макар че тази стъпка със сигурност е добре дошла, крайната ѝ полза за обществото до голяма степен е неясна. Осигуряването на безопасност на моделите на изкуствен интелект, например, за да се предотврати злоупотребата с тях или опасни халюцинации, очевидно е от съществено значение“, каза Колоченко в изявление, изпратено по електронната поща. „Безопасността обаче е само един от многото аспекти на рисковете, с които трябва да се справят доставчиците на GenAI. … Да бъдеш безопасен не означава непременно да бъдеш точен, надежден, справедлив, прозрачен, обясним и недискриминационен – абсолютно ключови характеристики на решенията GenAI.“

 

Източник: DARKReading

Подобни публикации

Време е да се справим с проблема със сигурностт...

Софтуерните компании от десетилетия се основават на отворен код. Се...
15 юни 2024

Чък Робинс: "Нашата работа е да не се проваляме"

Бившият главен изпълнителен директор на Splunk Гари Стил се ангажир...

Наследените технологии пречат на дигиталната тр...

Според ново проучване остарелите наследени технологии пречат на орг...
15 юни 2024

Европол започва лов на отделни киберпрестъпници

След впечатляващото разбиване на ботнет само преди няколко дни межд...
14 юни 2024

Засилени киберзаплахи пред Евро 2024

Евро 2024  в Германия започва след няколко часа и ще завърши след м...

Ню Йорк Таймс предупреждава фрийлансърите си за...

Ню Йорк Таймс уведоми неразкрит брой сътрудници, че част от чувстви...
14 юни 2024

YouTube преминава към инжектиране на реклами от...

Съобщава се, че YouTube вече вкарва реклами директно във видеопотоц...
14 юни 2024

Как да повишим киберсигурността на компаниите з...

Технологичният пейзаж се променя бързо, което поставя нови предизви...
Бъдете социални
Още по темата
12/06/2024

Mistral увеличи оценката с...

Френският (и европейски) любимец на GenAI...
01/06/2024

Приложение за генериране на...

Gipy – новооткрита кампания, използваща щам...
28/05/2024

Фишингът се разраства

Преходът към облака, лошата хигиена на...
Последно добавени
15/06/2024

Време е да се справим с про...

Софтуерните компании от десетилетия се основават...
15/06/2024

Чък Робинс: "Нашата работа ...

Бившият главен изпълнителен директор на Splunk...
15/06/2024

Наследените технологии преч...

Според ново проучване остарелите наследени технологии...
Ключови думи

Абонамента е почти завършен.

На посоченият от Вас e-mail е изпратено съобщение за потвърждаване на абонамента.

Моля, проверете електронната си поща за да потвърдите.

Благодарим за доверието!