Търсене
Close this search box.

ChatGPT Сигурност: OpenAI предлага награди до 20 000 долара

Компанията OpenAI, която стои зад  популярния чатбот с изкуствен интелект ChatGPT, стартира програма за възнаграждаване на грешки, за да гарантира, че системите ѝ са „сигурни и безопасни“.

За тази цел тя си партнира с платформата за групова защита Bugcrowd, за да могат независими изследователи да докладват за открити уязвимости в нейния продукт срещу възнаграждения, вариращи от „200 долара за открития с ниска степен на сериозност до 20 000 долара за изключителни открития“.

Струва си да се отбележи, че програмата не обхваща проблемите с безопасността на моделите или халюцинациите, при които чатботът е подтикнат да генерира зловреден код или други дефектни резултати. Компанията отбеляза, че „решаването на тези проблеми често включва значителни изследвания и по-широк подход“.

Други забранени категории са атаки за отказ на услуга (DoS), грубо насилване на API на OpenAI и демонстрации, които целят унищожаване на данни или получаване на неоторизиран достъп до чувствителна информация.

„Моля, имайте предвид, че разрешеното тестване не ви освобождава от всички условия за ползване на OpenAI“, предупреждават от компанията. „Злоупотребата с услугата може да доведе до ограничаване на скоростта, блокиране или забрана.“

В обхвата обаче попадат дефекти в API на OpenAI, ChatGPT (включително плъгини), интеграции на трети страни, публично излагане на API ключове на OpenAI и всички домейни, управлявани от компанията.

Разработката идва в отговор на това, че OpenAI коригира дефекти в платформата, свързани с превземането на акаунти и излагането на данни, което накара италианските регулатори за защита на данните да разгледат по-отблизо платформата.

Италианският орган за защита на данните предлага мерки за отмяна на забраната на ChatGPT

Оттогава Garante, който наложи временна забрана на ChatGPT на 31 март 2023 г., очерта набор от мерки, които подкрепяната от Microsoft фирма ще трябва да се съгласи да изпълни до края на месеца, за да бъде отменено временното спиране.

„OpenAI ще трябва да изготви и да предостави на своя уебсайт информационно съобщение, в което да опише мерките и логиката на обработката на данни, необходими за функционирането на ChatGPT, както и правата, предоставени на субектите на данни“, заяви Garante.

Освен това информационното известие трябва да бъде лесно достъпно за италианските потребители, преди да се регистрират за услугата. От потребителите също така ще трябва да се изисква да декларират, че са на възраст над 18 години.

На OpenAI също така е наредено да въведе система за проверка на възрастта до 30 септември 2023 г., за да филтрира потребителите на възраст под 13 години и да има разпоредби за търсене на родителско съгласие за потребителите на възраст от 13 до 18 години. На компанията беше даден срок до 31 май да представи план за системата за проверка на възрастта.

Като част от усилията за упражняване на правата върху данните, както потребителите, така и тези, които не използват услугата, могат да поискат „коригиране на личните си данни“ в случаите, когато те са генерирани неправилно от услугата, или алтернативно – да изтрият данните, ако корекциите са технически невъзможни.

Според Гаранта на потребителите,  трябва освен това да се предоставят леснодостъпни инструменти за възразяване срещу обработването на личните им данни от алгоритмите на OpenAI. От компанията се очаква също така да проведе рекламна кампания до 15 май 2023 г., за да „информира физическите лица за използването на техните лични данни за обучение на алгоритми“.

Източник: The Hacker News

Подобни публикации

21 май 2024

Arm ще пусне чипове с ИИ през 2025 година

Съобщава се, че базираната в Обединеното кралство компания Arm, еди...
20 май 2024

Атака над ARRL постави радиолюбителите по света...

Американската радиорелейна лига (ARRL) предупреждава, че е претърпя...

Защита на вашите коммити от известни CVEs с Git...

Всички разработчици искат да създават сигурен и надежден софтуер. Т...
20 май 2024

Чрез GitHub и FileZilla се доставя коктейл от ...

Наблюдавана е „многостранна кампания“, при която се зло...
20 май 2024

7 бъга излезли на Pwn2Own все още чакат поправка

Редица сериозни грешки в Windows все още не са навлезли в криминалн...
20 май 2024

Китайци са арестувани за пране на 73 милиона до...

Министерството на правосъдието на САЩ повдигна обвинения на двама а...
20 май 2024

Квантовата навигация може да замени GPS съвсем ...

Британски консорциум, финансиран от правителството на Обединеното к...
19 май 2024

Grandoreiro се завръща по - мощен след прекъсва...

Банковият троянец за Android „Grandoreiro“ се разпростр...
Бъдете социални
Още по темата
16/05/2024

Intel публикува 41 препорък...

Гигантът в областта на чиповете е...
08/05/2024

Критичен недостатък на Tiny...

Установено е, че повече от 50...
01/05/2024

Хакери надхитряват интелиге...

Група изследователи в областта на сигурността...
Последно добавени
21/05/2024

Arm ще пусне чипове с ИИ пр...

Съобщава се, че базираната в Обединеното...
20/05/2024

Атака над ARRL постави ради...

Американската радиорелейна лига (ARRL) предупреждава, че...
20/05/2024

Защита на вашите коммити от...

Всички разработчици искат да създават сигурен...
Ключови думи

Абонамента е почти завършен.

На посоченият от Вас e-mail е изпратено съобщение за потвърждаване на абонамента.

Моля, проверете електронната си поща за да потвърдите.

Благодарим за доверието!