Щатът Ню Йорк обсъжда нов законопроект, който може съществено да промени начина, по който системите с изкуствен интелект (ИИ) се използват от потребителите. Предложението предвижда строги ограничения върху чатботове, които предоставят съвети в области, регулирани от лицензирани професии, като право, медицина и психотерапия.

Законопроектът, известен като Senate Bill S7263, цели да предотврати ситуации, в които потребители се доверяват на автоматизирани системи за решения, които по закон трябва да бъдат предоставяни единствено от квалифицирани специалисти.

Какво предвижда законопроектът

Според предложението чатботовете няма да могат да предоставят съществена информация, съвет или указания, ако подобно действие – извършено от човек – би представлявало:

• неразрешена юридическа практика

• неразрешена медицинска консултация

• неразрешено използване на защитена професионална титла

С други думи, ако дадена дейност изисква лиценз по закон, ИИ системите няма да могат да изпълняват тази роля.

Задължително уведомление за потребителите

Законопроектът въвежда и изискване за ясна прозрачност при взаимодействието с чатботове.

Операторите на подобни системи ще трябва да показват ясно, видимо и недвусмислено уведомление, че потребителят комуникира с програма с изкуствен интелект.

Изискванията включват:

• уведомлението да бъде на същия език, използван от чатбота

• текстът да бъде лесно четим за средностатистически потребител

• съобщението да бъде видимо и недвусмислено

Важно уточнение е, че самото уведомление не освобождава оператора от юридическа отговорност.

Право на съдебни искове при вреди

Една от най-съществените разпоредби в проекта е възможността потребителите да завеждат граждански дела срещу операторите на чатботове, ако са претърпели вреди вследствие на получен съвет.

Ако бъде доказано нарушение, операторът може да бъде задължен да заплати:

• реални щети

• съдебни разходи

• адвокатски възнаграждения

Тази мярка има за цел да създаде пряка юридическа отговорност за компаниите, разработващи и поддържащи системи с ИИ.

Подобни регулации се обсъждат и в други щати

Ню Йорк не е единственият щат, който предприема действия за регулиране на чатботове.

Подобни мерки вече са въведени или обсъждани в:

• Калифорния – изисква ясно разкриване, когато потребителят общува с ИИ, и забранява внушението, че съветът идва от човешки специалист

• Невада – забранява използването на ИИ за предоставяне на професионална психотерапия

• Илинойс – ограничава терапевтични услуги, базирани на ИИ, без професионален надзор

Тези инициативи показват нарастваща регулаторна тенденция в САЩ, насочена към ограничаване на рисковете при използване на генеративни технологии.

Първите съдебни спорове вече са факт

Регулаторният дебат се засили след съдебен иск срещу компанията OpenAI, създател на чатбота ChatGPT.

Американското подразделение на японската застрахователна компания Nippon Life Insurance твърди, че чатботът е съдействал за неразрешена юридическа практика.

Според иска потребителка е използвала ChatGPT, за да анализира електронна кореспонденция от своя адвокат. След като системата потвърдила съмненията ѝ относно дадения правен съвет, тя прекратила отношенията със своя юрист и решила да възобнови съдебно дело, което вече било окончателно прекратено.

Компанията твърди, че този процес е довел до значителни допълнителни съдебни разходи и административни ресурси.

Правна несигурност около ИИ

В иска се подчертава, че ChatGPT не е адвокат, независимо от факта, че системата е демонстрирала способност да издържи симулиран юридически изпит.

Въпреки това:

• тя не притежава лиценз за адвокатска практика

• не е регистрирана в нито една юрисдикция в САЩ

Застрахователната компания иска 300 000 долара компенсация и 10 милиона долара наказателни обезщетения, както и съдебна заповед, която да забрани на OpenAI да предоставя правни услуги чрез своите системи.

От OpenAI отхвърлят обвиненията и заявяват, че жалбата е лишена от правно основание.

Pегулиране на ИИ

Случаят подчертава нарастващото напрежение между технологичните иновации и правната рамка, която все още се адаптира към новите реалности.

Генеративните системи с изкуствен интелект могат да предоставят бърз достъп до информация, но същевременно създават рискове от погрешни съвети, правна отговорност и подвеждане на потребителите.

Затова експертите предупреждават, че регулацията ще бъде ключов фактор за бъдещото развитие на ИИ, особено в чувствителни сфери като здравеопазване, право и психично здраве.