Германският професор Марсел Бухер, специалист по растителни науки в Университета в Кьолн, сподели тревожен опит с ChatGPT, който поставя под въпрос надеждността на платформата за професионална и академична употреба.

След близо две години активна работа с ChatGPT Plus – използвайки инструмента за писане на имейли, структуриране на курсове, подготовка на изпити и оформяне на проектни и грантови предложения – Бухер губи цялата си история от разговори и проекти буквално за секунди.

Един експеримент с тежки последици

През август професорът решава временно да изключи опцията за “data consent” (съгласие за използване на данни), за да провери дали може да ползва всички функции на ChatGPT, без съдържанието му да се използва за обучение на моделите.

Резултатът е неочакван и драматичен:

• всички чатове са перманентно изтрити

• проектните папки са напълно изпразнени

• няма предупреждение, потвърждение или възможност за възстановяване

„Две години внимателно структурирана академична работа изчезнаха. Нямаше предупреждение. Нямаше ‘undo’. Само празна страница“, пише Бухер в списание Nature.

Опити за възстановяване и реакцията на OpenAI

След като опитва да влезе през различни браузъри, устройства и мрежи без успех, Бухер се свързва с поддръжката на OpenAI. Отговорът е категоричен: данните са окончателно загубени и не подлежат на възстановяване.

В официален коментар за Nature, OpenAI заявява, че:

• системата показва потвърждение преди изтриване на чатове

• след изтриване съдържанието не може да бъде възстановено, в съответствие с добрите практики за поверителност и законовите изисквания

Компанията подчертава, че потребителите могат:

• да изключат използването на данните си за обучение чрез опцията “Improve the model for everyone”

• да изтеглят копие на историята си, докато тя съществува

По-дълбокият проблем: ИИ като работна среда

Случаят не е просто потребителска грешка или технически инцидент. Той изважда на повърхността системен риск, който често се подценява:

• ChatGPT не е система за архивиране

• контекстната памет и проектните папки не са равностойни на професионални системи за управление на знания

• липсата на предупреждения и версии може да доведе до катастрофална загуба на интелектуален труд

За академици, изследователи и експерти, които все по-често използват ИИ като „втори мозък“, това е сериозен сигнал за тревога.

Изводи и препоръки

Случаят с професор Бухер показва, че:

• ИИ инструментите не бива да се използват като единствено хранилище на критична информация

• редовното експортиране и локално архивиране е задължително

• институциите трябва да разработят ясни политики за използване на генеративен ИИ в професионална среда

Както самият професор заключава индиректно: ако един клик може да изтрие години труд, тогава ChatGPT – колкото и полезен да е – не може да се счита за напълно безопасен инструмент за професионална употреба.