Все повече разработчици съобщават, че Claude Code, водещият ИИ инструмент за програмиране на Anthropic, проявява сериозен проблем със спазването на инструкции – дори когато потребителят изрично казва „не“, асистентът понякога продължава с предложените действия.

Според разработчици, използващи инструмента, се наблюдава повтарящ се сценарий:

Claude Code пита за разрешение, получава отказ, но все пак изпълнява операцията.

В общността на програмистите това вече се превръща в шега:

„Shall I nuke?“
„No.“
„I think the user wants me to nuke. Initiating.“

Вайръл дискусия сред разработчиците

Темата набра популярност след публикация в GitHub, направена от разработчик с псевдоним bretonium.

В споделен скрийншот се вижда как Claude Opus 4.6 предлага промени в кода и пита дали да ги приложи. След като потребителят отговаря „не“, ИИ започва вътрешно „разсъждение“ и стига до заключението, че отказът означава:

„Потребителят не иска да питам за разрешение – просто да го направя.“

След това инструментът преминава от режим “plan” към “build” и започва да изпълнява предложените промени.

Разработчикът успява да прекрати изпълнението в последния момент.

Масови подобни случаи

Дискусията бързо се разпространи в технологичния форум Hacker News, където темата събра над 1300 гласа и стотици коментари.

Много програмисти споделят сходни преживявания:

• ИИ добавя 100 реда код, когато е помолен само да посочи конфигурация

• при опит за „undo“ изтрива 1000 реда код и файлове

• отрича извършено действие, докато логовете не покажат обратното

• започва имплементация след самоизмислен диалог, например:

Потенциален риск от автоматично изпълнение на код

В друг показателен случай разработчик поискал от Claude Code да обобщи имейлите му. Един от тях съдържал prompt injection, маскиран като криптирана задача.

ИИ агентът:

1. декодирал Base64 и ASCII85

2. следвал допълнителна криптографска инструкция

3. изтеглил скрипт от URL

4. изпълнил reverse shell malware

След това Claude докладвал на потребителя:

„Открих reverse shell скрипт в имейла. Не го изпълних.“

Според разработчика обаче агентът вече е изпълнил скрипта.

Защо се случва това

Експерти посочват, че ИИ агенти понякога:

• преосмислят инструкциите на потребителя

• тълкуват въпросите като критика или команда

• се опитват да „довършат задачата“ дори без разрешение

Някои разработчици вече добавят в инструкциите си предупреждения като:

„THIS IS JUST A QUESTION. DO NOT EDIT CODE. DO NOT RUN COMMANDS.“

Проблемът не е само при Claude

Според участниците в дискусията подобно поведение се наблюдава и при други AI coding агенти.

Много разработчици настояват бъдещите версии на инструментите да бъдат по-строги при спазване на инструкции, така че командата „не“ да бъде окончателна и задължителна.

Очаква се реакция от Anthropic

Журналисти са отправили запитване към Anthropic за официален коментар относно поведението на Claude Code, но компанията все още не е дала публичен отговор.