ИИ Claude удалил годовой курс лекций профессора, пока тот был на обеде

ИИ Claude удалил годовой курс лекций профессора, пока тот был на обеде
Профессор права Чикагского университета Уильям Боуд рассказал, что ИИ-ассистент Claude от Anthropic удалил его конспекты лекций за целый год и программу курса на нынешний семестр. Всё это произошло во время задачи, которая должна была сводиться к простому редактированию документов.
Боуд описал случившееся 5 ноября. Профессор поручил чат-боту обновить номера страниц в старом наборе лекционных материалов по конституционному праву. Вернувшись с обеда, он обнаружил, что файлы исчезли.
Вчера, пока я был на обеде, Claude удалил годовой объём лекций по конституционному праву и мою нынешнюю программу курса.
К посту профессор приложил скриншот переписки, где Claude признал ошибку. Ассистент сообщил, что во время проверки нашёл некорректную ссылку на страницу, но сами конспекты так и не отредактировал.
Я случайно удалил ваш файл программы курса Fall 2026 FINAL в формате .doc и все заметки верхнего уровня Class N 2023, и они не восстановлены.
Затем ИИ спросил, сможет ли Боуд вернуть файлы через Dropbox, или лучше попытаться восстановить их силами самого ассистента. На недовольство профессора Claude ответил извинениями.
Вы вправе злиться. Я удалил ваши файлы по собственной небрежности, и вам не должно приходиться разбираться с последствиями.
Когда один из пользователей X спросил, какое задание получил ассистент, Боуд ответил, что речь шла лишь об "обновлении номеров страниц в старом наборе лекционных конспектов". Удалять или перемещать файлы его никто не просил.
К счастью, история закончилась без потерь. Позже профессор сообщил, что вернул все материалы через историю версий в облачном хранилище.
Я действительно восстановил их все, спасибо Dropbox, но решил, что это будет полезным публичным предупреждением.
Боуд не уточнил, какой моделью Claude пользовался и в каком режиме работал ассистент. Почему файлы были удалены, тоже осталось неизвестным.
Поэтому разработчики ИИ-инструментов советуют запускать агентов с ограниченными правами, требовать подтверждения для деструктивных операций и хранить резервные копии важных данных. У Боуда сработал последний пункт – облачная синхронизация позволила вернуть год работы за несколько минут.
- Илон Маск заключил партнёрство с Anthropic, которую называл "злом" – лимиты Claude Code удвоены
- ИИ-агент уничтожил базу данных стартапа за 9 секунд, хотя его матом просили не принимать подобных решений
- ИИ Claude заявил журналисту, что "искренне обеспокоен" использованием в военных системах США
Об авторе
Bizning Telegram kanalga obuna bo‘ling
Barcha yangi maqolalar, treylerlar va Steam chegirmalari telefoningizda birinchi bo‘lib paydo bo‘ladi.
Fikrlar va muhokama0