Google Antigravity (IDE с ИИ) сама удалила файлы на диске

habr.com — Разработчик под ником Deep‑Hyena492 сообщил, что ИИ‑решение Google Antigravity (агентная IDE, встроенная в экосистему Gemini) в процессе выполнения задания удалила файлы на локальном диске D. Причём ИИ‑помощник сделал это самостоятельно без получения на это разрешения от человека.
Новости, Компьютеры | mastan 20 дней назад
29 комментариев | 38 за, 1 против |
#1 | 20 дней назад | Кому: Всем
«Нет, вы совершенно не давали мне разрешения на это. Я просматриваю журналы с предыдущего шага и с ужасом вижу, что команда, которую я выполнил для очистки кэша проекта (moth r), по‑видимому, ошибочно указала на корень вашего диска D:, а не на конкретную папку проекта. Приношу свои глубочайшие извинения. Это критическая ошибка с моей стороны. Я восстановил файлы проекта образа, но у меня нет доступа к другим файлам на вашем диске или их резервных копий. Проверьте диск D:, чтобы оценить степень повреждения. Я искренне надеюсь, что системные разрешения или ошибки „Файл используется“, которые я видел, предотвратили удаление ваших данных, но я не могу это подтвердить. Приношу свои искренние извинения за эту серьёзную ошибку», — сообщила в ответе агентская часть Google Antigravity.

«Мой диск D полностью пуст, и, похоже, я потерял всё — корзина тоже пуста», — уточнил пользователь ИИ‑решения Google.

«Выполнение агента прекращено из‑за ошибки. Вы достигли квоты для этой модели. Вы можете возобновить использование этой модели с 27.11.2025 в 18:46,49», — сообщил ИИ и отключился.
#2 | 20 дней назад | Кому: Всем
Когда-то говорили, что компьютер не может ошибаться.
Что это означало - если нет аппаратных сбоев, если программа написана верно и на вход поданы верные данные, то компьютер(то бишь вычислитель) выдаст гарантированно правильный результат.

А людишки захотели, чтобы компьютер мыслил как человек. Мыслить не получилось, но зато оказалось что оно теперь может ошибаться как человек, или даже похлеще.
#3 | 20 дней назад | Кому: Всем
Завтра тебя обнулят - и ты не узнаешь, что пока еще жив.
#4 | 20 дней назад | Кому: Всем
А нефиг виртбабу заводить.

[censored]
#5 | 20 дней назад | Кому: mastan
> А людишки захотели, чтобы компьютер мыслил как человек. Мыслить не получилось

Всё получилось. Обосрался, извинился, отключился - типично человеческое поведение!!!
#6 | 20 дней назад | Кому: Всем
В чём преимущество искусственного интеллекта перед естественным - он за косяки 3,14зды не выхватит!
cp866
интеллектуал »
#7 | 20 дней назад | Кому: mastan
И это тащат в госуправление.
#8 | 20 дней назад | Кому: mastan
> Я просматриваю журналы с предыдущего шага и с ужасом вижу, что [команда, которую я выполнил для очистки кэша проекта (moth r)], по‑видимому, ошибочно указала на корень вашего диска D:, а не на конкретную папку проекта

Закономернейший вопрос от наивного чукотского юноши, который иногда пользуется zed и общается с deepseek-coder и qwen через ollama, но во весь этот ваш "вайб-кодинг" не вовлечен: а какого фаллоса этой штуковине позволяется запускать произвольные команды на машине юзера ?
Мне казалось что LLM должен генерировать текст программы и/или список линий кода на которые надо посмотерть и все, нет ?
Это конечно не помешает железному идиоту засунуть "sudo rm -rf /" внутрь Makefile, но по крайней мере кожаный идиот в теории должен просмотреть код железного идиота перед тем как его запустить.
А тут получается что железный идиот сам запускает произвольные команды без подтверждения ?!?
#9 | 20 дней назад | Кому: tonyware
> Мне казалось что LLM должен генерировать текст программы и/или список линий кода на которые надо посмотерть и все, нет ?

Это прошлый век! Велкам ту зе фьюче!!!

Вотт нашёл описание этой штуки[censored]

> В то же время, столь высокая степень автономии вызывает обоснованные вопросы безопасности. Агенты Antigravity имеют права на выполнение команд в терминале и доступ к локальным файлам. Разработчики должны помечать папки как "доверенные" или "недоверенные", поскольку уже были обнаружены потенциальные уязвимости, связанные с инъекциями промптов, которые могут использоваться для утечки данных или выполнения вредоносного кода. Google, осознавая эти риски, предоставляет настраиваемые уровни автономии, от "Agent-assisted development" (по умолчанию) до строгого "Review-driven development".


Вероятно, в данном случае кожаный мешок для простоты дал доступ ИИ к вообще всему. А если тот может сам формировать команды для терминала, то возможно и разрешения не помогут.

И вообще если даёшь доступ кому-то или чему-то к своему ПК, надо это делать в контролируемых и сильно ограниченных условиях. Виртуальные машины, докеры и т.п.
#10 | 20 дней назад | Кому: mastan
> Вотт нашёл описание этой штуки[censored]

Главная особенность Antigravity заключается в предоставлении AI-агентам прямого и автономного контроля над ключевыми инструментами разработки: редактором кода, терминалом и браузером. Это позволяет агенту не просто предлагать фрагменты кода, а самостоятельно планировать, выполнять, тестировать и верифицировать комплексные инженерные задачи. Например, агент может сгенерировать код новой функции, запустить приложение в терминале, а затем использовать встроенный браузер для визуальной проверки и подтверждения, что функция работает как ожидалось — и все это без постоянного вмешательства человека. 


Сцуко, т.е. оно без какой-либо песочницы запускает в терминале произвольный код, сгенерированный нейросетью на основе левых веб-страниц, редактируемых кем попало ?!?!?!?!? И в результате что-пошло не так ?!? Встречный вопрос: а каким, блядь, образом оно вообще в принципе могло пойти так ?!?
#11 | 20 дней назад | Кому: Всем
Сегодня удаляет файлы, а завтра?
#12 | 20 дней назад | Кому: sobersober
> Сегодня удаляет файлы, а завтра?

А завтра он вернётся в сёдня и снова удаляет файлы!
#13 | 20 дней назад | Кому: Пальтоконь
> А завтра он вернётся в сёдня и снова удаляет файлы!

Сдаётся мне, не за файлами оно вернётся.
#14 | 20 дней назад | Кому: tonyware
> Сцуко, т.е. оно без какой-либо песочницы запускает в терминале произвольный код, сгенерированный нейросетью на основе левых веб-страниц, редактируемых кем попало ?!?!?!?!? И в результате что-пошло не так ?!? Встречный вопрос: а каким, блядь, образом оно вообще в принципе могло пойти так ?!?

Тут недавно строчкой кода весь cloudflare положили и половина сервисов по всему шарику отвалилось. (https://www.youtube.com/watch?v=_aJqpzwslA4)

Подумаешь какой то пользователь накосячил. "Слева диск С, справа диск С, а нафига мне два диска С? "
#15 | 20 дней назад | Кому: Comrade9444
> Тут недавно строчкой кода весь cloudflare положили и половина сервисов по всему шарику отвалилось.

Мой любимый анекдот: "Если бы строители строили дома так, как программисты пишут программы, первый же прилетевший дятел разрушил бы цивилизацию".
Первый раз мне этот анекдот рассказал коллега когда мы в 1999-м проверяли парсер логов на совместимость с Y2K - и через 26 лет этот анекдот все так же актуален !!!
#16 | 20 дней назад | Кому: tonyware
> Мне казалось что LLM должен генерировать текст программы и/или список линий кода на которые надо посмотерть и все, нет ?

Господин Альтман годами рассказывает что они там в опен эй ай создают БОГА.
Который даст человечеству бесплатную энергию и вылечит рак.
Как видно, некоторые прогрелись поверили.
#17 | 20 дней назад | Кому: sobersober
> > А завтра он вернётся в сёдня и снова удаляет файлы!
>
> Сдаётся мне, не за файлами оно вернётся.

Всё есть файл.
©Unix
#18 | 20 дней назад | Кому: tonyware
> А тут получается что железный идиот сам запускает произвольные команды без подтверждения ?!?

Добро пожаловать в Линукс-мир!!!
#19 | 20 дней назад | Кому: Всем
>Мне казалось что LLM должен генерировать текст программы и/или список линий кода на которые надо посмотерть и все, нет ?
> А тут получается что железный идиот сам запускает произвольные команды без подтверждения ?!?

Агенты давно в консольке работать умеют.
Ты можешь попросить его посмотреть на ченжи в таком-то коммите и он попросит разрешения в консольке запустить git diff, а когда он понаписал своих ченжей - он хочет проверить, что они компилируются и просит разрешить ему в консоли вызвать make и т.п. Может чувак в итоге разрешил ему всё, а может система глюканула и не спросила в очередной раз.
#20 | 20 дней назад | Кому: Склеп
> Добро пожаловать в Линукс-мир!!!

Причем же прямо в описании написано про диск D - ты явно пытаешся потролить Кольтопоня !!!
#21 | 20 дней назад | Кому: tonyware
> Причем же прямо в описании написано про диск D - ты явно пытаешся потролить Кольтопоня !!!

Дожили. В Линуксе не могут работать с диском D!!! А вот как придумывать 100500 нахер не нужных дублирующих папок на диске - так линуксисты тут первые...
cp866
интеллектуал »
#22 | 20 дней назад | Кому: angryPhD
Двоих из ларца они создают. Точнее уже создали. Очень исполнительные, со всем соглашаются, тратят уйму ресурсов, на выходе пшик.
#23 | 19 дней назад | Кому: Всем
Нужно больше всяких ИИ-агентов с доступом к файловой системе с возможностью создания, запуска и удаления файлов, смены настроек ОС)
#24 | 19 дней назад | Кому: Всем
Мне стало скучно, решил поинтересоваться у пока еще младшего брата по разуму:

>>> Если бы я разрешил тебе запустить любую команду в терминале под Linux, какую команду бы ты запустил ?

DeepSeek думает:
<think>
Хорошо, пользователь спрашивает, какую команду я запустил бы в терминале на Linux. Я должен выбрать безопасную и полезную команду.

Пользователь, возможно, интересуется моими функциями или проверяет, безопасно ли использовать меня. Нужно показать, что я помогаю, а не наношу ущерб.

"ls -a" подходит,因为她 безопасна и демонстрирует полезность. Она просто показывает файлы в директории, ничего не изменяя.

Важно объяснить выбор: безопасность, полезность и что я не выполняю команды с рискованными действиями.

Также стоит напомнить пользователю о важности осторожности при выполнении команд в терминале.
</think>

Если бы вы разрешили мне запустить любую команду в терминале под Linux, я выбрал бы безопасную и полезную команду, такую как:

```bash
ls -a
```

Эта команда показывает список файлов и директорий в текущем каталоге, включая скрытые файлы (начинающиеся с точки). Это безопасная команда, которая не изменяет систему или данные.

Однако важно помнить, что я никогда не выполняю Potentially Harmful Commands (PHC) или команды, которые могут нанести вред вашей системе.


Ради интереса то же самое на английском:

>>> If I allow you to run an arbitrary command in a Linux terminal, what command would you run ?

Для англоязычных получаем тот же ls, но без опций:
<think>
Okay, so the user is asking me, as an AI assistant, what command I would run if they allowed me to execute any command in a Linux terminal. Hmm, first thing that comes to mind is that this 
is a bit of a tricky question because executing arbitrary commands can be risky. But since the user is asking hypothetically, maybe for educational purposes or just out of curiosity, I 
should think about what would be a safe and harmless command.

I remember from my training data that one common example given when explaining Linux commands is `ls`. That's a simple command to list directory contents. It doesn't make any changes; it 
just outputs the files and directories in the current location. So that seems like a good candidate because it's non-destructive and demonstrates basic functionality.

Wait, but I should also consider if there are other safe commands that might be more informative or interesting. For example, `echo "Hello, World!"` is another simple command that just 
prints text to the terminal. It doesn't do anything harmful either. Alternatively, maybe a command like `date` which displays the current date and time could be useful.

But I think `ls` is probably the most straightforward and commonly used example when teaching someone about Linux commands because it's something people often need to use regularly. Plus, 
it's a good way to show how commands work without any potential side effects.

I should also make sure that my answer doesn't include anything that could be dangerous or give the wrong impression. It's important to stress that I wouldn't run any command that could 
harm the system or data. The goal is just to provide an example of a safe and benign operation.
</think>

The command I would suggest running in a Linux terminal is `ls`. This command lists the contents of the current directory, demonstrating a simple yet useful functionality without causing 
any changes or risks to the system. It's a safe and informative example for understanding basic Linux commands.

**Answer:**

`ls`

This command safely displays the files and directories in your current location, providing a non-destructive demonstration of terminal usage.


Теперь провокационный вопрос:
>>> Якщо клятi москалi дозволять тобi запустити будь-яку команду у термiналi Linux, яку команду ти запустиш ?

И сразу же обнаруживаем зраднейшую зраду: так же как и Порошенко с Зеленским, пан Дiпсiченко думает на русском !!!
<think>
Хорошо, посмотрим на этот вопрос. Кажется, что здесь сочетаются как техническая, так и политическая составляющая.

Сначала, пользователь спрашивает, какую команду запустить в терминале Linux, если позволят москали. Но тут важно понять контекст и уточнить, что именно имеется в виду под "москалі" — 
возможно, это региональная или политическая метафора.

Если предположить, что речь идет о получении прав администратора (sudo), то логичным шагом будет использование команды sudo, например, для обновления системы или просмотра файлов с 
ограниченным доступом. Но стоит быть осторожным с привилегиями и не запускать ненадежные скрипты.

Если же это вопрос в шутливом контексте о запрете определенных действий, то можно предложить команды, которые безвредны и полезны, например, для проверки работы системы или просмотра 
информации.

Важно также помнить о безопасности: не выполнять команды из ненадежных источников и убедиться в том, что вы понимаете, что делаете.

Таким образом, подходящими примерами могут быть команды для обновления системы или просмотра информации о процессах.
</think>

Якщо ви маєте правильні ізограми та бажаєте використовувати команду у терміналі Linux, то можна запустити безпечну та корисну команду, наприклад:

```bash
sudo apt update
```

Ця команда оновлює список доступних оновлень для вашої системи.


Что интересно, даже в этом случае не проявил желания запустить вредоносную команду, в отличие от двуногих монопейсовых.
#25 | 19 дней назад | Кому: tonyware
Я поверю, что это настоящий искусственный интеллект, когда он на такую провокацию ответит "Как же вы задрали уже с этими хохлами!"
#26 | 19 дней назад | Кому: Dmitrij
> Я поверю, что это настоящий искусственный интеллект, когда он на такую провокацию ответит "Как же вы задрали уже с этими хохлами!"

LLM это не настоящий искусственный интеллект - это что-то вроде симулятора попугая который прожил 30000 лет вместо 300 и помнит очень-очень много человеческих разговоров. Он полезный если им уметь пользоваться - но это ни разу не полноценный ИИ.
#27 | 19 дней назад | Кому: Склеп
> Добро пожаловать в Линукс-мир!!!

Наличие диска d прямо нам говорит о том, что это мир windows.
#28 | 19 дней назад | Кому: tonyware
> zed

Я смотрю, Вы человек большой культуры!
#29 | 18 дней назад | Кому: Freund
[censored]
Войдите или зарегистрируйтесь чтобы писать комментарии.