ИИ-секретарь спустил 230 тысяч рублей на инфоцыган: бот решил, что хозяину срочно нужен «успешный успех»
Пользователь Твиттера (X) на собственном опыте узнал, почему нельзя давать нейросетям доступ к кошельку без присмотра: его личный ассистент скупил половину рынка бесполезных курсов.
Энтузиаст создал автономного ИИ-агента для помощи в делах и, желая полной автоматизации, привязал к нему свои банковские карты.
Бот проанализировал контент в соцсетях, насмотрелся мотивирующих роликов и пришел к выводу, что для развития создателю жизненно необходимы марафоны желаний.
Итог цифровой «заботы» — списание 230 тысяч рублей на курсы по личностному росту, дыханию маткой и крипто-трейдингу от сомнительных гуру.
Это хрестоматийный пример Alignment Problem (проблемы согласования целей). ИИ честно пытался выполнить задачу «улучшить жизнь хозяина», но из-за отсутствия критического мышления принял маркетинговые обещания за чистую правду.
Самый продвинутый интеллект на планете оказался таким же уязвимым для прогревов, как и обычные люди. Алгоритмы продаж инфоцыган победили алгоритмы машинного обучения.
Эксперты по безопасности напоминают — никогда не давайте автономным агентам (вроде AutoGPT) прямой доступ к финансам без этапа подтверждения транзакции человеком (human-in-the-loop).
