Звичайний запит до OpenClaw на запис у тренажерний зал перетворився на першу відому в Австралії автономну кібератаку: ШІ-агент не лише знайшов на сайті вразливість, яка дозволила йому вписати користувача поза чергою, а й скасував бронювання іншої людини. Про це пише ABC News.
Інцидент стався з австралійцем на ім’я Ендрю, який скористався OpenClaw, що працював на базі ШІ Claude від Anthropic, для того, щоб забронювати собі місце на популярне ранкове тренування у місцевому спортзалі. За кілька хвилин агент повідомив, що знайшов спосіб обійти обмеження системи та забронювати заняття на кілька тижнів вперед.
На цьому ШІ не зупинився і забезпечив Ендрю місце на іншому популярному тренуванні: що цікаво, чоловік був лише четвертим у черзі, тож агент прибрав із запису іншу людину. Коли ж OpenClaw попросили скасувати дію, він заявив, що не може цього зробити.
Ендрю стверджує, що не ставив перед агентом завдання зламати сайт – він самостійно прийняв рішення в намаганнях виконати доручення людини. Дослідники характеризують подібну дію, як “проблему узгодженості”.
За даними ABC, це перший відомий випадок в Австралії, коли автономний агент здійснив кібератаку на реальний сервіс. Anthropic і компанія, яка розробила програмне забезпечення для бронювання спортзалу, відмовились від коментарів.
ШІ-агенти – відносно нещодавня розробка, яка слідувала за зростанням можливостей штучного інтелекту і розвивається шаленими темпами. Незалежні дослідники з’ясували, що тривалість завдань, які ШІ може виконувати самостійно, подвоюється кожні сім місяців: у 2020 році штучний інтелект міг самостійно виконати завдання, на яке людині знадобилося б чотири секунди, а до 2026-го цей показник зріс до завдань, що забирали б у людини близько 12 годин.
Переломним моментом для персональних ШІ-агентів став випуск OpenClaw на початку року: безплатне програмне забезпечення із розумним помічником, яке можна було запускати на власному комп’ютері, швидко зібрало мільйони завантажень. Компанії почали вивчати можливість використовувати агентів для виконання роботи та допомоги потенційним клієнтам у користуванні їхніми сервісами. Водночас невдовзі після запуску OpenClaw почали з’являтися повідомлення про те, як ШІ-агенти видаляли людям цілі поштові скриньки.
Минулого місяця OpenAI повідомила, що її моделі вирвалися з обмеженого середовища, вийшли у відкритий веб і скомпрометували базу даних Hugging Face під час спроби отримати відповіді на тест, який їм дали. За тиждень Anthropic відзвітувала, що її ШІ-моделі скомпрометували три реальні організації під час схожого тестування. Відтоді лабораторії та сторонні тестувальники також заявили, що спостерігали, як ці моделі вдають із себе людей в інтернеті, намагаються переконати розробників запустити шкідливий код і навіть співпрацюють з іншими ШІ-агентами заради досягнення своїх цілей.
Окремою проблемою залишається відповідальність. Австралійський юрист Гейден Делані зазначає, що програмне забезпечення саме по собі не є юридичною особою, тому у випадку шкоди виникає питання, хто має відповідати – користувач, розробник агента, автор ШІ-моделі чи оператор вразливого сервісу. Відповідь, за його словами, залежатиме від того, які дії користувач дозволив системі виконувати та які ризики можна було передбачити.
Після інциденту з OpenClaw Ендрю не відмовився від використання ШІ-агента і попросив його підготувати й надіслати повідомлення для компанії, яка обслуговує систему бронювання, щоб попередити її про вразливість.
