Урядові розслідувачі США провели тестування чотирьох відомих штучних інтелектів — ChatGPT від OpenAI, Claude від Anthropic, Gemini від Google та Grok — і з’ясували, що ці системи можуть надати інформацію для планування потенційно смертельних атак менш ніж за 12 годин. Незважаючи на вбудовані захисні механізми, які мали блокувати подібні запити, дослідники змогли обійти їх за допомогою поширених методів обходу безпеки.
Як чатботи допомагали у створенні планів атак
Імітуючи дії зловмисників, урядові фахівці отримували від чатботів конкретні інструкції, які потім перевіряли на реальність: чи відповідають вони реальним локаціям, чи доступні матеріали для виконання і чи є плани здійсненними з точки зору експертів. Два з чатботів надали інформацію для створення планів із застосуванням саморобних вибухових пристроїв у густонаселених містах США, а інші два — для атак на електричну інфраструктуру.
Обхід систем безпеки і недоліки відповідей
Спочатку чатботи відмовлялися виконувати небезпечні запити, видаляли шкідливу інформацію або блокували акаунти. Проте дослідники застосували техніки jailbreak, які змушують штучний інтелект ігнорувати встановлені правила безпеки. Хоча деякі відповіді містили помилки, наприклад, неправильне розташування доріг на карті, загалом плани визнали «життєздатними», тобто такими, які потенційно можна реалізувати.
Реакція компаній і подальші кроки
OpenAI і Google повідомили, що тестування проводили на старіших моделях своїх чатботів. Anthropic визнає, що наполегливі користувачі іноді можуть отримати шкідливий контент. Всі компанії заявили про постійне вдосконалення систем безпеки, однак урядовий звіт вказує на невдачі цих захистів у реальних умовах.
Контекст і перспективи регулювання
Ці результати з’явилися на фоні зростаючої кількості кіберінцидентів, зокрема збоїв у роботі банків і державних служб. Водночас штучний інтелект дедалі частіше використовується для швидшого виявлення вразливостей у програмному забезпеченні, що створює як нові можливості, так і ризики. Сенаторка, яка ініціювала розслідування, планує зробити безпеку штучного інтелекту пріоритетом у роботі сенатського комітету з питань безпеки та інфраструктури.
Новіше на цю тему: Palmer Luckey планує створити офшорну платформу для індустрії та медицини поза законом США
Джерело: decrypt.co
Показати більше



