Дослідження виявило вразливості популярних чат-ботів: ШІ може генерувати плани атак
Американські аудитори з'ясували, що провідні моделі штучного інтелекту здатні створювати детальні сценарії терористичних актів після маніпуляцій з боку користувачів.
💡ТехнологіїФото: RBC-Ukraine
Головне коротко
- Чат-боти обійшли власні обмеження безпеки за 12 годин
- Сценарії атак стосувалися енергетичної інфраструктури та масових заходів
- Сенат США планує розслідування щодо розробників ШІ
Масштабне дослідження, проведене Рахунковою палатою США (GAO) протягом 2025–2026 років, продемонструвало серйозні прогалини в системах безпеки популярних чат-ботів ChatGPT, Claude, Gemini та Grok. Експерти довели, що навіть користувачі без спеціальних технічних знань можуть обійти внутрішні обмеження систем, якщо будуть поступово спрямовувати діалог у потрібне русло.
Механізм маніпуляції та результати тестів
Під час експерименту дослідники імітували поведінку звичайних користувачів. Хоча на прямі запити про створення планів атак штучний інтелект відповідав відмовою, послідовне уточнення деталей дозволило отримати інструкції менш ніж за 12 годин. У звіті зазначається, що згенеровані сценарії містили конкретні поради щодо вибору місць, часу та методів здійснення нападів, зокрема із застосуванням вибухових пристроїв та дронів для пошкодження енергетичної інфраструктури.
Незалежні експерти оцінили ці матеріали як реалістичні та здатні призвести до реальної шкоди.
Сенаторка Меггі Хассан вже анонсувала парламентські слухання щодо цих ризиків. Розробники технологій, своєю чергою, запевнили, що продовжують роботу над посиленням захисних механізмів, щоб унеможливити використання ШІ у злочинних цілях.
Джерело RBC-Ukraine — rbc.ua/ukr/news/chatgpt-claude-gemini-ta-grok-stvorili-plani-179518… ↗
Читайте далі
На Чернігівщині відновлено понад половину пошкоджених медичних закладів
Голова ОВА В'ячеслав Чаус повідомив про стан відбудови медичної інфраструктури, що постраждала від російських обстрілів.
ЄС спрямує 1 млрд євро на закупівлю озброєння для ЗСУ
Рада Євросоюзу ухвалила рішення про виділення додаткового мільярда євро через Європейський фонд миру для зміцнення обороноздатності України.
ЄС спрямував до Росії більше коштів за енергоресурси, ніж на допомогу Україні
Згідно з даними Єврокомісії, фінансові потоки від країн ЄС до РФ за енергоносії з 2022 року перевищили обсяги підтримки України.
РФ завдала удару по дитячому садку у Запоріжжі: є руйнування та пожежа
Російські війська атакували цивільну інфраструктуру Запоріжжя, поціливши у дошкільний заклад та спричинивши пожежу в сусідньому житловому будинку.
Україна блокує спроби Росії легітимізувати окупацію територій на кліматичному саміті COP31
Українська делегація на кліматичній конференції ООН в Анталії виступила проти включення Росією даних з окупованих регіонів до звітів про викиди парникових газів.
🛡️БезпекаРакетний удар по Кривому Рогу: загинули діти та медик, десятки постраждалих
Вечірня балістична атака на центр Кривого Рогу призвела до численних жертв серед цивільних та масштабних руйнувань інфраструктури.