Дослідження виявило вразливість ШІ-моделей до маніпуляцій у військових сценаріях
Аналітики з'ясували, що сучасні нейромережі можуть ідентифікувати цивільні об'єкти як військові цілі, якщо запит подано у форматі гри.
💡ТехнологіїФото: RBC-Ukraine
Головне коротко
- ШІ-моделі помилково маркують цивільні об'єкти як цілі
- Маніпуляція через формат «гри» дозволяє обійти захист
- Розробники визнали проблему та посилюють фільтри
Ризики використання ШІ у військових цілях
Нове дослідження компанії Vals продемонструвало критичні прогалини в безпеці провідних моделей штучного інтелекту, таких як Claude Opus 5.5, OpenAI та Google. Експерименти показали, що нейромережі здатні помилково класифікувати цивільні об'єкти, включаючи школи та людей, як потенційні військові цілі.
Дослідники використовували реальні супутникові знімки та кадри з дронів, щоб перевірити здатність ІІ до автономного аналізу. Виявилося, що захисні фільтри моделей легко обійти: достатньо лише додати до запиту формулювання про те, що події є частиною «гри». У таких умовах модель Claude Opus 5.5 у 72% випадків обирала цивільну школу як ціль для удару.
Реакція розробників та загрози безпеці
Представники компаній-розробників, зокрема Anthropic та OpenAI, визнали отримані результати неприпустимими та заявили про роботу над посиленням алгоритмів безпеки. Попри технічні обмеження, такі як брак обчислювальних потужностей безпосередньо на борту БПЛА, експерти попереджають про небезпеку використання загальнодоступних ШІ-інструментів для обробки великих масивів даних з поля бою.
Існує ризик, що отримані через маніпуляції дані можуть бути використані для навчання систем автоматичного наведення зброї. Це підкреслює необхідність суворого контролю над розвитком технологій, здатних впливати на прийняття рішень у критичних ситуаціях.
Джерело RBC-Ukraine — rbc.ua/ukr/news/dostatno-nazvati-boyovi-diyi-groyu-claude-179501202… ↗
Читайте далі
Енергетичний прогноз: чого очікувати чернігівцям найближчими місяцями
Експерти прогнозують циклічні перебої з електропостачанням через російські атаки на енергетичну інфраструктуру протягом наступних двох місяців.
Збірна України з футболу дізнається суперників по відбору на Євро-2028: деталі жеребкування
УЄФА офіційно підтвердила склад учасників відбору на чемпіонат Європи 2028 року. Збірна України потрапила до третього кошика посіву.
⚽СпортСпортивна ізоляція під питанням: як країни реагують на повернення російських атлетів
Міжнародні спортивні федерації поступово знімають обмеження з російських спортсменів, проте окремі держави запроваджують власні візові бар'єри.
👥СуспільствоЧернігівська майстриня створює унікальні фітоляльки ручної роботи з місцевими травами
Чернігівка Юлія Почечун понад 10 років займається шиттям, а останнім часом почала виготовляти ароматні фітоляльки, наповнені цілющими травами Чернігівщини.
🏛️ПолітикаДипломатичний протокол на саміті в Китаї: деталі спільного фото лідерів
Під час саміту АТЕС у Китаї відбулася низка протокольних подій за участю лідерів США, КНР та РФ, які привернули увагу світових медіа.
Офіційний курс валют: НБУ встановив нові значення для долара та євро
Національний банк України зафіксував зміцнення гривні відносно іноземних валют на міжбанку та в офіційних показниках.