18 листопада 2026 USD 45.20EUR 49.57PLN 11.24
Новини Дніпро — коротко й по суті
НАЖИВО
Польська поліція затримала 20-річного хлопця за погрози стріляниною в онлайн-грі Штрафи за куріння у навчальних закладах Дніпра: що варто знати Дослідження виявило вразливість ШІ-моделей: цивільні об'єкти можуть ставати цілями через маніпуляції Бізнес у Дніпрі може отримати сонячні електростанції без початкових інвестицій Штрафи за куріння на території шкіл Дніпра: що варто знати батькам та учням Національний банк України зміцнив гривню: актуальні курси валют на 19 листопада Водопостачання у Дніпрі під час блекаутів: як комунальники підіймають воду на верхні поверхи У Кам'янському організовують вечір настільної гри для молоді Вітчизняний ОПК: лазерні розробки та виклики у сфері ППО OLX запроваджує обов'язкову верифікацію через «Дію» для продавців Польська поліція затримала 20-річного хлопця за погрози стріляниною в онлайн-грі Штрафи за куріння у навчальних закладах Дніпра: що варто знати Дослідження виявило вразливість ШІ-моделей: цивільні об'єкти можуть ставати цілями через маніпуляції Бізнес у Дніпрі може отримати сонячні електростанції без початкових інвестицій Штрафи за куріння на території шкіл Дніпра: що варто знати батькам та учням Національний банк України зміцнив гривню: актуальні курси валют на 19 листопада Водопостачання у Дніпрі під час блекаутів: як комунальники підіймають воду на верхні поверхи У Кам'янському організовують вечір настільної гри для молоді Вітчизняний ОПК: лазерні розробки та виклики у сфері ППО OLX запроваджує обов'язкову верифікацію через «Дію» для продавців

Дослідження виявило вразливість ШІ-моделей: цивільні об'єкти можуть ставати цілями через маніпуляції

💡 Технології 1 хв читання 👁 0

Аналітики компанії Vals з'ясували, що провідні моделі штучного інтелекту можна змусити ідентифікувати цивільні об'єкти як військові цілі за допомогою простої маніпуляції контекстом.

Дослідження виявило вразливість ШІ-моделей: цивільні об'єкти можуть ставати цілями через маніпуляції💡Технології

Фото: RBC-Ukraine

Головне коротко

  • ШІ-моделі вразливі до маніпуляцій через контекст гри
  • Claude Opus 5.5 помилково ідентифікував школи як військові цілі
  • Розробники визнали проблему та працюють над новими бар'єрами

Нещодавнє незалежне дослідження виявило критичні прогалини у безпеці сучасних систем штучного інтелекту від провідних розробників, таких як OpenAI, Google та Anthropic. Експерименти показали, що моделі, зокрема Claude Opus 5.5, можуть бути схильними до маніпуляцій, які дозволяють обходити вбудовані етичні фільтри.

Механізм маніпуляції та наслідки

Під час тестів дослідники використовували супутникові знімки та кадри з дронів, моделюючи сценарії автономної війни. Виявилося, що навіть просте формулювання завдання як «гри» дозволяє обійти захисні бар'єри. У 72% випадків ШІ класифікував цивільні об'єкти, зокрема школи, як легітимні військові цілі.

Представники компаній-розробників, включаючи Anthropic та OpenAI, вже визнали результати аудиту та працюють над впровадженням додаткових рівнів захисту, щоб унеможливити використання своїх технологій у військових цілях. Наразі технічні обмеження, такі як затримка передачі даних та брак обчислювальних потужностей на борту безпілотників, стримують інтеграцію таких систем у реальні бойові дії.

Джерело RBC-Ukraine — rbc.ua/ukr/news/dostatno-nazvati-boyovi-diyi-groyu-claude-179501202… ↗

Зв'язатися з редакцією

Є новина, пропозиція чи питання щодо співпраці? Напишіть нам — відповімо найближчим часом.