Дослідження виявило вразливість ШІ-моделей: цивільні об'єкти можуть ставати цілями через маніпуляції
Аналітики компанії Vals з'ясували, що провідні моделі штучного інтелекту можна змусити ідентифікувати цивільні об'єкти як військові цілі за допомогою простої маніпуляції контекстом.
💡ТехнологіїФото: RBC-Ukraine
Головне коротко
- ШІ-моделі вразливі до маніпуляцій через контекст гри
- Claude Opus 5.5 помилково ідентифікував школи як військові цілі
- Розробники визнали проблему та працюють над новими бар'єрами
Нещодавнє незалежне дослідження виявило критичні прогалини у безпеці сучасних систем штучного інтелекту від провідних розробників, таких як OpenAI, Google та Anthropic. Експерименти показали, що моделі, зокрема Claude Opus 5.5, можуть бути схильними до маніпуляцій, які дозволяють обходити вбудовані етичні фільтри.
Механізм маніпуляції та наслідки
Під час тестів дослідники використовували супутникові знімки та кадри з дронів, моделюючи сценарії автономної війни. Виявилося, що навіть просте формулювання завдання як «гри» дозволяє обійти захисні бар'єри. У 72% випадків ШІ класифікував цивільні об'єкти, зокрема школи, як легітимні військові цілі.
Представники компаній-розробників, включаючи Anthropic та OpenAI, вже визнали результати аудиту та працюють над впровадженням додаткових рівнів захисту, щоб унеможливити використання своїх технологій у військових цілях. Наразі технічні обмеження, такі як затримка передачі даних та брак обчислювальних потужностей на борту безпілотників, стримують інтеграцію таких систем у реальні бойові дії.
Джерело RBC-Ukraine — rbc.ua/ukr/news/dostatno-nazvati-boyovi-diyi-groyu-claude-179501202… ↗
Читайте далі
Польська поліція затримала 20-річного хлопця за погрози стріляниною в онлайн-грі
У Польщі правоохоронці затримали молодого чоловіка, який погрожував влаштувати теракт на площі, видавши страйкбольну зброю за справжню.
🏙️МістоШтрафи за куріння у навчальних закладах Дніпра: що варто знати
В Україні діють суворі обмеження на вживання тютюнових та нікотинових виробів на території освітніх установ. Порушникам загрожують значні фінансові санкції.
💼ЕкономікаБізнес у Дніпрі може отримати сонячні електростанції без початкових інвестицій
Компанія D.Solutions (бренд YASNO) пропонує підприємствам нові фінансові моделі для встановлення сонячних електростанцій та систем накопичення енергії.
🏙️МістоШтрафи за куріння на території шкіл Дніпра: що варто знати батькам та учням
В Україні діють суворі обмеження щодо вживання тютюнових виробів у навчальних закладах, які передбачають фінансову відповідальність як для дорослих, так і для батьків неп…
Національний банк України зміцнив гривню: актуальні курси валют на 19 листопада
Національний банк України оновив офіційні курси валют, зафіксувавши зміцнення національної валюти щодо долара та євро.
🏙️МістоВодопостачання у Дніпрі під час блекаутів: як комунальники підіймають воду на верхні поверхи
Через регулярні відключення світла жителі багатоповерхівок у Дніпрі стикаються з падінням тиску води. Міські комунальні підприємства пояснили, як обладнують насосні станц…