Штучний інтелект під пильним оком: світові чат-боти виявилися вразливими до маніпуляцій
Дослідження Рахункової палати США показало, що популярні моделі штучного інтелекту можуть генерувати небезпечні сценарії атак після серії уточнювальних запитів.
💡ТехнологіїФото: RBC-Ukraine
Головне коротко
- Чат-боти виявилися вразливими до послідовних маніпулятивних запитів.
- Дослідники отримали плани атак менш ніж за 12 годин.
- Конгрес США планує слухання щодо безпеки ШІ.
Ризики використання генеративного ШІ
Нещодавній звіт Рахункової палати США (GAO) виявив критичні прогалини у системах безпеки провідних чат-ботів, таких як ChatGPT, Claude, Gemini та Grok. Протягом тривалого тестування дослідники з'ясували, що навіть користувачі без спеціальних технічних знань здатні обійти вбудовані обмеження, якщо вести з моделлю послідовний діалог.
Процес маніпуляції тривав менше ніж 12 годин. Шляхом уточнювальних запитань, що базувалися на попередніх відповідях системи, дослідникам вдалося отримати детальні плани нападів. Ці сценарії охоплювали вибір цілей, логістику, способи створення вибухових пристроїв та навіть атаки на об'єкти енергетичної інфраструктури.
Реакція на рівні Конгресу
Незалежні експерти підтвердили, що згенеровані інструкції є надзвичайно реалістичними та несуть пряму загрозу безпеці. У відповідь на це сенаторка Меггі Хассан ініціювала розгляд питання у комітеті з питань внутрішньої безпеки, наголошуючи на необхідності термінового регулювання технологій.
Розробники ШІ-платформ, серед яких Google, OpenAI, Anthropic та SpaceXAI, запевнили, що продовжують працювати над посиленням захисних механізмів. Тим часом у GAO наголошують, що швидкий розвиток технологій випереджає заходи безпеки, створюючи нові виклики для національної стабільності.
Джерело RBC-Ukraine — rbc.ua/ukr/news/chatgpt-claude-gemini-ta-grok-stvorili-plani-179518… ↗
Читайте далі
Відновлення медичної інфраструктури на Чернігівщині: поточні показники
Понад половину пошкоджених медичних та соціальних закладів Чернігівської області вдалося відновити, паралельно впроваджуючи енергонезалежні рішення.
ЄС спрямує 1 мільярд євро на закупівлю озброєння для ЗСУ до 2027 року
Рада ЄС ухвалила рішення про виділення додаткового мільярда євро через Європейський фонд миру для постачання військового обладнання Україні.
ЄС спрямував до Росії більше коштів за енергоресурси, ніж на допомогу Україні — звіт
Європейські країни витратили на закупівлю російських енергоносіїв суму, що перевищує загальний обсяг фінансової підтримки України з 2022 року.
Російський удар по Запоріжжю: пошкоджено дитячий садок та житловий будинок
Внаслідок ворожої атаки на Запоріжжя постраждала цивільна інфраструктура, зокрема дитячий садок та багатоквартирний будинок.
Українська делегація на COP31 заблокувала спроби РФ легітимізувати окупацію через кліматичні звіти
На міжнародній кліматичній конференції Україна виступила проти включення даних з окупованих територій у російські звіти, відстоюючи суверенітет над Донеччиною та іншими р…
🛡️БезпекаРакетний удар по центру Кривого Рогу: є загиблі та десятки поранених
Вечірня балістична атака на Кривий Ріг призвела до значних руйнувань та людських жертв, серед яких діти та медик.