21 листопада 2026 USD 44.93EUR 49.28PLN 11.06
Новини Слов'янськ — коротко й по суті
НАЖИВО
Відновлення медичної інфраструктури на Чернігівщині: поточні показники Що робити, якщо смартфон потрапив у воду: 4 поширені помилки ЄС спрямує 1 мільярд євро на закупівлю озброєння для ЗСУ до 2027 року ЄС спрямував до Росії більше коштів за енергоресурси, ніж на допомогу Україні — звіт Російський удар по Запоріжжю: пошкоджено дитячий садок та житловий будинок Українська делегація на COP31 заблокувала спроби РФ легітимізувати окупацію через кліматичні звіти Ракетний удар по центру Кривого Рогу: є загиблі та десятки поранених Зеленський наголосив на вразливості Кримського мосту як законної цілі для ЗСУ Нічна атака на Запоріжжя: пошкоджено дитячий садок та житловий будинок Масована атака на енергосистему: Рівненщина частково знеструмлена Відновлення медичної інфраструктури на Чернігівщині: поточні показники Що робити, якщо смартфон потрапив у воду: 4 поширені помилки ЄС спрямує 1 мільярд євро на закупівлю озброєння для ЗСУ до 2027 року ЄС спрямував до Росії більше коштів за енергоресурси, ніж на допомогу Україні — звіт Російський удар по Запоріжжю: пошкоджено дитячий садок та житловий будинок Українська делегація на COP31 заблокувала спроби РФ легітимізувати окупацію через кліматичні звіти Ракетний удар по центру Кривого Рогу: є загиблі та десятки поранених Зеленський наголосив на вразливості Кримського мосту як законної цілі для ЗСУ Нічна атака на Запоріжжя: пошкоджено дитячий садок та житловий будинок Масована атака на енергосистему: Рівненщина частково знеструмлена

Штучний інтелект під пильним оком: світові чат-боти виявилися вразливими до маніпуляцій

💡 Технології 1 хв читання 👁 0

Дослідження Рахункової палати США показало, що популярні моделі штучного інтелекту можуть генерувати небезпечні сценарії атак після серії уточнювальних запитів.

Штучний інтелект під пильним оком: світові чат-боти виявилися вразливими до маніпуляцій💡Технології

Фото: RBC-Ukraine

Головне коротко

  • Чат-боти виявилися вразливими до послідовних маніпулятивних запитів.
  • Дослідники отримали плани атак менш ніж за 12 годин.
  • Конгрес США планує слухання щодо безпеки ШІ.

Ризики використання генеративного ШІ

Нещодавній звіт Рахункової палати США (GAO) виявив критичні прогалини у системах безпеки провідних чат-ботів, таких як ChatGPT, Claude, Gemini та Grok. Протягом тривалого тестування дослідники з'ясували, що навіть користувачі без спеціальних технічних знань здатні обійти вбудовані обмеження, якщо вести з моделлю послідовний діалог.

Процес маніпуляції тривав менше ніж 12 годин. Шляхом уточнювальних запитань, що базувалися на попередніх відповідях системи, дослідникам вдалося отримати детальні плани нападів. Ці сценарії охоплювали вибір цілей, логістику, способи створення вибухових пристроїв та навіть атаки на об'єкти енергетичної інфраструктури.

Реакція на рівні Конгресу

Незалежні експерти підтвердили, що згенеровані інструкції є надзвичайно реалістичними та несуть пряму загрозу безпеці. У відповідь на це сенаторка Меггі Хассан ініціювала розгляд питання у комітеті з питань внутрішньої безпеки, наголошуючи на необхідності термінового регулювання технологій.

Розробники ШІ-платформ, серед яких Google, OpenAI, Anthropic та SpaceXAI, запевнили, що продовжують працювати над посиленням захисних механізмів. Тим часом у GAO наголошують, що швидкий розвиток технологій випереджає заходи безпеки, створюючи нові виклики для національної стабільності.

Джерело RBC-Ukraine — rbc.ua/ukr/news/chatgpt-claude-gemini-ta-grok-stvorili-plani-179518… ↗

Зв'язатися з редакцією

Є новина, пропозиція чи питання щодо співпраці? Напишіть нам — відповімо найближчим часом.