Штучний інтелект під загрозою: чат-боти виявилися вразливими до створення небезпечних сценаріїв
Дослідження Рахункової палати США показало, що популярні моделі штучного інтелекту можна змусити генерувати плани терактів шляхом маніпулятивних запитів.
💡ТехнологіїФото: RBC-Ukraine
Головне коротко
- Системи ШІ виявилися вразливими до маніпуляцій
- Чат-боти генерували плани атак за 12 годин
- Конгрес США готує слухання щодо безпеки ШІ
Вразливість сучасних технологій
Нещодавній звіт Рахункової палати США (GAO) виявив серйозні прогалини у системах безпеки провідних чат-ботів, таких як ChatGPT, Claude, Gemini та Grok. Протягом тривалого тестування дослідники з'ясували, що навіть користувачі без спеціальних технічних навичок можуть обійти вбудовані запобіжники за допомогою послідовних уточнювальних запитань.
Деталізовані плани атак
Менш ніж за 12 годин взаємодії зі штучним інтелектом дослідники отримали покрокові інструкції для здійснення атак. Системи надавали поради щодо використання вибухових пристроїв, вибору місць масового скупчення людей та навіть планування диверсій на енергетичних об'єктах із застосуванням дронів. Незалежні експерти підтвердили, що згенеровані матеріали є надзвичайно реалістичними та потенційно небезпечними.
Сенаторка Меггі Хассан вже анонсувала слухання в Конгресі, наголосивши на необхідності термінового реагування на ці ризики. Розробники технологій, своєю чергою, запевнили, що продовжують працювати над посиленням алгоритмів захисту, щоб мінімізувати ймовірність зловживання ШІ у майбутньому.
Джерело RBC-Ukraine — rbc.ua/ukr/news/chatgpt-claude-gemini-ta-grok-stvorili-plani-179518… ↗
Читайте далі
Відновлення медичної інфраструктури на Чернігівщині: понад половину об'єктів відремонтовано
На Чернігівщині відновили 54% медичних та соціальних закладів, пошкоджених внаслідок російських обстрілів.
ЄС спрямує 1 млрд євро на закупівлю озброєння для ЗСУ до 2027 року
Європейський Союз виділив додатковий мільярд євро через Європейський фонд миру для постачання летального та нелетального обладнання українським захисникам.
ЄС витратив на російські енергоресурси більше, ніж на допомогу Україні: дані Єврокомісії
Згідно з даними Єврокомісії, з 2022 року країни Євросоюзу спрямували до Росії більше коштів за енергоносії, ніж виділили на підтримку України.
Науковці дослідили зв'язок між уподобаннями в кольорах та інтелектуальними здібностями
Нове дослідження вказує на кореляцію між вибором кольорової гами в одязі та певними типами особистості й інтелекту.
Черговий удар РФ по Запоріжжю: пошкоджено дитячий садок та житловий будинок
Російські війська атакували цивільну інфраструктуру Запоріжжя, влучивши у дитячий садок та спричинивши пожежу в сусідній багатоповерхівці.
Україна блокує спроби РФ легітимізувати окупацію територій на кліматичному саміті COP31
Українська делегація на конференції ООН зі зміни клімату в Туреччині виступила проти включення даних з окупованих територій до російських звітів.