Новий спосіб навчання ІІ зупинить більшість хакерських атак на них

Новини
11 липня 2020

Новий спосіб навчання ІІ зупинить більшість хакерських атак на них

Далі

Ильнур
Шарафиев

Редактор

Ильнур
Шарафиев

Редактор

Вчені з США вирішили проблему хакерських атак на моделі штучного інтелекту (ШІ). Для цього вони використовували іншу модель, яка намагалася обдурити нейронну мережу і змусити її проаналізувати відредаговані зображення.

Дослідники Університету Іллінойсу пояснили, що один з найбільших недоліків навчання ШІ — подальша вразливість моделі до хакерських атак. При цьому більшість атак припадає на системи розпізнавання образів або реконструкції зображень. Це викликає тривогу у чиновників, які працюють у сфері охорони здоров’я, де метод часто використовується для реконструкції медичних зображень. Якщо ШІ отримає неправильне зображення, то він може помилково поставити діагноз пацієнту.

Тому вчені запропонували новий метод навчання систем глибокого навчання, щоб зробити їх більш відмовостійкими і надійними в тих випадках, які є критичними з точки зору безпеки.

Тюменські вчені розробили биоморфный нейропроцесор_в

Для цього вчені з’єднали нейронну мережу, що відповідає за відновлення зображень, з моделлю, яка генерує змагальні приклади (зображення, де змінюється невелика частина оригіналу). Під час навчання один ІІ намагався обдурити іншого, показуючи йому картинки, які незначно відрізняються від оригіналу. Модель реконструкції ж постійно аналізувала картинки і намагалася визначити, оригінал це чи відредаговане зображення.

У результаті мережа знайшла всі відредаговані фотографії — цей результат краще, ніж у інших нейронних мереж. Під час експериментів учені спробували вручну зламати систему і показати їй сотні версій відредагованих зображень, але всі з них були відхилені.

Читати також:

Комета NEOWISE видно в Росії. Де її побачити, куди дивитися і як зробити фото

З’ясувалося, що змусило цивілізацію майя покинути свої міста

На 3 день хвороби більшість хворих COVID-19 втрачають нюх і часто страждають нежитем

Источник

Описание admin

Рекомендуем прочесть

Tesla представить двофакторну аутентифікацію

Новини 16 серпня 2020 Tesla представить двофакторну аутентифікацію Далі Ильнур Шарафиев Редактор Ильнур Шарафиев Редактор …