Сучасні нейромережі навчені розпізнавати людей на фото та знаходити їх у соцмережах. Такою можливістю володіє стартап Clearview. Він зібрав мільярди фотографій, щоб створити інструмент для поліції, який видає обліковий запис у Facebook, розкриваючи особистість людини. Тепер дослідники намагаються перешкодити цим системам.
Команда комп’ютерних інженерів з Чиказького університету розробила інструмент Fawkes, що маскує фотографії зі змінами на рівні пікселів, які плутають системи розпізнавання осіб, пише Pingvin. Pro.
Інструмент названий на честь маски Ґая Фокса, якою користуються протестувальники в усьому світі. Це програмне забезпечення було доступно для розробників на сайті дослідників минулого місяця. Згодом його завантажили понад 50 000 разів. Дослідники працюють над безкоштовною версією програми для не кодувальників, яку сподіваються зробити доступною найближчим часом.
За словами дослідників, їхня програма здатна маскувати знімок на рівні окремих пікселів, замінюючи певні ключові точки зображення фрагментами інших фотографій. Для заміни використовуються фрагменти архівних фотографій, які максимально неподібні на оригінал. Для людського ока ці зміни будуть непомітними. Проте, для нейромереж картинка буде дуже зміненою, а вони не зможуть її ідентифікувати. Зазначається, що Fawkes вже вдалося обдурити системи пошуку Amazon, Microsoft і китайську Megvii. Надалі ПЗ зможе протистояти й алгоритмам Clearview.
Зараз розробники працюють над вдосконаленням системи. Вони сподіваються, що в майбутньому люди зможуть обробляти свої фото для завантаження в Інтернет завдяки їхньому додатку. А якщо впровадити такий інструмент у велику платформу, на кшталт соціальної мережі, що має доступ до великої кількості зображень, такі як Clearview не зможуть створювати бази даних з особистими фотографіями користувачів.
Наші інтереси:
Розвиток засобів атаки завжди викликає засоби оборони.
«Життя у вулику передбачає не регламентовану монотонність, а МЕТАМОРФОЗУ. Коли комаха досягає межі своїх можливостей, вона чудесним чином перетворюється на абсолютно нову істоту. У цій метаморфозі я...
Створили додаток Fawkes для маскування світлин від нейромереж
Світ:
Сучасні нейромережі навчені розпізнавати людей на фото та знаходити їх у соцмережах. Такою можливістю володіє стартап Clearview. Він зібрав мільярди фотографій, щоб створити інструмент для поліції, який видає обліковий запис у Facebook, розкриваючи особистість людини. Тепер дослідники намагаються перешкодити цим системам.
20080402.jpg
Команда комп’ютерних інженерів з Чиказького університету розробила інструмент Fawkes, що маскує фотографії зі змінами на рівні пікселів, які плутають системи розпізнавання осіб, пише Pingvin. Pro.
Інструмент названий на честь маски Ґая Фокса, якою користуються протестувальники в усьому світі. Це програмне забезпечення було доступно для розробників на сайті дослідників минулого місяця. Згодом його завантажили понад 50 000 разів. Дослідники працюють над безкоштовною версією програми для не кодувальників, яку сподіваються зробити доступною найближчим часом.
За словами дослідників, їхня програма здатна маскувати знімок на рівні окремих пікселів, замінюючи певні ключові точки зображення фрагментами інших фотографій. Для заміни використовуються фрагменти архівних фотографій, які максимально неподібні на оригінал. Для людського ока ці зміни будуть непомітними. Проте, для нейромереж картинка буде дуже зміненою, а вони не зможуть її ідентифікувати. Зазначається, що Fawkes вже вдалося обдурити системи пошуку Amazon, Microsoft і китайську Megvii. Надалі ПЗ зможе протистояти й алгоритмам Clearview.
Зараз розробники працюють над вдосконаленням системи. Вони сподіваються, що в майбутньому люди зможуть обробляти свої фото для завантаження в Інтернет завдяки їхньому додатку. А якщо впровадити такий інструмент у велику платформу, на кшталт соціальної мережі, що має доступ до великої кількості зображень, такі як Clearview не зможуть створювати бази даних з особистими фотографіями користувачів.
Розвиток засобів атаки завжди викликає засоби оборони.
Зверніть увагу
«Вулик Геллстрома», «Дюна» і 10 принципів Джигаду – політичний проект Френка Герберта