Microsoft реалізує цифрові рішення для захисту від дипфейків в інтернеті.

За інформацією MIT Technology Review, компанія Microsoft оголосила про впровадження технічних стандартів, спрямованих на виявлення дипфейків та маніпуляцій з цифровими матеріалами, повідомляє Kreschatic.

Компанія розробила інноваційну систему, яка здатна виявляти втручання у зображення та відеозаписи. Це не стосується перевірки достовірності даних, а зосереджується на виявленні змін або редагувань матеріалів.

Система перевірки включає в себе два методи:

Цей підпис функціонує за аналогією з цифровим відбитком пальця. Кожен користувач або платформа матиме можливість встановити, чи зазнало зображення або відео якихось змін.

Експерти перевірили 60 різних варіацій методів оцінки. Серед них:

В результаті було виявлено комбінації, які гарантують стабільний рівень надійності, а також способи, здатні вводити слухачів в оману.

Необхідність впровадження нових стандартів виникає через стрімке зростання використання контенту, що генерується штучним інтелектом, а також унаслідок змін у законодавстві США. Зокрема, у серпні почне діяти каліфорнійський "Закон про прозорість у сфері ШІ".

У 2021 році Microsoft вперше представила стандарт C2PA, а в 2023 році Google почала позначати контент, створений за допомогою штучного інтелекту, цифровими водяними знаками. Проте наразі залишається невідомим, чи буде нова система впроваджена в платформи, такі як Copilot, Azure або LinkedIn.

Дослідження показують, що нинішні механізми позначення працюють неефективно. Лише близько 30% тестових публікацій у TikTok, YouTube та Instagram отримали коректне маркування як створені штучним інтелектом.

У звіті, опублікованому на платформі Open Minds, зазначається, що попередження щодо штучного інтелекту в коментарях до відео отримували значно менше уваги в порівнянні з тими, які сприймалися як автентичні.

Універсальна стратегія Microsoft спрямована на зниження кількості помилкових сповіщень і підвищення надійності цифрових ресурсів в Інтернеті.