Meta запускає нові системи штучного інтелекту для моніторингу контенту.
У четвер компанія Meta оголосила, що починає впроваджувати більш досконалі системи штучного інтелекту для контролю за контентом, оскільки планує скоротити співпрацю зі сторонніми постачальниками. Завдання, пов'язані з контролем за контентом, включають виявлення та видалення матеріалів про тероризм, експлуатацію дітей, наркотики, шахрайство та афери.
Компанія повідомляє про намір впровадити вдосконалені системи штучного інтелекту у своїх програмах, як тільки вони почнуть стабільно перевершувати існуючі методи моніторингу контенту. Одночасно вона планує знизити свою залежність від зовнішніх постачальників у цій сфері.
"Хоча у нас і надалі будуть люди, які перевірятимуть контент, ці системи зможуть виконувати роботу, яка краще підходить для технологій, наприклад, повторювані перевірки графічного контенту або сфери, де зловмисники постійно змінюють свою тактику, як-от продаж незаконних наркотиків чи шахрайство", -- пояснила Meta у дописі в блозі.
Meta вважає, що ці системи штучного інтелекту можуть виявляти більше порушень з більшою точністю, ефективніше запобігати шахрайству, швидше реагувати на події в реальному світі та зменшити надмірний контроль.
Компанія повідомляє, що результати попередніх випробувань їхніх систем штучного інтелекту виявилися багатообіцяючими. Ці системи здатні виявляти вдвічі більше контенту з пропозиціями для дорослих в порівнянні з командами модераторів, при цьому знижуючи кількість помилкових сповіщень на понад 60%. Крім того, зазначається, що технології можуть ефективніше виявляти та блокувати фейкові акаунти, що імітують знаменитостей та інших відомих осіб, а також запобігати несанкціонованому доступу до акаунтів, виявляючи ознаки, такі як входи з нових місць, зміни паролів або редагування профілів.
Додатково, компанія Meta повідомляє, що їхні системи здатні виявляти та зупиняти приблизно 5 000 спроб шахрайства щодня, коли злочинці намагаються маніпулювати людьми, аби ті поділилися своїми даними для входу.
"Експерти будуть розробляти, навчати, контролювати та оцінювати наші системи штучного інтелекту, вимірюючи їхню ефективність і приймаючи найскладніші рішення, що мають значний вплив", -- написала Meta у своєму блозі. "Наприклад, люди й надалі відіграватимуть ключову роль у прийнятті рішень з найвищим рівнем ризику та найважливіших рішень, таких як оскарження блокування облікових записів або повідомлення правоохоронним органам".
Цей крок відбувається на фоні того, що протягом минулого року компанія Meta поступово зменшила жорсткість своїх правил щодо модерації контенту. Це сталося, зокрема, після того, як Дональд Трамп знову став президентом. У минулому році Meta зупинила свою програму перевірки фактів, яка здійснювалася за участю сторонніх організацій, і перейшла до моделі "Community Notes", схожої на ту, що використовує платформа X. Крім того, компанія скасувала обмеження на "тематику, яка є частиною загальноприйнятого обговорення", і оголосила про намір стимулювати користувачів до "індивідуального" підходу до політичного контенту.
Цей процес також розгортається на фоні того, що Meta та інші провідні технологічні корпорації в даний час мають справу з низкою судових позовів, які спрямовані на те, аби притягнути соціальні медіа-гігантів до відповідальності за шкоду, завдану дітям та молодим користувачам.
У четвер Meta оголосила про запуск нового помічника підтримки під назвою Meta AI, який забезпечить користувачам цілодобову допомогу. Цей помічник буде доступний у додатках Facebook та Instagram для платформ iOS і Android, а також у Центрі допомоги на настільних комп'ютерах Facebook та Instagram.
