13.09.2024 Новости, БезопасностьСоциальные сети активно применяют рекомендательные алгоритмы, поощряя пользователей как можно дольше оставаться на платформе. Но эти программные инструменты, использующие искусственные интеллект, не всегда учитывают возраст целевой аудитории. В этом году в США федеральный апелляционный суд вынес решение по делу о гибели десятилетней девочки, погибшей в попытках повторить опасный челлендж из рекомендаций TikTok. Впервые в истории социальных сетей суд решил, что платформы социальных медиа могут нести ответственность за контент, рекомендуемый их алгоритмами. Эксперты Angara Security объяснили, почему рекомендательные алгоритмы несут риски кибербезопасности и как защититься от неприемлемого контента персонализированных рекомендаций. Рекомендательные алгоритмы — продукт машинного обучения со всеми сопутствующими рисками кибербезопасности. Обработка запроса на рекомендацию моделью с недостаточным обучением может выдать нерелевантный ответ. Неконтролируемое использование таких рекомендательных алгоритмов может быть небезопасно. Алгоритм может посоветовать рецептурный препарат с серьезными противопоказаниями к применению и выдать его за безопасный. Или, как в случае с 10-летней Нилой Андерсон из США, предложить ребенку блэкаут-челлендж в соцсети. Рекомендательный алгоритм может быть использован злоумышленниками в результате кибератаки для обучения на продвижение определенного товара или услуги, но может быть и просто не доработан и как следствие — выдавать некорректные рекомендации ...
читать далее.
