ЮНИСЕФ отмечает, что данная проблема настолько серьезна, что в каждом классе может оказаться как минимум один ребенок, ставший жертвой такого рода преступлений.Дипфейки представляют собой изображения, видео или аудиофайлы, созданные с помощью технологий искусственного интеллекта (ИИ), которые выглядят или звучат как настоящие, и все чаще используются для создания сексуализированного контента с участием несовершеннолетних.
"Дети понимают риски, связанные с использованием ИИ. В некоторых странах, участвовавших в исследовании, около 66% детей высказали беспокойство по поводу возможности создания фальшивых сексуальных изображений или видео с их участием", - сообщили исследователи.
Создание дипфейков с сексуальным содержанием рассматривается как формы насилия над детьми, подчеркнули специалисты ЮНИСЕФ.
"Фонд поддерживает инициативы разработчиков ИИ, которые внедряют меры безопасности по умолчанию и надежные механизмы защиты для предотвращения неправильного использования своих технологий," - отметили в организации.
Тем не менее, многие модели ИИ разрабатываются без достаточных мер безопасности. Проблема усугубляется, когда генеративные инструменты ИИ интегрируются в социальные сети, где обработанные изображения могут быстро распространяться.
"Разработчики ИИ должны обеспечить безопасность на этапе проектирования. Все цифровые платформы обязаны предотвращать распространение материалов, содержащих изображения сексуального насилия над детьми, созданные с помощью ИИ, а не просто удалять их после того, как злоупотребление уже произошло," - подчеркивают в ЮНИСЕФ.
Фото на главной странице является иллюстративным: pngtree.com.
